Faz algum tempo que o Instagram vem adotando medidas para combater o bullying. A mais recente entrou em vigor nesta segunda-feira, 16, o novo serviço notificará o usuário que inserir descrições em fotos ou vídeos que possam ser consideradas ofensivas.
O alerta será disparado por um sistema automatizado que usa inteligência artificial para identificar palavras ou frases potencialmente ofensivas. Esse mecanismo é alimentado por uma base de dados que reúne expressões associadas a bullying que foram reportadas nos últimos meses.
De certa forma, o recurso é a extensão de uma funcionalidade implementada no início do ano que combate o bullying em comentários. O Instagram afirma que o retorno sobre essa medida tem sido positivo: de modo geral, os usuários tendem a reconsiderar a sua atitude depois que são notificados.
A novidade é capaz de identificar expressões potencialmente ofensivas na descrição antes de o conteúdo ser publicado. O usuário poderá ignorar a notificação e seguir com a postagem, mas o Instagram espera que repensar a legenda da foto ou vídeo venha a ser a reação mais comum.
Outra expectativa é a de que a medida seja educativa, por assim dizer: o Instagram entende que os avisos podem deixar claro para os usuários que determinadas abordagens não são permitidas na rede social e que as suas contas podem ficar sob risco em caso de violação de regras.
Bullying e outros comportamentos nocivos são problemas constantes na maioria das redes sociais, sobretudo entre o público com menos de 25 anos. Como é impossível monitorar postagens e comentários com teor ofensivo apenas com moderadores humanos, as plataformas têm recorrido cada vez mais à inteligência artificial para esse fim.
Como os algoritmos ainda não são suficientemente precisos na detecção de conteúdo ofensivo, notificar em vez de simplesmente impedir a publicação do conteúdo pode evitar que o Instagram cometa equívocos. Fica claro, portanto, que a rede social vem tentando mitigar o problema do bullying, mas seguindo por caminhos mais seguros.
De acordo com o serviço, a notificação sobre descrições ofensivas chegará primeiro a “países selecionados” e será expandida globalmente nos próximos meses.
Fonte: Tecnoblog
Seja o primeiro a comentar