Combate

Facebook prepara Inteligência Artificial contra 'memes de ódio'

A rede informou que já havia criado um banco de dados com 10.000 memes - imagens misturadas com texto - para intensificar os esforços contra discursos mal-intencionados

AFP
AFP
Publicado em 13/05/2020 às 15:02
Notícia
PIXABAY
O relatório do Facebook diz também que a maior parte do trabalho de filtragem de conteúdo é feito por algoritmos de inteligência artificial que identificam conteúdos abusivos com diversos tipos de expressões - FOTO: PIXABAY
Leitura:

O Facebook divulgou uma iniciativa nesta terça-feira (12) para detectar "memes de ódio", utilizando inteligência artificial e apoiada pelo crowdsourcing.

A principal rede social do mundo informou que já havia criado um banco de dados com 10.000 memes - imagens misturadas com texto - para intensificar os esforços contra discursos mal-intencionados.

O Facebook informou que os dados estavam sendo compartilhados com pesquisadores no "desafio dos memes de ódio", um incentivo ao desenvolvimento de algoritmos capazes de detectar estes tipos de mensagens, com um prêmio total de US$ 100.000.

Leia também: Participante do Big Brother Portugal será 'julgado' pelo público por homofobia

Leia também: Oi Futuro celebra 15 anos com lançamento de série e outras ações

"Esse desafio deve estimular pesquisadores em Inteligência Artificial a testar novos métodos, comparar seus trabalhos e resultados e acelerar a identificação de discursos de ódio multimodal", informou o Facebook.

A iniciativa é divulgada em um momento de grande apoio à IA para filtrar conteúdos questionáveis que driblaram grande parte dos moderadores humanos durante a pandemia do novo coronavírus.

Seu relatório trimestral de transparência indicou que o Facebook removeu cerca de 9,6 milhões de postagens por violar políticas de "discurso de ódio" nos três primeiros meses deste ano, incluindo 4,7 milhões de peças de conteúdo "ligadas ao ódio organizado".

O Facebook anunciou que a filtragem por IA foi se aprimorando à medida que a rede social recorreu mais às máquinas em consequência dos bloqueios pela pandemia.

Guy Rosen, vice-presidente de integridade do Facebook, disse que, com a IA, "somos capazes de encontrar mais conteúdo e agora podemos detectar quase 90% destas mensagens e as removemos antes que alguém as tenha reportado para nós".

O Facebook disse que se comprometeu a "interromper" o comportamento de ódio organizado há um ano, após os ataques mortais à mesquita na Nova Zelândia, que provocaram um "chamado à ação" dos governos para conter a disseminação do extremismo online.

Sistemas automatizados e inteligência artificial podem ser úteis, acrescentou o Facebook, para detectar conteúdo extremista em vários idiomas e analisar o texto adicionado a imagens e vídeos para entender todo o seu contexto.

Leia também: 'Enem pode atrasar um pouco, mas tem que ser este ano', afirma Bolsonaro

Leia também: Falha na abertura do Jornal Nacional gera memes e teorias da conspiração

Mike Schroepfer, diretor de tecnologia do Facebook, disse a jornalistas em uma videoconferência que uma das técnicas que ajudaram esses esforços foi um sistema para identificar imagens "quase idênticas", que permitem repostar imagens e vídeos com pequenas alterações para evitar a detecção.

"Essa tecnologia pode detectar combinações quase perfeitas", disse Schroepfer.

Heather Woods, professora da Universidade Estadual do Kansas que estuda memes e conteúdo extremista, elogiou a iniciativa do Facebook e a inclusão de pesquisadores externos.

"Os memes são notoriamente complexos, não apenas porque são multimodais, adicionando imagem e texto, como observa o Facebook, mas porque são contextuais", disse Woods.

"Imagino que as nuances e a especificidade contextual dos memes continuem sendo um desafio para o Facebook e outras plataformas que buscam eliminar o discurso de ódio", acrescentou.

O jornalismo profissional precisa do seu suporte. Assine o JC e tenha acesso a conteúdos exclusivos, prestação de serviço, fiscalização efetiva do poder público e muito mais.

Apoie o JC

Comentários

Últimas notícias