Facebook cria tecnologia para identificar discurso de ódio

15 de setembro de 2018

O Facebook está utilizando uma nova ferramenta de reconhecimento de imagens e dos textos a elas associados para identificar de forma ágil conteúdos que violem suas políticas de discurso de ódio.

A tecnologia baseia-se em um sistema de aprendizado de máquina (machine learning) em larga escala, capaz de processar o massivo volume de imagens publicadas na rede social – e no Instagram – diariamente.

Batizado de Rosetta – em referência à Pedra de Roseta, bloco de granito cuja descoberta permitiu a compreensão da escrita hieroglífica – o sistema procura desempenhar uma tarefa fundamental.

Não apenas identificar as letras, mas compreender seu contexto e associá-las com a imagem a que estiverem vinculadas.

Diferente das tecnologias tradicionais de reconhecimento ótico de caracteres (OCR, na sigla em inglês) que não conseguem cumprir tarefas mais complexas.

“Para solucionar nossas necessidades específicas, construímos e implementamos um sistema de machine learning em larga escala chamado Rosetta”, explicam os criadores da tecnologia, em um artigo divulgado pelo Facebook.

“Ele extrai texto de mais de 1 bilhão de imagens e frames de vídeos públicos do Facebook e do Instagram (em uma extensa variedade de idiomas), diariamente e em tempo real, e o introduz em um modelo de reconhecimento de texto, que recebeu treinamento em classificadores para entender o contexto do texto e da imagem conjuntamente”.

Ferramenta em ação

A extração do texto da imagem é realizada, de acordo com os desenvolvedores, em um processo em duas etapas. Inicialmente, o sistema detecta regiões retangulares que potencialmente contenham textos.

No segundo passo, é desempenhado o reconhecimento do texto, em que, para cada uma das regiões detectadas é utilizado uma rede neural convolucional para reconhecer e transcrever a palavra naquela região, segundo o Facebook.

O desafio de processar bilhões de imagens com bom desempenho e rapidez é considerável, conforme aponta Eduardo Oda, doutor em matemática aplicada, especialista em ciência de dados e pesquisador do Programa de Pós-Doutorado do Laboratório Interdisciplinar de Neuroimagem e Cognição da Universidade Federal de São Paulo (Unifesp).

“Trata-se de um volume gigantesco de imagens a processar, por isso o desafio é tão grande. As redes neurais são mais espertas para entender onde estão os textos do que a tecnologia de OCR”, avalia.

De acordo com Eduardo Oda, a novidade do sistema desenvolvido pelo Facebook está na união bem-sucedida de tecnologias já estabelecidas, o que permite capacidade de processamento acelerado e análise acurada de seus temas – de modo a identificar conteúdos negativos.

“Este é um problema crescente em todo o mundo e por isso o Facebook fez esse esforço para encontrar uma solução viável”, conclui.

Fonte: Dialogando - Facebook cria tecnologia para identificar discurso de ódio Dialogando

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Newsletter

Receba nossas notícias e fique por dentro de tudo ;)

Nós utilizamos cookies para melhorar sua experiência em nosso site. Se você continuar navegando, consideramos que está de acordo com a nossa Política de Privacidade.

Telefonica