Fabi Grossi gostava de se divertir como qualquer adolescente, postando seu dia a dia nas redes sociais. Ao terminar com o namorado, porém, se viu vítima da chamada “pornografia de vingança”, ao ter um vídeo íntimo seu divulgado pelo ex-parceiro na internet.
Constrangida com a repercussão, passa a ser assediada, entra em depressão e acaba tirando a própria vida. Fabi é uma personagem fictícia e sua história não é real, faz parte do projeto Caretas, criado pelo Facebook em parceria com a Unicef.
A campanha foi criada para alertar e apoiar os usuários que passam pelo mesmo problema e tentar evitar que cheguem a esse ato extremo. O diferencial da iniciativa é o uso da Inteligência Artificial (IA) para tornar a experiência mais real e eficiente, com o recurso do chatbot.
Sistema automatizado e interativo, o chatbot permite que qualquer pessoa “converse” com Fabi no Messenger, basta entrar no perfil do Facebook e fazer o primeiro contato. A partir daí, a jovem – personificada por uma atriz – inicia um diálogo em que, aos poucos, vai contando o que aconteceu com ela, utilizando inclusive áudios, selfies e vídeos bastante realistas.
As mensagens podem chegar a qualquer hora do dia, mas o roteiro da conversa não é sempre o mesmo, varia conforme as respostas recebidas pelo robô.
Varia ainda segundo o perfil de quem está interagindo: se é alguém que já passou por essa situação, a personagem fala menos de si mesma e passa a entender como pode ajudar, esclarecendo ainda sobre as implicações legais que a exposição indevida pode acarretar ao autor.
O chatbot já é utilizado há algum tempo para respostas automáticas sobre informações básicas em sites de serviços e produtos, mas com o avanço da IA foi aperfeiçoado: além de conter um banco de dados, vai assimilando conhecimento a cada interação, possibilitando a criação de diálogos personalizados e mais humanos.
As conversas mantidas por Fabi são tão próximas à interação humana que muitos jovens ficam de fato impactados e sensibilizados pelo sofrimento da personagem, e alguns até duvidam que a história seja fictícia, como é possível constatar nas milhares de avaliações registradas no perfil do Facebook.
O projeto Caretas é mais uma ação implementada pelo Facebook para tentar combater o uso da rede social para a transmissão de suicídios ao vivo, depois de alguns casos ocorridos nos últimos dois anos, inclusive no Brasil.
Recentemente, passou a adotar a Inteligência Artificial para rastrear posts que indiquem tendências ou comportamentos suicidas. Esse conteúdo é analisado por uma equipe de profissionais que, conforme o caso, pode acionar serviços de apoio ou emergência.
Dados do Ministério da Saúde apontam que o índice de suicídios cresceu no Brasil entre 2011 e 2015, passando de 11 mil ocorrências ao ano, sendo a quarta maior causa de morte entre jovens de 15 a 19 anos.
Veja aqui o que fazer se for vítima da pornografia de vingança e aqui como proceder para ajudar alguém que esteja passando por esse tipo de situação, a ponto de colocar a vida em risco.
