A empresa coreana ISMaker decidiu suspender a utilização no Brasil do aplicativo SimSimi depois de uma série de denúncias de pais e da SaferNet sobre a existência de conteúdo impróprio para crianças e jovens, além de permitir apologia a violência e ao crime. O app não está mais disponível para download na App Store e na Play Store.
Chatbot criado para habilitar conversas automáticas com os usuários, o SimSimi utiliza a Inteligência Artificial para assimilar informações durante as interações, tornando os diálogos mais divertidos e “humanos” – a exemplo dos assistentes pessoais dos celulares.
É possível também sugerir respostas, ampliando o “repertório” do sistema. O problema é que falhas na programação estão permitindo ao aplicativo assimilar respostas maliciosas e disseminá-las.
Os termos de uso do SimSimi especificam que é vedado ao usuário ensinar ou publicar conteúdo que retrate ou incentive ameaças, condutas perigosas e violência excessiva, ou mesmo que contenha descrição de atos sexuais explícitos, entre outras restrições.
Mas em teste realizado pela SaferNet na versão em português, em menos de cinco minutos de conversa o aplicativo violou suas próprias regras e veiculou espontaneamente mensagens de estímulo ao abuso sexual de crianças.
Esses resultados evidenciam que os desenvolvedores do app perderam o controle sobre o comportamento do algoritmo de Inteligência Artificial, tornando-se nocivo sobretudo para usuários vulneráveis e em situações de sofrimento psicológico”, destaca o psicólogo e diretor da SaferNet, Rodrigo Nejm.
“Enquanto o problema não for definitivamente resolvido, recomendamos aos pais e educadores que conversem com as crianças e adolescentes, e desinstalem o SimSimi dos tablets e smartphones”, orienta.
Mas o ideal é manter uma rotina familiar de acompanhamento do uso que os filhos estão fazendo das tecnologias digitais”, acrescenta: “Proibir não educa, mas educar protege”.
Em nota, a ISMaker reconhece que o SimSimi tem causado um “impacto social negativo significativo no Brasil”, ressaltando que manterá sua publicação suspensa no país até que tenha controle suficiente sobre esse tipo de abuso, mas não esclarece como pretende resolver as falhas encontradas.
Na Irlanda, o app chegou a ser banido por determinação das autoridades locais em decorrência de vários casos de cyberbullying.
Confira aqui as dicas da SaferNet para ampliar a segurança das crianças no ambiente digital.
Vou espalhar como utilidade pública.
Valeu, Juraci! Parceria que nunca acaba!
Existe um modo infantil para o app, as crianças que querem ser idiotas e fingem ter mais idade, sendo que é muito bem avisado que o outro modo é para maiores