Quando se trata de ambientes virtuais, onde os usuários podem expressar também sua agressividade, alguns jogos on-line podem tornar-se espaços muito hostis. De maneira geral, a agressividade sem filtros e a falta de consideração por regras de conduta respeitosas em alguns ambientes digitais não é algo tão raro.
Um dos exemplos de como a agressividade sem filtros pode tornar os ambientes mais tóxicos é o caso do game League of Legends. Dentre os milhões de jogadores, era de se esperar que preconceitos, discriminações e várias formas de violência presentes nas sociedades se manifestem ali também. Seus criadores, a Riot Games, reconhecem a dificuldade de coibir comportamentos excessivamente agressivos – especialmente nas questões de raça, gênero e orientação sexual.
É importante diferenciar a expressão gratuita da agressividade entre usuários, apenas com objetivo de humilhar e discriminar e a trama do jogo em sí, que também pode conter uma temática violenta. Essas diferenças precisam estar claras para que todos os participantes possam perceber quando existe algo de errado acontecendo.
Com inteligência artificial
A primeira fase do trabalho começou em 2011 com a criação do “Tribunal”, um espaço no qual os próprios jogadores denunciam colegas que desrespeitam as regras de conduta. Outros membros da comunidade avaliam a reclamação e votam se aquele comportamento é aceitável ou não. Como numa corte, decidem se aquela pessoa é inocente ou culpada – determinando uma punição, que pode ir de uma advertência a uma suspensão.
Três anos mais tarde, em 2014, depois de aprender com dezenas de milhões de casos e julgamentos, a Riot Games começou a operar um mecanismo de inteligência artificial que tem a vantagem de dar respostas muito rápidas num processo quase todo automatizado. Hoje, se um jogador usa um palavrão contra outro, o sistema manda imediatamente uma mensagem com uma advertência. A velocidade de feedback que só a inteligência artificial pode dar fez o número de agressões verbais despencarem 40% desde então. A comunidade também continua participando do processo, só que agora com a mediação da inteligência artificial, que define as sanções. Apesar de apresentar resultados positivos, essa tecnologia não colabora para criação de uma consciência e responsabilização quanto aos usuários, ponto fundamental no estabelecimento de uma convivência digital menos violenta.
A tecnologia fez escola
O Google lançou recentemente uma ferramenta batizada de Perspective, que usa inteligência artificial para localizar comentários que podem ser qualificados como bullying. O sistema compara novos comentários on-line com outros marcados como agressivos em diversos sites diferentes e toma decisões, como suspender o acesso do usuário tóxico ou suspender seus comentários.
A Riot Games acredita que a participação da comunidade é importante porque não se trata apenas de punir os excessos, mas de educar e “reformar” o comportamento das pessoas. “A gente pensava antes que jogos on-line e comportamento tóxico andavam de mãos dadas”, conta Jeffrey Lin, ex-designer de sistemas sociais da Riot Games que colocou em prática a inteligência artificial no League of Legends. “Mas descobrimos que a esmagadora maioria dos jogadores considera que o comportamento tóxico é repugnante”, acrescenta Lin, doutor em neurociência cognitiva.
De maneira geral, as noções de civilidade precisam estar presentes em todas as relações humanas, sendo que no meio digital não é diferente. Afinal, mesmo que não estejamos frente a frente com as centenas de pessoas com as quais nos relacionamos por meio da tecnologia, todas as interações geram sentimentos e reações. A melhoria da qualidade desses ambientes depende, principalmente, da mudança do comportamento de cada um.
