Num escritório no centro de Londres, a pequena equipa da Signify analisa silenciosamente milhares de mensagens.
A cada momento polêmico durante um jogo, o número de mensagens ofensivas aumenta.
Postagens pop com emojis de macacos e comentários racistas, ameaças de estupro contra parentes de dirigentes e até ameaças de morte, alimentadas exclusivamente por ações em um campo de futebol.
Cada mensagem que o sistema de IA considera ofensiva é verificada duas vezes por humanos, que consideram apenas aquelas que violam as próprias diretrizes das plataformas de mídia social como abuso verificado.
O aumento mais significativo de postagens abusivas ocorreu durante o empate dramático de 2 a 2 do Tottenham com o Manchester United em 8 de novembro, uma partida que viu dois gols nos acréscimos, após o qual os dirigentes de ambos os clubes e vários jogadores sofreram abusos concentrados.
Em mensagens vistas pela BBC, foram enviadas ameaças de morte sobre Amorim, incluindo uma mensagem que dizia “Mate Amorim – alguém, pegue esse português sujo”.
A Lei de Segurança Online, que entrou em vigor em outubro de 2023, impõe um dever legal de cuidado nas plataformas de redes sociais.
Isto significa que são legalmente obrigados a identificar e remover proativamente conteúdos ilegais, como ameaças, assédio ou discurso de ódio. Ofcom é agora o regulador independente responsável por garantir que as plataformas cumpram.
Mas as plataformas sociais argumentam que o direito à liberdade de expressão as torna relutantes em censurar ou remover conteúdos.
A Signify destaca que o problema de abusos graves e ameaças enviadas online está aumentando.
“Temos visto um aumento de aproximadamente 25% ano após ano no número de casos de abuso que detectamos”, disse o CEO Jonathan Hirshler.
“Compreendemos a posição das plataformas sobre a liberdade de expressão, mas algumas das coisas de que falamos são tão flagrantes.
“Ameaças de morte realmente desagradáveis e conteúdo realmente horrível e violento. Se as pessoas que são absolutistas da liberdade de expressão lessem algumas dessas mensagens, não se perguntariam por que algumas delas estão sendo denunciadas e por que é necessário tomar medidas”.
