A dona de uma padaria diz que está arrasada porque a conta da empresa nas redes sociais foi encerrada após ser falsamente denunciada por material de abuso infantil.
O perfil do Instagram da Forbes Bakehouse, no centro-oeste de Nova Gales do Sul, que publica principalmente fotos de comida e funcionários, foi suspenso no final de novembro.
A página de mídia social da Forbes Bakehouse mostra principalmente imagens de comida e funcionários. (Fornecido: Giselle Taunton )
A gerente Giselle Taunton disse que a suspensão foi “dolorosa”.
“Se eu pensar nisso por muito tempo, posso chorar”, disse ele.
Algumas semanas depois, os proprietários também perderam o acesso à sua conta do Facebook, embora esta permanecesse pública.
“Tudo começa a passar pela sua cabeça porque todo o nosso negócio depende dessas plataformas para tudo”, disse Taunton.
“Ainda não consigo entender o fato de que nosso negócio era 1.000% dependente de uma plataforma (de mídia social).”
A gerente da padaria disse que tinha acabado de postar a foto de um milkshake quando viu a notificação de que a conta estava bloqueada.
“Pensei: 'Vai ficar tudo bem. Teremos ele de volta amanhã'”.
Taunton disse que ver a conta bloqueada foi “de partir o coração”. (Fornecido: Giselle Taunton )
‘Sem aparente supervisão humana’ em suspensões
O Provedor de Justiça Australiano para Pequenas Empresas e Empresas Familiares (ASBFEO), Bruce Billson, disse em um comunicado que um número crescente de pequenas empresas estava percebendo que suas contas haviam sido bloqueadas pela plataforma anfitriã.
Billson disse que as suspensões pareciam estar ocorrendo “sem qualquer supervisão humana aparente”.
Este ano, a ASBFEO apoiou 482 pequenas empresas em disputas com empresas de redes sociais.
Ele disse que isso poderia ter um impacto “devastador” no tempo e nos recursos de uma pequena empresa e custar-lhes milhares de dólares.
“Em alguns casos, uma pequena empresa pode nunca conseguir recuperar as informações armazenadas numa plataforma digital”, disse Billson.
Taunton disse que a página da padaria no Instagram tinha cerca de 2.500 seguidores.
“Levei muito tempo para entender isso”, disse ele.
IA é comum com moderação
Kerrie Hodder e sua família administram a Forbes Bakehouse. (Fornecido: Facebook )
Rahat Masood, professor sênior da Escola de Engenharia e Ciência da Computação da Universidade de Nova Gales do Sul, disse que havia várias maneiras de excluir contas, mesmo que a conta fosse denunciada.
“Apertar o botão de relatório pode derrubar uma empresa”, disse Masood.
Ele disse que a IA também fazia parte do processo de tomada de decisão para várias empresas de mídia social e que falsas suspensões poderiam ocorrer mesmo com modelos de IA altamente precisos.
Masood disse que o treinamento de IA funciona de maneira semelhante ao treinamento do cérebro humano.
Ao repetir palavras ou imagens associadas a conteúdo impróprio, como discurso de ódio ou nudez, a IA aprende a identificar conteúdo semelhante em outra postagem.
“Quanto mais informações eles veem, mais capacitados eles se tornam”, disse o Dr. Masood.
Ele explicou que poderiam ocorrer erros se o sistema de IA detectasse palavras-chave relacionadas à exploração infantil, como usar “criança” e “gratuito” na mesma frase.
Luta para revogar suspensão
Pouco depois de Taunton perceber que as contas haviam sido suspensas, ele iniciou um processo de apelação que poderia levar até 180 dias.
24 horas depois de a ABC entrar em contato com a Meta para comentar, Taunton recebeu um e-mail da empresa informando que sua conta havia sido restabelecida.
A Forbes Bakehouse, de gerência familiar, comemorou seu 35º aniversário este ano. (Fornecido: Giselle Taunton )
Ele não confirmou como ocorreu a suspensão.
Um porta-voz da Meta disse em comunicado à ABC: “Tomamos medidas em relação a contas que violam nossas políticas e as pessoas podem recorrer se acreditarem que cometemos um erro”.“.
A ABC entende que a Meta depende de uma combinação de inteligência artificial e relatórios para fazer cumprir as diretrizes.
Provedor de Justiça pede melhor supervisão
O ombudsman disse que o governo federal precisava supervisionar melhor as empresas de mídia social que suspendem contas.
“Há uma clara necessidade de governança adequada e supervisão da plataforma, onde a tecnologia decide quais contas justificam o encerramento por supostamente não atenderem aos padrões da comunidade e tem o efeito de negar a uma pequena empresa a oportunidade de operar em uma plataforma digital”, disse Billson.
O governo federal planejou desenvolver requisitos de resolução de disputas para empresas de mídia social, mas não estava claro quando seriam finalizados.
Num comunicado, o Departamento Federal de Comunicações afirmou: “As empresas devem garantir que os seus processos são justos e, se forem cometidos erros, existem procedimentos adequados para que os utilizadores resolvam contas suspensas”.
A Sra. Taunton apoiou o apelo a uma maior supervisão das suspensões de contas.
“Deveria haver muito mais responsabilização por parte das empresas que têm esse controle sobre a vida das pessoas e seus meios de subsistência e são capazes de tirá-lo.”
