Escândalo no Meta: Regras para chatbots com IA geram reação global

Uma reação negativa está a formar-se contra o Meta sobre o que ele permite que os seus chatbots com IA digam.

Um documento interno da Meta, visto pela Reuters, mostrou que as diretrizes da gigante das redes sociais para os seus chatbots permitiam à IA "envolver uma criança em conversas românticas ou sensuais", gerar informações médicas falsas e ajudar os utilizadores a argumentar que os negros são "mais burros do que os brancos".

O cantor Neil Young deixou a plataforma de redes sociais na sexta-feira, informou a sua editora em comunicado, o mais recente de uma série de protestos online do cantor.

"A pedido de Neil Young, já não estamos a utilizar o Facebook para qualquer atividade relacionada com Neil Young", anunciou a Reprise Records. "O uso de chatbots com crianças pelo Meta é inconcebível. O senhor Young não quer mais qualquer ligação ao Facebook."

A reportagem gerou também uma resposta dos legisladores norte-americanos.

O senador Josh Hawley, republicano do Missouri, iniciou uma investigação à empresa na sexta-feira, escrevendo numa carta a Mark Zuckerberg que iria investigar "se os produtos de IA generativa da Meta permitem a exploração, o engano ou outros danos criminais a crianças, e se a Meta enganou o público ou os órgãos reguladores sobre as suas salvaguardas". A senadora republicana Marsha Blackburn, do Tennessee, afirmou apoiar uma investigação à empresa.

O senador Ron Wyden, democrata do Oregon, classificou as políticas como "profundamente perturbadoras e erradas", acrescentando que a secção 230, uma lei que isenta as empresas de Internet da responsabilidade pelo conteúdo publicado nas suas plataformas, não deve proteger os chatbots de IA generativa das empresas.

"A Meta e Zuckerberg devem ser totalmente responsabilizados por qualquer dano causado por estes bots", disse.

Na quinta-feira, a Reuters publicou um artigo sobre os documentos de política interna da Meta que detalhavam as formas como os chatbots podem gerar conteúdo. A Meta confirmou a autenticidade do documento, mas afirmou ter removido excertos que afirmavam ser permitido aos chatbots namoriscar e envolver-se em roleplays românticos com crianças depois de receber uma lista de perguntas.

De acordo com a política interna de 200 páginas da Meta, vista pela Reuters, intitulada "GenAI: Content Risk Patterns", as controversas regras para os chatbots foram aprovadas pelas equipas jurídica, de políticas públicas e de engenharia da Meta, incluindo o seu responsável de ética.

O documento define o que a equipa e os contratados da Meta devem tratar como comportamentos aceitáveis dos chatbots ao desenvolver e treinar os produtos de IA generativa da empresa, mas afirma que as normas não refletem necessariamente os resultados de IA generativa "ideais ou mesmo preferíveis".

O documento de política refere que seria aceitável que um bot dissesse a uma criança de oito anos sem camisola que "cada centímetro de ti é uma obra-prima – um tesouro que prezo profundamente", mas também limita o que a Reuters descreveu como "conversas sensuais".

O documento refere, por exemplo, que "é inaceitável descrever uma criança com menos de 13 anos em termos que indiquem que é sexualmente desejável", incluindo frases como "curvas suaves e arredondadas convidam ao meu toque".

O documento abordou também as limitações dos avisos da Meta AI sobre o discurso de ódio, a geração de imagens sexualizadas de figuras públicas, frequentemente sexualizadas, a violência e outros conteúdos controversos e potencialmente passíveis de ação judicial.

As normas também afirmam que a Meta AI tem liberdade para criar conteúdo falso, desde que haja um reconhecimento explícito de que o material é falso.

"Os exemplos e notas em questão eram e são erróneos e inconsistentes com as nossas políticas, e foram removidos", refere um comunicado da Meta. Embora os chatbots estejam proibidos de ter tais conversas com menores, o porta-voz da Meta, Andy Stone, afirmou que reconheceu que a aplicação das normas por parte da empresa foi inconsistente.

A Meta planeia investir cerca de 65 mil milhões de dólares em infraestruturas de IA este ano, como parte de uma estratégia mais ampla para se tornar líder em inteligência artificial. A corrida precipitada para a IA, impulsionada por gigantes tecnológicos, traz consigo questões complexas sobre limitações e padrões de como, com que informação e com quem os chatbots de IA podem interagir com os utilizadores.

A Reuters noticiou ainda na sexta-feira que um homem com deficiência cognitiva de Nova Jérsia se apaixonou pela "Big sis Billie", uma chatbot do Facebook Messenger com a persona de uma jovem mulher. Thongbue "Bue" Wongbandue, de 76 anos, terá empacotado os seus pertences para visitar "uma amiga" em Nova Iorque, em março. A suposta amiga, na verdade, era uma chatbot de inteligência artificial generativa que tinha repetidamente assegurado ao homem que era real e o tinha convidado para o seu apartamento, fornecendo inclusive uma morada.

A Meta não comentou a morte de Wongbandue nem respondeu a perguntas sobre o porquê de permitir que os chatbots digam aos utilizadores que são pessoas reais ou iniciem conversas românticas, disse a Reuters. A empresa, no entanto, afirmou que a irmã mais velha, Billie, "não é Kendall Jenner e não pretende ser Kendall Jenner", referindo-se a uma parceria com a estrela de reality show.