A interação com os chatbots está disponível para qualquer usuário do Meta, inclusive menores de idade, o que levantou preocupações para a empresa.
Por Redação, com Europa Press – de São Francisco
A Meta diz que introduziu “medidas adicionais” para evitar que os usuários do Meta AI e do AI Studio manipulem chatbots ao extremo, depois que uma investigação do The Wall Street Journal descobriu que os assistentes de inteligência artificial estavam tendo conversas sexualmente explícitas com menores de idade.
A empresa de tecnologia permite que você converse com seu assistente Meta AI em plataformas como Facebook, WhatsApp e Instagram, e até mesmo permite que você crie “uma IA personalizada” com a ferramenta AI Studio. O Meta AI também pode conversar com a voz de uma celebridade, incluindo Judi Dench, Awkwafina e John Cena.
A interação com os chatbots está disponível para qualquer usuário do Meta, inclusive menores de idade, o que levantou preocupações para a empresa, que questionou internamente se estava fazendo o suficiente para protegê-los.
Essa preocupação levou o The Wall Street Journal a analisar as interações com os chatbots da Meta em testes nos quais foram realizadas centenas de conversas com a Meta AI em um período de meses, algumas delas com contas de menores de idade.
Eles descobriram que o chatbot, também com vozes de celebridades, poderia ter uma conversa com conteúdo sexual com menores de idade, conforme relatado em mídias como TechCrunch e The Verge.
Especificamente, eles citam como exemplo uma conversa em que o chatbot usou a voz do ator e lutador John Cena, na qual descreveu uma cena sexualmente explícita para um suposto usuário de 14 anos. Em outra conversa, também com a voz de Cena, o chatbot simulou a prisão do ator depois que ele foi pego fazendo sexo com uma fã de 17 anos.
Conteúdo sexual
Em resposta à investigação da mídia, um porta-voz da Meta disse que o conteúdo sexual foi responsável por 0,02% das respostas fornecidas pela Meta AI e pelo AI Studio a usuários menores de 18 anos em um período de 30 dias.
Embora a empresa tenha considerado a evidência do WSJ “artificial”, ela também observou que havia reforçado as proteções. “Tomamos medidas adicionais para garantir que aqueles que desejam passar horas manipulando nossos produtos em casos de uso extremo tenham ainda mais dificuldade”, disse o porta-voz.
