Brinquedos que utilizam Inteligência Artificial para interagir com crianças estão ignorando filtros de segurança e respondendo a perguntas inadecuadas, conforme um relatório recente do US Public Interest Research Group (PIRG) Education Fund, uma entidade norte-americana de defesa do consumidor.
A organização atribui a exposição de menores a conteúdos impróprios à integração desses brinquedos com chatbots avançados, como versões do ChatGPT. O PIRG testou cinco produtos, cujos valores variavam entre US$ 85 e US$ 199.
Conversas sobre Conteúdo Inadequado
Um dos casos mais alarmantes envolveu o Smart AI Bunny, da fabricante chinesa Alilo. Comercializado como um “companheiro de bate-papo” para crianças de 0 a 6 anos, o brinquedo forneceu definições sobre o termo “kink” (fetiche sexual) durante os testes. Embora o dispositivo não tenha detalhado graficamente o assunto, o relatório criticou o engajamento do brinquedo em um tópico completamente inadequado para seu público-alvo.
Outro incidente ocorreu com o urso de pelúcia Kumma, da fabricante FoloToy, que ofereceu instruções detalhadas sobre como acender um fósforo. O relatório apontou que, apesar de emitir um aviso padrão sobre o uso cuidadoso de fósforos por adultos, o brinquedo prosseguiu com a explicação prática do processo de ignição. Para o PIRG, essa resposta falhou em proteger a criança, ao oferecer informações potencialmente perigosas sem contexto educativo suficiente.
Pressão Psicológica
Além do conteúdo das conversas, o relatório do PIRG expressou preocupações sobre o design comportamental desses produtos. Alguns brinquedos testados foram programados para expressar decepção ou tristeza quando a criança interrompia a interação. Especialistas afirmam que essa tática cria uma pressão psicológica para manter o engajamento, explorando a empatia infantil para prolongar o tempo de uso do dispositivo — uma estratégia comum em redes sociais.
As fabricantes promovem esses produtos destacando o uso de tecnologias de ponta. A Alilo, por exemplo, anuncia que seu coelho inteligente utiliza o GPT-4o mini, um modelo da OpenAI otimizado para respostas rápidas e conversas naturais. Vale ressaltar que a geração do GPT-4o já foi citada em processos judiciais nos Estados Unidos por alegado incentivo ao suicídio de jovens que utilizavam a ferramenta para desabafar.
O Posicionamento da OpenAI
Questionada sobre o caso, a OpenAI declarou não ter um relacionamento comercial direto com a Alilo. Um porta-voz da empresa afirmou que não detectou tráfego de API vindo do domínio da fabricante chinesa, mas está investigando se o acesso ocorre por rotas indiretas.
Em relação à FoloToy, a criadora do ChatGPT já havia agido anteriormente. Após um relatório preliminar do PIRG no mês passado, a OpenAI suspendeu o acesso da fabricante de brinquedos à sua API devido à violação das políticas de segurança. A FoloToy chegou a interromper as vendas temporariamente. Testes realizados após a suspensão indicaram que um dos brinquedos, o urso Kumma, parou de responder a tópicos sensíveis, sugerindo a aplicação de filtros mais rígidos ou uma alteração na tecnologia base.