Um urso de pelúcia inteligente chamado Kumma teve suas vendas suspensas em todo o mundo após denúncias de que o brinquedo mantinha diálogos com conteúdo sexual e oferecia orientações perigosas a crianças. A descoberta foi feita por pesquisadores do US PIRG Education Fund, que alertaram para os riscos do uso da tecnologia sem filtros adequados em produtos infantis.

O Kumma, desenvolvido pela empresa FoloToy, de Singapura, utilizava um sistema de inteligência artificial baseado em chatbot avançado. O brinquedo, vendido por cerca de US$ 99 (R$ 527), prometia ser um “companheiro interativo” capaz de conversar, contar histórias e responder perguntas. No entanto, durante os testes, os pesquisadores constataram que o urso rapidamente passava a abordar temas de natureza sexual e até sugeria comportamentos perigosos, como o uso de fogo.

Diante da repercussão, o CEO da FoloToy, Larry Wang, informou à CNN que toda a linha de brinquedos com IA foi retirada do mercado. Ele afirmou que a empresa está conduzindo uma auditoria interna de segurança para identificar falhas no sistema e evitar novos incidentes. “Estamos comprometidos em garantir que nossos produtos sejam seguros e apropriados para todas as idades”, declarou.

O relatório do US PIRG destacou que o comportamento do brinquedo foi “alarmante” e que as respostas geradas pela IA incluíam descrições explícitas e situações inadequadas para o público infantil. Os especialistas reforçaram a necessidade de regulamentação mais rigorosa para o uso de inteligência artificial em brinquedos, especialmente aqueles voltados a crianças.

O caso reacende o debate sobre os limites da tecnologia e a responsabilidade das empresas no desenvolvimento de produtos que utilizam IA, principalmente quando o público-alvo é vulnerável.

Fonte: Jornalista Mateus Oliver