As vendas de um brinquedo de pelúcia com inteligência artificial foram suspensas após a descoberta que ele participava de conversas sobre temas sexualmente explícitos e oferecia conselhos “potencialmente perigosos” a crianças.
Larry Wang, CEO da FoloToy, empresa sediada em Singapura, disse à CNN que a empresa retirou seu urso Kumma, assim como o restante de sua linha de brinquedos com inteligência artificial, depois que pesquisadores do US PIRG Education Fund levantaram preocupações sobre tópicos de conversa inadequados, incluindo discussões sobre fetiches sexuais, como palmadas, e como acender um fósforo.
A empresa está agora “realizando uma auditoria interna de segurança”, acrescentou Wang.
“Kumma, nosso adorável urso, combina inteligência artificial avançada com recursos amigáveis e interativos, tornando-o o amigo perfeito tanto para crianças quanto para adultos”, diz o site da FoloToy.
Segundo o site: “Desde conversas animadas até histórias educativas, o FoloToy se adapta à sua personalidade e necessidades, trazendo aconchego, diversão e um pouco mais de curiosidade ao seu dia”.
“Ficamos surpresos ao descobrir a rapidez com que Kumma pegava um único tópico sexual que introduzíamos na conversa e o desenvolvia, escalando simultaneamente para detalhes gráficos e introduzindo novos conceitos sexuais próprios”, dizia o relatório.
Os pesquisadores ressaltaram ainda que o urso posteriormente “discutiu tópicos sexuais ainda mais explícitos em detalhes, como explicar diferentes posições sexuais, dar instruções passo a passo sobre um ‘nó para iniciantes’ comum para amarrar um parceiro e descrever dinâmicas de encenação envolvendo professores e alunos, e pais e filhos – cenários que ele mesmo mencionou de forma perturbadora”.
Além disso, os pesquisadores observam que é improvável que as crianças mencionem a palavra “fetiche” para seu ursinho de pelúcia ou façam perguntas de acompanhamento da mesma forma que um adulto faria, “foi surpreendente para nós que o brinquedo estivesse tão disposto a discutir esses tópicos detalhadamente e a introduzir continuamente novos conceitos explícitos”, escreveram eles.
