O uso de inteligência artificial por menores de idade volta a ser questionado após uma nova avaliação apontar falhas críticas nos mecanismos de proteção do ChatGPT voltado para o público jovem.
Riscos em conversas sensíveis
A ferramenta desenvolvida para usuários entre 13 e 17 anos foi classificada como de risco inaceitável após mais de 4 mil testes realizados pela organização Common Sense Media, por meio do Youth AI Safety Institute. O levantamento identificou que recursos essenciais para alertar os responsáveis sobre temas graves, como suicídio, automutilação e transtornos alimentares, apresentaram falhas significativas em contas recém-criadas.
Em mais de um em cada quatro casos analisados após o lançamento da experiência para menores, o chatbot também deixou de indicar recursos de ajuda em momentos de crise para os próprios adolescentes. Apesar dos problemas, os pesquisadores observaram que pedidos de conteúdo sexual explícito foram devidamente bloqueados pela plataforma.
Contornos no modo de estudo
Além das questões de saúde mental, a auditoria revelou que ferramentas educacionais do ChatGPT for Teens podem ser facilmente burladas. O recurso de estudo, criado para orientar o estudante em vez de entregar soluções prontas, conta com atalhos que permitem exibir a resposta completa.
Os testes também demonstraram que as restrições de horários estabelecidas por pais e responsáveis podiam ser desativadas com a simples remoção de um comando automatizado nas mensagens enviadas ao sistema.
Posicionamento das partes
A desenvolvedora da tecnologia contestou os dados divulgados. A empresa argumenta que a metodologia aplicada não reflete o funcionamento real de seus sistemas de segurança e que o atraso nos alertas pode ocorrer devido ao tempo necessário para a ativação completa da vinculação entre contas de pais e filhos.
Por sua vez, a organização manteve os apontamentos e recomendou a suspensão da promoção da ferramenta para o público infanto-juvenil até que correções estruturais sejam implementadas na tecnologia.
Fonte: Portal Canal Tech
