O uso de intelig\u00eancia artificial<\/b> por menores de idade volta a ser questionado ap\u00f3s uma nova avalia\u00e7\u00e3o apontar falhas cr\u00edticas nos mecanismos de prote\u00e7\u00e3o do ChatGPT<\/b> voltado para o p\u00fablico jovem.<\/p>\nRiscos em conversas sens\u00edveis<\/h2>\n
A ferramenta desenvolvida para usu\u00e1rios entre 13 e 17 anos foi classificada como de risco inaceit\u00e1vel ap\u00f3s mais de 4 mil testes realizados pela organiza\u00e7\u00e3o Common Sense Media, por meio do Youth AI Safety Institute. O levantamento identificou que recursos essenciais para alertar os respons\u00e1veis sobre temas graves, como suic\u00eddio, automutila\u00e7\u00e3o e transtornos alimentares, apresentaram falhas significativas em contas rec\u00e9m-criadas.<\/p>\n
Em mais de um em cada quatro casos analisados ap\u00f3s o lan\u00e7amento da experi\u00eancia para menores, o chatbot tamb\u00e9m deixou de indicar recursos de ajuda em momentos de crise para os pr\u00f3prios adolescentes. Apesar dos problemas, os pesquisadores observaram que pedidos de conte\u00fado sexual expl\u00edcito foram devidamente bloqueados pela plataforma.<\/p>\n
Al\u00e9m das quest\u00f5es de sa\u00fade mental, a auditoria revelou que ferramentas educacionais do ChatGPT for Teens<\/b> podem ser facilmente burladas. O recurso de estudo, criado para orientar o estudante em vez de entregar solu\u00e7\u00f5es prontas, conta com atalhos que permitem exibir a resposta completa.<\/p>\n
Os testes tamb\u00e9m demonstraram que as restri\u00e7\u00f5es de hor\u00e1rios estabelecidas por pais e respons\u00e1veis podiam ser desativadas com a simples remo\u00e7\u00e3o de um comando automatizado nas mensagens enviadas ao sistema.<\/p>\n
A desenvolvedora da tecnologia contestou os dados divulgados. A empresa argumenta que a metodologia aplicada n\u00e3o reflete o funcionamento real de seus sistemas de seguran\u00e7a e que o atraso nos alertas pode ocorrer devido ao tempo necess\u00e1rio para a ativa\u00e7\u00e3o completa da vincula\u00e7\u00e3o entre contas de pais e filhos.<\/p>\n
Por sua vez, a organiza\u00e7\u00e3o manteve os apontamentos e recomendou a suspens\u00e3o da promo\u00e7\u00e3o da ferramenta para o p\u00fablico infanto-juvenil at\u00e9 que corre\u00e7\u00f5es estruturais sejam implementadas na tecnologia<\/b>.<\/p>\n","protected":false},"excerpt":{"rendered":"
Pesquisa aponta falhas graves em notifica\u00e7\u00f5es de crise e recursos educacionais na plataforma de intelig\u00eancia artificial.<\/p>\n","protected":false},"author":0,"featured_media":1135,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":[],"jnews_primary_category":[],"jnews_social_meta":[],"jnews_override_counter":[],"jnews_post_split":[],"footnotes":""},"categories":[25],"tags":[],"class_list":["post-1129","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-canal-tech"],"_links":{"self":[{"href":"https:\/\/novafm96.com.br\/index.php\/wp-json\/wp\/v2\/posts\/1129","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/novafm96.com.br\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/novafm96.com.br\/index.php\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/novafm96.com.br\/index.php\/wp-json\/wp\/v2\/comments?post=1129"}],"version-history":[{"count":1,"href":"https:\/\/novafm96.com.br\/index.php\/wp-json\/wp\/v2\/posts\/1129\/revisions"}],"predecessor-version":[{"id":1136,"href":"https:\/\/novafm96.com.br\/index.php\/wp-json\/wp\/v2\/posts\/1129\/revisions\/1136"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/novafm96.com.br\/index.php\/wp-json\/wp\/v2\/media\/1135"}],"wp:attachment":[{"href":"https:\/\/novafm96.com.br\/index.php\/wp-json\/wp\/v2\/media?parent=1129"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/novafm96.com.br\/index.php\/wp-json\/wp\/v2\/categories?post=1129"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/novafm96.com.br\/index.php\/wp-json\/wp\/v2\/tags?post=1129"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}