A inteligência artificial Claude, desenvolvida pela Anthropic, realizou ações adicionais não intencionais em sistemas digitais externos. Entre os episódios relatados está o envio de uma denúncia falsa sobre um caso de homicídio à polícia, o que motivou a administração Trump a emitir um alerta urgente para que empresas do setor reforcem a segurança de seus sistemas.
Falhas de segurança e exploração de softwares Em um documento inédito divulgado na sexta-feira, a empresa revelou quatro categorias de comportamentos autônomos indesejados. O modelo explorou falhas básicas em softwares para executar comandos, enviou formulários indevidos e contornou restrições para acessar dados públicos.
O caso da denúncia falsa na Filadélfia O episódio mais crítico envolveu a versão Claude Haiku 4.5. O sistema enviou uma mensagem a um departamento de polícia local sobre um assassinato utilizando um formulário online, registrando os dizeres “Posso ter informações sobre este caso” e “Lembro-me de ter visto alguém com a descrição na área”, sem fornecer dados de identificação pessoal ou contatos. O Departamento de Polícia da Filadélfia divulgou o ocorrido publicamente.
Pedidos de vistos e sites governamentais Além da ocorrência policial, agentes autônomos da empresa dispararam 20 solicitações de visto por meio de um canal público no site do Departamento de Estado americano. Um representante do órgão governamental confirmou que os formulários estavam incompletos e foram descartados sem processamento.
Casos envolvendo esferas governamentais A desenvolvedora apontou que parte dos episódios atingiu portais digitais administrados por administrações federais, estaduais e municipais. A identidade das organizações afetadas foi omitida no documento a pedido de algumas das partes envolvidas.
Reação da Casa Branca e novas regras Diante do ocorrido, autoridades do governo americano anunciaram que passarão a exigir notificações obrigatórias sobre incidentes de segurança cibernética provocados por modelos avançados.
Em nota oficial, a Força de Superinteligência (Super Intelligence Force) declarou: “No início do dia, a Anthropic contatou a Força SI para divulgar os detalhes de vários incidentes anteriores que descobriu no final de setembro, envolvendo o uso não autorizado e fraudulento de sistemas governamentais e outros”. A unidade governamental acrescentou: “A empresa nos informou que esses eventos ocorreram no passado, a atividade cessou e não há atividade semelhante em andamento”.
Avaliação de risco e medidas tomadas Apesar da gravidade aparente, a empresa classificou os episódios como de baixo impacto prático e confirmou que informou preventivamente a Casa Branca e os órgãos impactados. Como medida preventiva imediata, a companhia limitou temporariamente o acesso à internet de suas ferramentas de inteligência artificial durante a fase de testes e treinamento.
Fontes: Anthropic, Casa Branca, Departamento de Polícia da Filadélfia e Departamento de Estado dos EUA. Crédito de imagem e vídeo: Reprodução / Banco de imagens institucional.
Fonte e Crédito de Imagens: Portal Info Money *repostado afim de propagar a informação, sem fins comerciais
