A OpenAI anunciou nesta segunda-feira (5) a implementação de uma marca-d’água invisível em produções textuais geradas por sua inteligência artificial, seguindo um movimento similar ao realizado por concorrentes do setor para cumprir regulamentações internacionais.
Como funciona a tecnologia textGrain
Batizada de textGrain, a ferramenta altera discretamente as escolhas de vocabulário do modelo tecnológico de modo a formar um padrão estatístico identificável por softwares específicos. O recurso atua diretamente durante a criação do material, manipulando as probabilidades calculadas para os termos seguintes sem inserir caracteres ocultos ou marcas visíveis na cópia final.
Esse método assemelha-se à estratégia adotada pela Anthropic, desenvolvedora do Claude, que passou a utilizar em agosto uma versão do SynthID-Text, sistema criado pelo Google DeepMind. Contudo, a criadora do ChatGPT desenvolveu uma solução própria que, conforme seus testes, igualou ou superou a capacidade de detecção de técnicas concorrentes e será disponibilizada como código aberto.
Restrições geográficas e limitações técnicas
Neste primeiro momento, a novidade será aplicada nas próximas semanas exclusivamente para usuários localizados na União Europeia, visando adequar a empresa às normas de transparência exigidas pelo AI Act. Clientes da API em qualquer região do planeta já podem ativar o mecanismo de forma voluntária em modelos compatíveis, mas o recurso ainda não chega de maneira automática para o público brasileiro.
Apesar da inovação, a ferramenta apresenta vulnerabilidades e não atesta com precisão absoluta se um trecho completo veio de uma máquina. Nos testes informados, textos maiores apresentaram melhor índice de reconhecimento, enquanto modificações manuais derrubaram drasticamente a eficácia do sistema. A troca de um quarto das palavras em um trecho reduziu a taxa de identificação para dezessete por cento.
Devido aos riscos de falhas e de falsos positivos, o detector não será liberado para o público geral logo de início. O acesso inicial ficará restrito a pesquisadores e instituições especializadas previamente selecionadas, enquanto a rival Anthropic optou por implementar sua marca globalmente por não conseguir restringir a ferramenta por região. A empresa reforça que o carimbo não expõe dados de conversas, prompts ou a identidade de quem utilizou o sistema.
Fonte: Portal Canal Tech
