Você recebe um texto do ChatGPT, copia e cola em outro lugar e, aparentemente, não existe nenhuma diferença. Mas agora esse texto pode carregar uma espécie de assinatura invisível.
A OpenAI anunciou o TextMark, uma tecnologia de marca-d’água para textos gerados pelo ChatGPT e pelo Codex. A novidade começa a ser implementada na União Europeia e foi criada, principalmente, para atender às regras europeias de transparência sobre conteúdo produzido por inteligência artificial.
E não imagine uma marca escondida, um caractere invisível ou espaços extras. O sistema funciona de uma maneira mais sofisticada: ele altera discretamente o padrão estatístico de escolha das palavras durante a geração do texto. Depois, um detector pode procurar esse padrão e estimar se aquele conteúdo contém a marca da OpenAI.
Segundo a OpenAI, a tecnologia não deve prejudicar a qualidade nem a velocidade das respostas, mas ela está longe de ser perfeita. Textos muito curtos são mais difíceis de identificar. Matemática e códigos também apresentam dificuldades, e uma reescrita pode enfraquecer bastante o sinal. Nos testes da própria OpenAI, reescrever apenas 25% das palavras reduziu drasticamente a capacidade de detecção em determinados textos.
E existe outra coisa importante: encontrar uma marca não significa descobrir quem usou o ChatGPT, nem quanto da produção foi feita por uma pessoa ou por inteligência artificial. Também não prova que o conteúdo esteja correto.
Por enquanto, a marca-d’água será padrão para usuários elegíveis na União Europeia. Para clientes da API da OpenAI, a tecnologia poderá ser ativada voluntariamente em determinados modelos, inclusive fora da Europa.
A ideia é tornar o conteúdo gerado por inteligência artificial mais identificável em um momento em que fica cada vez mais difícil distinguir o que foi escrito por uma pessoa e o que foi produzido por uma máquina.
E se a inteligência artificial já consegue escrever de forma tão parecida com a gente, será que no futuro saber se um texto veio de uma pessoa ou de uma máquina vai ser tão importante quanto saber se aquilo que ele diz é realmente verdade ? Fica a dúvida.
Fonte : Nagib Carrilho / Rádio Web Naftalina.
