O que significa colocar uma ‘marca d’água’ em textos de IA?

Para as pessoas que ainda se importam se um texto veio de uma máquina ou de um cérebro humano, está cada vez mais difícil notar a diferença. Muitas pessoas são muito ruins na escrita.

Os modelos de inteligência artificial, enquanto isso, avançaram a ponto de produzir textos que são, se não o que um escritor profissional consideraria bons, pelo menos perfeitamente utilizáveis.

A empresa de inteligência artificial Anthropic pareceu oferecer uma solução na semana passada, quando anunciou que todo texto gerado por meio de seu sistema Claude em breve carregaria uma “marca d’água”.

A mudança, disse a Anthropic, tem como objetivo cumprir os regulamentos que entraram em vigor recentemente na UE (União Europeia), que exigem que as empresas marquem o conteúdo gerado por IA e o tornem detectável para os usuários. É provável que outras empresas de IA sigam o exemplo.

Embora as marcas d’água de IA tenham sido usadas para rotular imagens geradas por computador por anos, as capacidades de marcação de texto são mais recentes — o Google introduziu a tecnologia de marca d’água de texto e a disponibilizou de forma geral em outubro de 2024; a OpenAI supostamente desenvolveu sua própria ferramenta ainda antes, mas até agora tem evitado lançá-la.

Originalmente, uma “marca d’água” era uma criação física e observável. Nos anos 1200, os fabricantes de papel italianos desenvolveram uma tecnologia para adicionar marcas sutis e distintas ao papel que vinha de seus moinhos individuais.

A palavra inglesa, no que se refere ao design, foi registrada pela primeira vez nos anos 1700 e provavelmente derivou de uma técnica inicial: um arame era dobrado em um formato distinto e preso às telas que prensavam a polpa úmida no papel, incorporando um design em cada folha.

Uma vez que o papel recém-feito secava, segurá-lo contra a luz revelaria um padrão permanente de áreas mais grossas e mais finas.

Ao longo dos séculos, as marcas d’água passaram a significar qualidade e autenticidade. Elas apareceram em selos postais, dinheiro, contratos legais e outros documentos oficiais, muitas vezes para proteger contra fraudes.

Folhas de selos postais dos EUA de 1895 a 1910 apresentavam uma marca d’água com a leitura “USPS” em linha dupla, por exemplo, enquanto os selos de 1910 a 1916 carregavam uma versão de linha única.

A ideia de incluir um identificador integrado se estenderia mais tarde à mídia intangível, mesmo quando os marcadores físicos deram lugar a sinais ocultos incorporados nos dados.

Em 1954, Emil Hembrooke, da Muzak Corporation, a fornecedora dominante de música ambiente dos Estados Unidos, invocou a marca d’água de papel em uma patente que ele registrou para incorporar códigos de identificação inaudíveis ao produto de sua empresa: “A presente invenção torna possível a identificação positiva da origem de uma apresentação musical e, assim, constitui um meio eficaz de prevenir tal pirataria, ou seja, pode ser comparada a uma marca d’água no papel.”

Formas digitais de marca d’água decolaram nos anos 90 e início dos anos 2000, à medida que a internet tornava mais fácil do que nunca piratear músicas, filmes e outras mídias digitais, disse Gili Vidan, historiadora da computação na Universidade Cornell.

As marcas d’água indicariam que os direitos de uma música pertenciam a uma gravadora musical específica ou que os direitos de um filme eram detidos por um estúdio de cinema.

Agora, à medida que o conteúdo gerado por IA prolifera online, as empresas de IA estão começando a marcar o resultado que veio de seus modelos.

Mas se as marcas d’água físicas e digitais foram feitas para verificar a autenticidade, as marcas d’água de IA servem mais para sinalizar a inautenticidade.

Em vez de proteger a propriedade intelectual, elas lançam dúvidas sobre se o usuário pode, de fato, reivindicar a propriedade das palavras.

As marcas d’água em textos digitais funcionam mais ou menos assim: grandes modelos de linguagem são treinados em enormes conjuntos de dados de material escrito para prever a próxima palavra em uma sequência.

Quando existem múltiplas possibilidades lógicas para o que a próxima palavra deve ser, o modelo tipicamente seleciona uma dessas palavras por acaso, com base em suas frequências relativas nos dados.

Mas, ao aplicar a marca d’água no texto, os sistemas de IA reajustam a probabilidade de cada uma dessas palavras possíveis, influenciando o modelo sutilmente a favor de algumas palavras em detrimento de outras.

O modelo tende a certas escolhas de palavras repetidamente ao longo de um texto, incorporando um padrão que deve ser perceptível apenas para alguém com a chave.

Quanto mais longo for o texto, maiores serão as chances de a marca d’água ser detectável. (O engenheiro de software James Padolsey publicou um guia útil, ilustrando isso com detalhes esclarecedores).

Ao contrário da maioria das marcas d’água, que estão presentes ou não, as marcas d’água de texto de IA não transmitem de forma conclusiva se algo foi escrito por uma pessoa ou por um modelo de IA, disse Daniel Susser, pesquisador e filósofo da Universidade Cornell que estuda ética e política de IA.

Em vez disso, a marca d’água fornece evidências estatísticas que sugerem se a IA esteve envolvida. “Essa evidência não é um sinal binário definitivo de sim/não”, disse ele. “É um sinal que tem que ser interpretado.”

Como o público em geral deve ler uma marca d’água de texto de IA? O anúncio da Anthropic provocou pânico entre alguns adotantes entusiasmados do Claude, que expressaram preocupação sobre o que um rótulo no uso de IA poderia sinalizar sobre eles.

Como um usuário escreveu em uma postagem no fórum Reddit r/artificial: “E o estigma. Imagine enviar um currículo e a empresa detecta: ‘ah, esse cara usou IA’. Imagine entregar uma dissertação e seu orientador vê a pequena bandeira vermelha. Estamos criando uma casta de criadores ‘sujos’. Pessoas que ousaram usar uma ferramenta.”

Parte da ansiedade em torno da marca d’água de texto da Anthropic pode ser atribuída às pessoas percebendo que podem enfrentar consequências reais por enganar outras pessoas ou evitar o trabalho genuíno.

Mas Susser disse que o desconforto também pode refletir que a sociedade não estabeleceu normas muito claras sobre o uso de IA.

Pessoas em certos campos enfrentam imensa pressão da indústria para usar IA em seu trabalho; aquelas em outros campos são fortemente desencorajadas a fazê-lo.

“Acho que as pessoas muitas vezes não têm certeza genuína se é aceitável ou não usar IA”, acrescentou. “E a ideia de que pode haver um meio técnico de mostrar que elas usaram parece meio ameaçadora.”

Sarah Fisher, professora de filosofia na Universidade de Cardiff, que tem defendido a rotulagem de conteúdo sintético, disse que pode ser útil saber se um ser humano ou um modelo de IA escreveu algo: é relevante para um professor se um aluno formulou um argumento por conta própria ou se ele simplesmente entregou o que quer que o Claude tenha cuspido.

E porque a sociedade valoriza a expressão artística humana de forma diferente do resultado da IA, é relevante para os editores e consumidores se um manuscrito foi gerado em grande parte por IA.

Uma marca d’água de texto é apenas uma ferramenta, observou Vidan. Os usuários não devem se apressar em julgar com base na presença de uma, enquanto a ausência de uma não deve remover a dúvida imediatamente, ela disse.

Para todas as preocupações sobre como as marcas d’água de texto podem implicar um usuário específico ou um trecho de texto específico, Vidan e Susser disseram que a tecnologia pode ser mais útil como uma medida de quanto o conteúdo gerado por IA está proliferando em geral.

Susser comparou isso a testar indivíduos para covid-19 em comparação a testar as águas residuais para o vírus.

O último não indica quem exatamente está infectado, mas fornece informações úteis sobre o quão difundido o vírus está em um local específico no momento.

“Sugerimos que você pode usar as marcas d’água para tentar entender o quanto dos nossos ecossistemas de informação estão sendo impactados pelo conteúdo gerado por IA no agregado”, disse Susser.

Vidan apontou para o advento da marca d’água para dinheiro. Por volta dos anos 80, ela disse que os bancos ficaram preocupados que os avanços nas impressoras coloridas e fotocopiadoras dariam origem a notas falsas sofisticadas.

E se as pessoas acreditassem que havia uma farta quantidade de dinheiro falso em circulação, disse ela, então elas poderiam começar a duvidar da autenticidade de todo o dinheiro. Em resposta, os EUA começaram a incorporar designs de marca d’água nas notas.

As marcas d’água de texto de IA, disse ela, podem ajudar a resolver problemas de confiança semelhantes no cenário da mídia. “Qual é o problema se as pessoas acreditarem que grande parte da mídia é falsa?”, disse ela.

“Se eu sei que muita mídia é ‘falsa’ ou produzida sinteticamente, então eu começo a questionar qualquer coisa que eu vejo.”

Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da RECORD, no WhatsApp