A Anthropic publicou um esclarecimento detalhado sobre o funcionamento da marca de água invisível aplicada nos textos gerados pelo Claude. A medida surge em resposta à apreensão de vários clientes, desencadeada pela decisão de cumprir o Código de Transparência do Regulamento Europeu da Inteligência Artificial. A empresa garante que a alteração não afeta a qualidade nem a utilidade das respostas produzidas.
Como funciona o padrão estatístico no texto
O sistema adota a tecnologia SynthID-Text, apresentada originalmente em 2024 pela equipa da Google DeepMind. Em vez de introduzir marcas visíveis, o modelo faz escolhas subtis entre palavras equivalentes durante a geração da resposta — por exemplo, ao optar entre termos como "nublado" ou "cinzento". Essa seleção cria um padrão estatístico impercetível para quem lê, mas identificável por chaves de verificação dedicadas. A empresa adiantou que pretende disponibilizar uma aplicação (API) para a deteção deste marcador.
Esta abordagem distingue-se dos detetores de inteligência artificial tradicionais, que tentam identificar construções frásicas ou vícios de escrita recorrentes. Quanto à possibilidade de contornar a proteção, edições ligeiras no texto não eliminam a marca de água. Todavia, uma reescrita completa em que cada palavra seja substituída acaba por remover o padrão. No caso de textos humanos submetidos apenas pararevisão, a retenção do marcador depende da dimensão das edições efetuadas pelo assistente.
Impacto reduzido na programação e no código
No desenvolvimento de software, o impacto desta funcionalidade é praticamente nulo. Como a escrita de código exige regras sintáticas e lógicas rígidas, o modelo não dispõe da mesma liberdade de escolha de termos que existe na linguagem natural. A marca de água apenas poderá estar presente em elementos arbitrários, como nomes de variáveis ou comentários inseridos ao longo do ficheiro. Os programadores não verão, assim, a execução ou o funcionamento das suas aplicações afetado.
A implementação destas marcas de água insere-se num compromisso mais amplo da indústria, dado que outros grandes criadores de modelos de linguagem assinaram o mesmo código de conduta europeu e vão introduzir sistemas idênticos.
Nenhum comentário
Seja o primeiro!