Anthropic推出AI文本水印后,去水印工具大量涌现,法律与伦理争议升温
8月19日,Anthropic上周宣布为部分Claude模型生成的文本添加“不可感知的水印”——一种通过选词统计模式形成的水印,复制粘贴后仍可保留。这一旨在提高AI内容透明度的举措,却引发了意想不到的反弹:有用户因担心翻译、校对等轻度编辑的文本也被标记而取消订阅,同时一批开发者开始迅速开发去水印工具。
在工具层面,仅几天内便出现了多个去水印项目。巴黎创业者Guillaume Meyer发布了开源项目“Watermarks Remover”,通过删除隐藏字符和元数据并改写文本以破坏统计水印模式,项目上线后已获得超1.4万个GitHub Star。此外,面向创业者的Sabrina Ramonov和东京开发者Ansh Aneja也分别推出了相关工具,其中Aneja的工具据称在发布当天便从0用户增长至8500名用户。
法律层面,欧盟《人工智能法案》要求AI公司为生成内容添加持久性标记,但并未明确禁止第三方移除这些标记。苏黎世联邦理工学院研究员Thibaud Gloaguen指出,“总会有办法移除水印”,例如对全文进行重新措辞。马斯特里赫特大学助理教授Konrad Kollnig也表示,无论欧盟法律还是Anthropic服务条款,目前均未明确禁止开发或分享此类工具,但若用户将AI生成内容伪装为人类创作,则可能违反使用政策。
Anthropic表示,水印旨在履行其在欧盟《人工智能法案》下的承诺,并计划在下一代模型发布时同步推出文本检测API。然而,Kollnig指出:“一旦水印检测工具公开,任何人都可以利用检测器检查AI生成内容,并进一步开发移除工具。”这一循环表明,AI水印技术的有效性仍面临技术与法律层面的双重挑战。