探索如何在AI系统编写的作品中添加隐藏的电子水印

具有用于水印检测的 AUC 值的 ROC 曲线。显示了用于 （a） 多项式采样和 （b） 具有 8 向波束搜索的贪婪解码的几种水印参数δ选择。（三，四）具有半对数轴的相同图表。更高的δ值可实现更强的性能，但此外，我们还看到，对于给定的δ，光束搜索允许水印捕获比多项式采样方案下的相应参数略多的AUC

马里兰大学的一个计算机科学家团队开发了一种为人工智能系统生成的文本添加水印的方法。他们在arXiv预印本服务器上发表了一篇描述他们的方法的论文。

文本生成AI系统（如ChatGPT）最近经常出现在新闻中。一些新闻网站报道说，学生被发现使用聊天机器人为他们写论文。其他感兴趣的各方已经在考试中测试了它们的使用，发现它们表现良好。

与此同时，教师、教授和教育领域的其他人越来越关注如何进行，因为他们无法判断学生上交的论文是否由人工智能系统撰写。在这项新的努力中，马里兰州的小组开发了一种帮助那些有此类担忧的人的方法——使用水印。

就像现金或其他印刷文件一样，水印是隐藏在印刷材料中的信息，只能在特定条件下看到，例如在特殊光线下。研究人员建议，像ChatGPT的制造商OpenAI这样的公司可以在他们的机器人创建的文本中添加标识符，这些标识符不能被临时用户（学生）看到，但可以被教师使用的软件应用程序检测到。要使这种方法发挥作用，大多数或所有人工智能文本生成器的制造商都必须自愿或在政 府执法下购买该计划。

在人工智能生成的文本中创建水印不仅仅涉及向文本文件添加一些元数据（如照片），因为生成的文本可以使用智能手机或其他设备轻松复制。

因此，水印必须存在于文本中而不是文本后面。为了创建这样的水印，马里兰州的团队指出，文本生成系统的工作原理是在生成文本时一次预测和选择一个单词，并且它们以可预测的方式进行。当文本生成器工作时，它会选择看起来很合适的单词，然后必须将其列入其他代码的绿色列表，然后才能使用它们。

研究人员指出，人工智能编写的文本往往比人类编写的文本有更多的绿色列表单词，这表明一种可以用作水印的模式。他们编写了一种能够检测这些单词的算法，并发现它非常可靠地工作。他们指出，他们的方法可能只适用于某些人工智能系统，但建议可以为其他系统构建其他水印系统。