【ITBEAR】8月5日消息，随着生成式人工智能技术的飞速发展，如OpenAI推出的ChatGPT等应用，已经在撰写邮件、设计文案、编程和翻译等多个领域为用户提供了极大的便利。然而，随着这些技术的广泛应用，其潜在问题也逐渐浮出水面。
近期，关于学生滥用生成式AI完成作业和论文的现象引发了社会的广泛关注。更令人震惊的是，部分学术论文中也出现了来自生成式AI的内容，这无疑对学术诚信构成了威胁。在此背景下，如何确保内容的真实性和来源的可靠性成为了亟待解决的问题。
据ITBEAR了解，为了应对这一问题，行业领军企业OpenAI正在积极研发新的技术手段。据最新报道，OpenAI正在为ChatGPT测试一种文本水印技术。这种水印技术在检测文本释义等局部变化时展现出了高度的准确性。尽管OpenAI尚未公开这项技术的具体运作方式，但业内普遍猜测，它可能是在生成的文本中嵌入隐藏的标识符，以便于追踪和验证内容的来源。
然而，这项技术也面临着诸多挑战。一方面，当文本经过翻译工具或其他模型的处理后，水印的识别可能会受到影响;另一方面，有研究表明，文本水印可能会对某些特定用户群体，如使用ChatGPT作为写作辅助工具的非母语写作者产生影响。
除了文本水印技术外，OpenAI还在探索其他方法来确认文本内容的来源。例如，通过加密签名的元数据来提供一种更可靠的方式来跟踪文本的来源;同时，他们也在研发检测分类器，这是一种利用AI技术来识别文本是否由OpenAI模型生成的工具。这些举措旨在确保生成式AI技术的健康发展，并维护内容的真实性和来源的可靠性。
