OpenAI撤回了自己的AI检测工具因为它的性能太差

(资料图片仅供参考)

不到六个月前，当OpenAI推出人工智能检测工具时，它承认旨在帮助用户识别人工智能编写的文本的功能“不完美”。现在，由于该功能“准确度低”，该公司已经悄悄取消了该功能。

该公告以2023年1月OpenAI宣布该功能的博客文章更新的形式发布。该帖子顶部的注释现在写着：“自2023年7月20日起，人工智能分类器由于准确率较低而不再可用。”更新内容接着说，该公司“目前正在研究更有效的文本来源技术”。

该功能可以免费使用，其工作原理是获取文本并将其分配给几个类别之一。然后，人工智能将分析这些类别，并根据人工智能编写的从“非常不可能”到“可能”的排名进行排序。

当该工具首次亮相时，OpenAI政策研究总监LamaAhmad告诉CNN，OpenAI不建议单独使用该工具，因为该公司知道“它可能会出错，有时也会出错”。这可能是轻描淡写的说法。

本月早些时候的一项研究表明，人工智能检测器在识别母语不是英语的人所写的内容方面尤其糟糕，平均漏检率为61%。然而，这项研究中的一个程序错误地标记了高达97%的人类撰写的论文。

今年早些时候，ZDNET测试了几种人工智能检测工具，发现了类似的结果——这些工具相当不准确，而且很容易被欺骗。

关键词：