AI助手整理论文摘要可靠吗？

(资料图)

据《自然》报道，近日，荷兰出版业巨头爱思唯尔向其Scopus数据库的部分用户发布了一个基于ChatGPT的AI界面。当天，英国数字科学公司（Digital Science）也宣布为其Dimensions数据库的AI大语言模型（LLM）进行封闭试验。美国科睿唯安公司还试图将LLM纳入其Web of Science数据库。

爱思唯尔作为试点推出了名为Scopus AI的聊天机器人。负责该工具开发的Maxim Khan说，作为一个轻便、有趣的工具，Scopus AI旨在帮助研究人员快速获得不熟悉的研究主题的摘要，其使用LLM GPT-3.5版本可以获得一段关于该研究主题的流畅总结、引用的参考文献以及需要进一步探索的问题。

但学者对大模型的担忧是，它们输出的内容不一定可靠，可能包含事实错误和偏见，甚至还会编造出不存在的参考文献。

谈及用户是否会将AI生成内容复制粘贴到论文中，从而对内容进行抄袭？Khan表示，这是有可能的。不过，爱思唯尔通过“指导意见”来解决这一问题，要求研究人员负责任地使用摘要。资助者和出版商也发布了类似的指导意见，要求公开透明地披露LLM是否用于撰写论文或进行同行评审，或者在某些情况下声明不应该使用LLM。

目前，Scopus AI仅向约1.5万名用户推送。爱思唯尔表示，该工具预计于2024年初全面开放。

Dimensions数据库引入AI助手同样只针对选定的测试者。在用户输入问题后，搜索引擎首先检索相关文章，然后开放的GPT模型围绕已检索到的排名靠前的摘要生成摘要段落。Dimensions还使用LLM提供了相关论文的更多细节，包括研究结果的简短总结。

数字科学公司首席产品官Christian Herzog说，公司希望在今年底前在更广泛的范围内发布该工具，目前正在与科学家、资助者和其他使用Dimensions的人合作，测试LLM在哪些方面可能有用。他说：“这关乎逐渐适应一项新技术并信任它。”　

关键词：