首页>论坛 > 正文

BDS国家工程中心:目前大型语言模型普遍面临提示注入攻击安全风险

2023-07-06 20:56:02    出处:中钢网


(资料图片仅供参考)

7月6日,大数据协同安全技术国家工程研究中心(BDS国家工程中心)官网发布国内首份《大语言模型提示注入攻击安全风险分析报告》。测评结果显示,目前的大型语言模型普遍面临提示注入攻击安全风险,包括在自动问答系统中误导用户,或者通过对话系统中的输入操纵回答结果。报告指出,提示注入攻击已成大模型安全威胁之首,建议从安全测评、安全防御、安全监测预警等方面,多维度提升大模型的安全性。

关键词:

消费
产业
紫燕百味鸡以卤味为基础,打造花样便捷用餐服务 对于用餐的价值,如今人们已经从单纯的果腹,延伸出了关注品质、安全
双迪“质量月”技能大比拼活动顺利举行 全球即时 7月4日,为了响应公司“质量月”活动号召,向党的生日献礼,加强员工对
热门:网传作家毕淑敏去世为谣言,造谣者已清空内容 7月5日深夜,有网络用户发布自称“经毕淑敏女士之子授权发布”的讣告,
襄阳南漳:公路“小驿站” 托起服务“大民生” 近日,在湖北省襄阳市南漳县李庙镇鱼泉河村的货车驿站,工作人员正在给
基金