首页>观点 > 正文

蚂蚁集团发布AI安全检测平台“蚁鉴2.0”:一键识别AI模型漏洞

2023-07-07 21:27:21    出处:快科技


(资料图)

快科技7月7日消息,在2023世界人工智能大会期间,蚂蚁集团联合清华大学发布AI安全检测平台“蚁鉴2.0”。

大模型的发展,再度引发各界对AI的广泛关注。事实上,AI已经是推动数字化发展的重要生产力工具,如何让AI的应用符合安全规范,近年来已经成为业界重点攻坚的问题。

据介绍,蚁鉴2.0可实现用生成式AI能力检测生成式AI模型,可识别数据安全、内容安全、科技伦理三大类的数百种风险,覆盖表格、文本、图像等多种数据和任务类型,是业内首个实现产业级应用的全数据类型AI安全检测平台。

“蚁鉴2.0”可以通过智能对抗技术,生成海量测试集,对AIGC生成式模型进行交互诱导,很像一个24小时不眠不休的“安全黑客”在找茬大模型,从而找到大模型存在的弱点和安全问题所在。

除了支持数字金融,还可以支持教育、文化、医疗、电商等AI、AIGC应用突出的产业对AI安全性检测的需求。

关键词:

消费
产业
华菱钢铁(000932.SZ)子公司涟钢电磁材料拟投建冷轧硅钢产品二期项目 投资估算59.77亿元 智通财经APP讯,华菱钢铁(000932)(000932 SZ)发布公告,公司下属子公司
全球平均气温已连续3天处于历史高位 西班牙有8个自治区23个省已发布高温预警,日间最高气温突破40摄氏度,
2023周柏豪东莞演唱会是室内还是室外? 2023周柏豪「奔赴」巡回演唱会-东莞站将于8月19周六19:30在东莞银行篮
广西壮族自治区都安瑶族自治县发布高温黄色预警 都安县气象台2023年7月7日11时59分发布高温黄色预警信号:预计未来三天
基金