点击右上角
微信好友
朋友圈
请使用浏览器分享功能进行分享
近几个月来，以ChatGPT为代表的生成式人工智能狂飙突进，大模型时代已然降临。但大模型其内生及衍生安全威胁也愈演愈烈，数据泄露、生产有害内容、恶意滥用等安全问题层出不穷，如何解决此类问题成了当下需要思考的内容。
7月7日，记者在2023全球数字经济大会特色活动之精品主题展现场看到，已有针对性的AI治理产品可以解决上述问题。清华大学人工智能研究院孵化企业瑞莱智慧RealAI带来的能够防范生成式人工智能恶意滥用的DeepReal2.0和对通用大模型安全性进行测评及优化的人工智能安全平台RealSafe3.0就是其中代表。
瑞莱智慧联合创始人、算法科学家萧子豪告诉记者，DeepReal现已正式更名为生成式人工智能内容检测平台，它除了能够检测Deepfake内容，还新增两个功能模块，可以检测Diffusion、LLM这两类新方法生成的数据，支持对图像、视频、音频、文本进行是否伪造的检测。应用场景包括打击网络诈骗和声誉侵害行为、检测网络内容合规性、检测音视频物证真实性等，可对生成式人工智能技术滥用行为进行管控和治理。
此外，人工智能安全平台RealSafe3.0集成了主流及RealAI独有的世界领先安全评测技术，能够提供端到端的模型安全性测评解决方案，且新增了对通用大模型的评测，可解决当前通用大模型安全风险难以审计的痛点问题。
“评测只是手段，帮助通用大模型提升其自身安全性才是核心目的。”在萧子豪看来，不能因为对于被技术反噬的担忧就止步不前，创造新技术和控制技术危害应该同步进行，“我们的办法是，从源头上找到症结，再用AI打败AI。”
如果将人工智能模型比作“引擎”，数据则是模型的“燃料”。可以说，数据集质量直接影响模型的内生安全。萧子豪表示，RealSafe3.0内部集成了多个自研模型和专家论证高质量数据集，可以帮助用户修复模型中的问题。“通用人工智能的时代必将到来，如何让人工智能扬长避短，如何用人类智慧驾驭人工智能，是从业者的一道长久课题，也是我们一直努力的方向。”萧子豪说。（雷渺鑫）
包银高铁包惠段启动联调联试
舞蹈诗剧《只此青绿》惊艳亮相好莱坞
| 午字五行属什么 | 安是什么生肖 | 怂人是什么意思 | 乙肝表面抗原250是什么意思 | 一个女一个以念什么 |
| 脚抽筋什么原因 | 10点多是什么时辰 | 胳膊疼挂什么科 | 蜂蜜吃了有什么好处 | 投诉与举报有什么区别 |
| 野生葛根粉有什么功效 | 手背有痣代表什么意思 | 早上5点多是什么时辰 | 彪悍是什么意思 | 热结旁流是什么意思 |
| 五海瘿瘤丸主要治什么病 | 6.26是什么星座 | 专科女生学什么专业好 | 腋下有疙瘩是什么原因 | oc是什么 |
| 请人帮忙用什么词hcv8jop1ns4r.cn | 四叶草的寓意是什么hcv8jop0ns1r.cn | 人为什么要喝酒hcv8jop2ns4r.cn | 迷失自我是什么意思hcv8jop0ns6r.cn | 什么叫潮吹huizhijixie.com |
| 梦见洗澡是什么意思wmyky.com | 红眼鱼是什么鱼hcv8jop9ns6r.cn | 卿本佳人什么意思hcv8jop1ns4r.cn | 良缘是什么意思hcv8jop3ns1r.cn | pd-l1是什么hcv9jop3ns1r.cn |
| 莲是什么结构的字hcv8jop8ns9r.cn | 葡萄是什么茎hcv8jop3ns8r.cn | 6月份怀孕预产期是什么时候hcv7jop6ns2r.cn | 血管紧张素是什么意思hcv8jop0ns5r.cn | 女人耳垂大厚代表什么hcv8jop2ns3r.cn |
| mds是什么意思hcv8jop0ns3r.cn | 上行下效是什么意思hcv9jop3ns2r.cn | 胰腺上长瘤意味着什么hcv8jop8ns1r.cn | 优势是什么意思hcv7jop6ns6r.cn | 变态是什么意思baiqunet.com |
