孙松儿:高质量安全语料数据集为AI大模型上“保险”

新华三集团高级副总裁、新华三信息安全技术有限公司总裁孙松儿发言。孙松数据孙宁摄
人民网北京5月9日电 (记者栗翘楚)5月9日,儿高“可信语料筑基,质量智能生态共赢——2026人民网数据智能伙伴大会”在人民日报社举行。安全新华三集团高级副总裁、语料新华三信息安全技术有限公司总裁孙松儿在主题分享环节表示,大模在AI应用加速爆发的型上时代,要以AI全面赋能安全能力提升,保险以安全守护AI健康发展,孙松数据高质量安全语料数据集建设是儿高关键基础。
孙松儿表示,质量AI在提升生产效率、安全带来便捷的语料同时,也带来了安全挑战。大模算力边界安全、模型漏洞利用、数据训练污染等问题日益突出。AI同样被攻击者利用,如开源大模型降低了漏洞挖掘的技术门槛,AI生成的钓鱼邮件、勒索软件模仿用户生态和仪态,上述现象值得关注。
传统的安全防护手段,对新的安全攻击是否仍然有效?孙松儿给出的答案是“拥抱AI”。他表示,业界安全技术发展的趋势只有一个方向——用AI来强安全,用安全来保AI。围绕算力、模型、应用三个层面,需要构建综合安全治理体系,安全的底座至关重要。
孙松儿直言,打造安全的大模型,离不开高质量的安全语料数据集,从攻防对抗的实战视角,将渗透、防护等专业领域知识转化为可用于训练的语料对,是重要方向。建议由牵头单位或联盟推动,形成产学研用协同的安全语料建设机制。
谈到模型安全护栏,孙松儿表示,无论是涉黄、涉恐识别还是合规检测,都需要高质量语料数据集的支撑。在这方面,人民网具备权威性、完整性的先天优势。
“安全和AI,目前从发展方向来看,大家都在拥抱,它不是简单的零和博弈。”孙松儿说。
对于当前AI智能体应用,孙松儿以“龙虾”为例提出思考:“‘龙虾’很火,但目前都是对公域数据的调用。企业要用‘龙虾’,必然涉及核心业务系统的开放,身份管控和权限控制不解决,‘龙虾’走不进企业。”他认为,需要一套AI安全网关作为中间件,做好智能体的身份管理和后端业务系统的权限控制。
栗翘楚
- ·腾讯QClaw上线文件空间功能,打通本地文件、腾讯文档、ima知识库
- ·手机充电头价格差十几倍,差距在哪?拆开一看:合格品有散热铜片,廉价品内部简陋、阻燃差、易起火
- ·账户余额不足,自动售货机却照常开门;浙江男子发现漏洞后与同伴深夜“零元购”,法院认定盗窃罪,判六个月缓刑一年
- ·新一轮国内油价调整时间确定,目前原油变化率达-4.59%,预计本轮汽柴油价格将下跌0.19元/升-0.23元/升
- ·成山头山海风光引客云集 最美海岸点燃夏日文旅热潮
- ·美军:超20艘美国军舰参与对伊朗实施封锁
- ·哈尔滨市南岗区严查校园周边违规校服销售
- ·订单“迟到”、铜银“涨价”,未来电器今年Q1营收净利双降,经营性现金流大减234%
- ·十年炉火映初心——记宝钛集团板材厂二车间五号桥作业区作业长兼燃气炉班长王国伟
- ·男子加油逃单,同行人对监控比耶 警方:加倍“回礼”
- ·“云南15岁女生被男同学杀害案”最新进展:女生父母撤回抗诉申请,凶手无期徒刑判决已生效
- ·内塔尼亚胡:美以对伊朗的军事行动尚未结束
- ·最新发布!CPI连续三个月站稳“1时代”,PPI大幅反弹
- ·现场达成意向100余人!哈尔滨市平房区千余岗位助退役军人就业
- ·浙江一电影院用手握香蕉和西柚图案做厕所性别标识,被指“不雅”引发反感;负责人回应:是为了提醒大家多吃水果,已主动撤除
- ·吴宜泽赵心童潘晓婷助阵,中国台球俱乐部职业联赛羊城启动
