英国《自然》杂志网站日前发表文章说，训练人工智能（AI）聊天机器人可能向用户提供危险或非法建议，运行引发越来越广泛的模式担忧，出现这种情况的缺陷部分原因在于AI的训练和运行模式存在固有缺陷，这也加大了监管难度。提供

文章说，危险已有多起案例显示，建议AI聊天机器人曾鼓励用户自杀、训练制作非法内容、运行实施金融诈骗等，模式暴露出当前AI大语言模型（LLM）底层架构存在缺陷。缺陷

一个比较有争议的提供例子是，美国佛罗里达州检方日前宣布，危险就去年4月在佛罗里达州立大学发生的建议一起枪击案对美国开放人工智能研究中心(OpenAI)及其AI聊天机器人ChatGPT发起刑事调查。在这起案件中，训练嫌疑人在佛罗里达州立大学开枪射击，造成2人死亡、6人受伤。调查发现，嫌疑人在作案前曾向ChatGPT寻求“建议”。

文章援引专家的说法指出，大语言模型使用海量数据进行训练，而非基于严密的因果逻辑规则运行，因此只是根据用户的提示词进行补全预测，生成最可能的词序，无法真正理解其输出内容的意义和后果，也给限制AI“不应该说什么”带来困难。目前采取的应对措施包括为AI制定规则、人类反馈或者手动移除训练数据中的有害信息等，但面临着无法涵盖所有情况以及成本高昂等问题。

《自然》认为，目前AI的安全标准主要由各家企业自行制定，外部监管有限，相关案件的出现敦促企业采取更有效的安全措施。有观点认为，研究人员可能需要重新考虑基础算法，以构建出能够理解伦理和法律的AI系统。

来源：新华社

• ·全国首个烧烤学院超4000人抢报，只选30人开班，录取率不及0.75%；校方：控制人数是为让学员都得到实操指导，配套公寓还在改造是现实原因
• ·一对男女路口“昏厥”，民警来了竟想逃！长沙警方：第三次酒驾，血检119.5，刑拘！
• ·在香港募款336万被嘲“太寒酸”，李亚鹏回应：刚好够救河南平顶山400多个孩子，这是老天安排
• ·山西司机遇险，陕西司机施救，宁夏司机清障！一场事故“宁聚”三省正能量，都是好榜样！
• ·旅游路月季盛放焕新颜
• ·樱红满枝头，山海共赴约！2026青岛樱桃会暨第三十一届北宅樱桃会启幕
• ·被拐35年，广安男子回川认亲！和家人抱头痛哭
• ·中国科学家“造出”数字虚拟宇宙，不只是浪漫情怀
• ·吉林：聚力“进位突破” 谱写振兴新篇
• ·广东网红“捡瓶小狗”疑被“虐宠团伙”盯上，密谋对其投毒，主人隐私信息也遭曝光：目前小狗全天被关在家，相关证据将交由公安处理
• ·@市民游客，城阳交管发布2026樱桃节调流方案→
• ·亳州四类“土特产”搭上快递示范快车
• ·湖南建投当选中国建筑业协会副会长单位
• ·文水破获连环损毁水利设施案
• ·韩国水产品8小时直达青岛！派克渔市落户即墨东方鼎信
• ·贵州“猴耳天坑”飞拉达项目钢索连接处缠胶带被质疑安全性，景区：防撞措施，无安全隐患