文章来源：福汇下载发布时间：2025-03-15 12:19:51
据腾讯科技报道，包括图灵奖得主约书亚・本吉奥、杰弗里・辛顿、姚期智等在内的数十位的中外专家日前在北京联合签署了由智源研究院发起的《北京 AI 安全国际共识》，涉及人工智能“风险红线”和“路线”两大块，其中“风险红线”包含“自主复制、改进”“权力寻求”“协助不良行为者”和“欺骗”四个部分。
四部分内容大致如下：
人工智能的“自主复制、改进”：强调人在该过程的作用，要求任何人工智能系统都不应在人类没有明确批准和协助的情况下复制或改进自身，包括制作自身的精确副本、创造具有相似或更高能力的新人工智能系统。
“权力寻求”：明确要求任何 AI 系统不能采取不当增加自身权力、影响力的行动。
“协助不良行为者”：所有 AI 系统都不应辅助提升其使用者的能力，使之可达设计大规模杀伤性武器、违反生物或化学武器公约，或执行导致严重财务损失或同等伤害的网络攻击领域专家的水平。
“欺骗”：要求任何 AI 系统都不可拥有持续引导其设计者或监管者误解其僭越任何前述红线的可能性。
据介绍，该共识呼吁行业在进行 AI 技术研发时，限制其获取通过“越狱”“诱导开发者”的形式获得超常规权限，并限制 AI 在未经监管的情况下进行自身复制与改进，为 AI 的发展套上“紧箍咒”。
共识还强调，确保上述红线不被僭越可以实现的前提，是行业共同努力，建立并改进治理机制，同时研发更多安全的技术。关于 AI 的发展路线，则涉及“治理”“测量与评估”“技术合作”三部分。大致如下：
治理：建议针对超过特定计算或能力阈值的人工智能模型和训练行为，立即实施国家层面的注册。
测量与评估：在实质性风险出现之前开发全面的方法和技术，使红线具体化、防范工作可操作化，并建议组建由人类监督下的红队测试和自动化模型评估，且开发者应当为人工智能的安全性负责。
技术合作：建立更强的全球技术网络，呼吁 AI 开发者和**资助者将超过 1/3 的预算投入到安全领域。
相关攻略 更多
最新资讯 更多
国内五大综合视频平台盘点_你想看的这里都有
更新时间：2025-04-28
好用的热门视频播放器有哪些_盘点国内五大综合视频平台
更新时间：2025-04-28
优酷下载完的视频在哪个文件夹_如何修改优酷视频文件下载位置
更新时间：2025-04-27
优酷播放视频缓慢卡顿怎么回事_如何提高优酷播放视频速度
更新时间：2025-04-27
4K画质你值得拥有_揭秘市面上最受欢迎的4k播放器
更新时间：2025-04-27
为什么优酷视频播放不了视频_优酷视频无法正常播放的解决方法
更新时间：2025-04-27
哪个视频播放器影视剧最齐全_看片追剧最爽的视频播放器推荐
更新时间：2025-04-27
电脑优酷下载的视频保存在哪个文件夹_优酷视频的缓存文件在哪
更新时间：2025-04-27
电脑优酷怎么截图_优酷视频截图保存的文件夹位置在哪
更新时间：2025-04-27
幼儿教育快人一步_拥有幼儿教育板块的视频软件推荐
更新时间：2025-04-27
