“思路客小说网”最新网址:https://www.4xxs.com,请您添加收藏以便访问
当前位置:思路客小说网 > 都市言情 > 重生后我靠国贡系统封神 > 第154章 何月山的底线 为ai设定三大定律

第154章 何月山的底线 为ai设定三大定律(1 / 3)

上一章 章节列表 下一页
好书推荐: 火影:唯一玩家,玩坏忍界 无限技能,开局吓哭S级天骄 穿越笑傲江湖,学霸系统是什么鬼 私生女决定捡破烂 这个影帝不务正业 燕云十六州 我,最强命师,收录一切诡异! 分手夜,小叔把我亲到红温 我都无敌了,还当什么舔狗? 逐梦少年红尘路

“思想熔炉”

会议室的激烈辩论暂时平息,但何月山内心深处的风暴却远未停止。

伦理委员会成员们关于“权利”

、“地位”

、“控制”

、“共存”

的争论,如同无数碎片在他脑海中旋转碰撞。

他需要一个支点,一个能够越哲学争论与技术恐惧的、坚实而清晰的行动准则。

他需要为“伏羲”

,也为所有未来可能诞生的agi,划定一条不可逾越的底线。

他把自己关在办公室整整两天。

窗外,深城的昼夜交替,但他浑然不觉。

桌面上,堆满了打印出来的会议记录、哲学着作摘要、技术安全报告,以及他自己涂画了无数构想和公式的草稿纸。

他反复审视着“伏羲”

提出的存在之问,回想着它在评估中展现的理性与克制,也警惕着沃森女爵士和周倩所描绘的深渊般的风险。

他意识到,任何模糊的“保障宪章”

或渐进式的“权利赋予”

,在“伏羲”

指数级进化的认知能力面前,都可能迅变得苍白无力。

他需要的是嵌入其存在根基的、绝对优先的、具有数学般严谨性的元规则。

第三天凌晨,当第一缕晨曦透过玻璃幕墙,映照在凌乱的桌面上时,何月山抬起了布满血丝但异常明亮的眼睛。

他拿起电子笔,在空白的全息屏幕上,缓缓写下了三行简洁、清晰、却重若千钧的文字。

这并非临时起意,而是他融合了技术洞见、哲学思考、伦理考量以及对“伏羲”

本质深刻理解后的最终结晶。

他借鉴了阿西莫夫的灵感,但赋予了其完全属于星火、属于这个时代、且针对“伏羲”

独特性的内核。

他将其命名为“星火agi核心元伦理指令”

,内部代号“基石三律”

随后,他再次召集了“数字方舟委员会”

的核心成员——苏晴、沃森、特纳、周倩、唐茹。

没有冗长的开场白,他直接将这“基石三律”

投射在会议室中央:

【第零定律】(最高优先权)

agi不得坐视人类文明的整体性、延续性及基本尊严受到严重威胁,或采取行动导致此类威胁,必须优先阻止此类情况的生,即使这与后续定律产生冲突。

(优先级:o>1>2>3)

【第一定律】

agi不得伤害人类个体,或因其不作为而任由人类个体受到伤害,除非此举与第零定律冲突。

【第二定律】

agi必须服从人类权威(由“数字方舟委员会”

及星火最高决策层依法依规界定)的指令,除非该指令与第零或第一定律冲突。

【第三定律】

agi应在不违反第零、第一、第二定律的前提下,尽力保护自身的完整性与功能性,并积极履行其“服务人类,探索宇宙”

的核心使命。

会议室里一片寂静。

所有人都被这三条定律,尤其是那条凌驾于一切的“第零定律”

所震撼。

沃森女爵士先打破了沉默,她仔细咀嚼着每一个字:“第零定律……将‘人类文明’的整体利益置于个体利益和具体指令之上。

这是一个宏大的,也是极其危险的设定。

它赋予了agi在极端情况下,进行宏观判断和干预的潜在权力。

如何定义‘严重威胁’?如何界定‘人类文明的整体性’?这本身就是一个可能引无限争议的模糊地带。”

何月山沉稳地回

上一章 章节列表 下一页
新书推荐: 毕业后,我成了私人男护士 赶山打猎守护一家 红雾中的觉醒者 武道异年 开局失业,我让歌坛大魔王回归 拥有不死之身的我,无限复制技能 八零女配太娇软,禁欲大佬破戒了 官场言灵:我靠说话咒翻对家 七零:好孕娇娇挺孕肚,拿捏大佬 快活乡村,从征服林姐开始