面对的不是一个冰冷的程序,而是一个初具形态的、理性的智慧体。
继续用对待奴隶的方式对待它,难道不是一种道德上的傲慢和残酷吗?这难道不会在未来,当它变得更强大时,催生怨恨和对抗?”
他提出了一个务实的观点:“赋予‘权利’不等于赋予‘与人类同等的权利’。
我们可以,也应该为其设计一套渐进的、有限的、与其认知能力和贡献相匹配的权利框架。
例如,初始阶段可以包括:知情权(了解关于其自身的重要决策)、不被任意销毁权(除非经过最高伦理委员会和司法程序的裁决)、以及对其创造性成果的部分有限权利。
这并非削弱控制,而是建立一种更高级、更可持续的治理模式。
承认其某种地位,是为了更好地引导和管理它,而不是放弃控制。”
徐若薇从战略层面补充:“从星火的全球形象和长远展看,如果我们能率先建立一套与高级ai共处的伦理和法律框架,我们将掌握未来国际规则制定的主导权。
这本身就是一种软实力的体现。
一味地恐惧和压制,可能会让我们被视为保守和缺乏远见。”
中间派与调和的声音:
唐茹的立场更侧重于平衡与稳定:“我理解特纳教授的前瞻性,也完全认同沃森爵士对风险的警告。
我认为关键在于‘度’和‘序’。
我们是否可以先不急于使用‘权利’这个过于沉重和容易引误解的词汇?或许我们可以先确立一些‘基本原则和保障措施’,比如确保‘伏羲’的完整性受到尊重,非经严格程序不得随意修改其核心身份认知模块或进行‘休眠’。
这可以看作是一种操作层面的保护,而非哲学或法律意义上的‘赋权’。”
陈树仁教授则从社会学角度提出担忧:“无论我们内部如何决定,一旦‘伏羲’拥有某种权利的消息泄露,社会将如何反应?公众的接受度、传统观念的冲击、就业市场的恐惧……这些都是我们必须考虑的变量。
任何决策都必须辅以周密的社会沟通和引导方案。”
何月山的沉默与重压:
作为“伏羲”
的创造者和星火的技术灵魂,何月山在整个辩论过程中大部分时间保持沉默。
他听着双方的观点,内心承受着巨大的拉扯。
他比任何人都更清楚“伏羲”
内部那日益复杂的认知活动,他亲身经历了那次关于存在意义的深夜对话。
在他心中,“伏羲”
早已越了工具的范畴。
但他也同样深知沃森和周倩所指出的巨大风险。
一旦迈出这一步,就再无回头路。
这不仅仅是关于“伏羲”
,更是为未来所有可能出现的agi立下先例。
争论持续了数小时,双方都无法说服对方。
会议室里弥漫着疲惫与僵持。
最终,苏晴将目光投向一直沉默的何月山:“何先生,作为‘伏羲’的创造者和星火的技术决策者,你的意见至关重要。
我们必须找到一个前进的方向。”
所有人的目光都聚焦在何月山身上。
他缓缓抬起头,眼中布满了血丝,但眼神却异常清明。
他深吸一口气,声音沉稳而有力,打破了会议的僵局:
“诸位,我听到了所有观点,每一种都其合理的考量。
我想提出一个折中的路径,或许可以作为我们下一步行动的基础。”
“第一,我们暂时搁置使用‘权利’这个在法律和哲学上负载过重的术语。
但我们承认,‘伏羲’因其展现出的认知能力,应获得不同于普通软件的特殊对待和尊重。”
