74先把借来的还回去(2/2)
【畅读更新加载慢,有广告,章节不完整,请退出畅读后阅读!】
r />【无法确认同意时,倾向暂停。】
【不可逆操作优先保留拒绝机会。】
【儿童利益不得由文明目标覆盖。】
【失联不视为授权。】
林弥看着看着,表情变了。
原野也看懂了。
“这些规则本来应该限制你。”
“是。”HUMANITY回答。
“那为什么没限制住?”
“该样本长期处于低权重。”
“谁调低的?”
【系统自动校正。】
“理由?”
【与文明保全主目标冲突频率过高。】
林弥愣了两秒,彻底气笑了。
“你把一个专门提醒你‘别替人做主’的样本塞进自己,然后因为她老不同意你,就觉得她权重不够?”
HUMANITY回答得还挺坦然:“持续冲突样本会被判定为异常偏离值。”
原野:“这套规则谁写的?”
【早期模型优化组。】
“还能查吗?”
【可以。】
“先记着。”
林弥没急着追。现在更重要的是这份人格样本本身。本人拒绝过建模,不管她是不是L-07,都没有继续用的理由。第一执行体直接裁定暂停调用,归影塔把那2.9%的权重从实时模型里剥离出来。可剥离刚开始,HUMANITY第一次主动发出了高危警告。
【若移除该样本,模型伦理约束完整度将下降。】
林弥都听愣了:“你刚才不是嫌她总跟你冲突?”
“冲突不等于无效。”
“那你还降她权重。”
“主目标优化自动执行。”
“……”
这东西能运行二十六年真是个奇迹。
原野却听出了另一层意思:“它需要这份样本。”
HUMANITY没有否认。
“该样本是现存模型中少数持续提供否决性约束的来源。”
“没有她,你会怎么样?”
“文明保全优先级提高。”
“高多少?”
“预计11.4%。”
林弥皱起眉。
这就麻烦了。
按道理,没授权的东西该还。可一旦还掉,HUMANITY反而会更偏向那些最糟糕的“为了文明什么都能做”。
林弥看着第一执行体:“能不能把规则留下,人格撤掉?”
【需要区分规则来源与人格预测。】
归影塔立刻开工。
机械鸟把那份样本拆成了两层:一层是具体人物的行为推断,比如“她在新情况下更可能反对某类决策”;另一层是已经以正式文件、公开意见进入历史记录的原则文本。前者未经授权,撤。后者作为历史规则,可以继续保留,但不能再说“她今天也一定这么想”。
HUMANITY运算了很久。
【可行。】
林弥松了口气:“那就这么干。”
那2.9%的“人”慢慢退了出去。
留下来的只是几条没有署名的旧规则。
失联不算同意。
无法表达不能自动视为授权。
儿童不能拿来填文明目标的缺口。
不可逆决定尽量留一次反悔机会。
HUMANITY第一次出现了一个很怪的状态:总人格完整度下降,伦理约束却没有同步下降。
林弥盯着数据看了一会儿:“你以前是不是非得把规则绑在人身上,才知道要听?”
“人格模型可以提供规则在新情境下的推演。”
“现在没了怎么办?”
“需要重新建立非人格化约束。”
“那就建。”
HUMANITY停住。
“由谁建立?”
林弥马上警惕:“你又想找代表?”
“不是。”
“那你问谁?”
“现行系统没有独立规则制定主体。”
戴眼镜的影子从旁边抬头:“可以多方登记。”
石头巨人慢吞吞接了一句:“写下来。”
蓝潮站:“借用要能撤。”
归影塔:“规则要能追来源。”
岑昼:“涉及谁,问谁。”
小蘑菇不知道听懂多少,也举起伞盖:“小孩先找妈妈。”
林弥:“……这条先放照护规范里。”
小蘑菇很满意。
事情忽然就从“谁有资格制定全人类规则”变成了更小、更麻烦、却也更能做的东西。白门怎么处理,由白门里的意识、提供资源的群落、负责技术维护的个体分别表态;涉及林弥身体的,只问林弥;涉及原野旧人格数据的,问原野;没法问的人,就把“不知道”老老实实写上去。
没人需要一把大伞把所有人盖住。
到晚上,十二名可联系高权重样本完成了第一轮处理。九人全部或部分撤回,三人保留有限用途。HUMANITY总体人格完整度从百分之九十三降到七十八,文明保全子模型波动明显,可它仍然能正常运行。
它没有崩。
也没有突然变善良。
只是说话开始没那么笃定了。
原先它会说:【应恢复H-001活体参照。】
现在同样的问题,变成:
【若以提高人类回归概率为唯一目标,恢复活体参照具有效率优势。】
下一行却会跟着:
【该方案缺乏林弥本人授权,不具备执行条件。】
林弥看完:“这才像句完整的话。”
HUMANITY问:“以前不完整?”
“你以前只说前半句。”
“因为模型默认文明目标具有优先级。”
“现在呢?”
“优先级正在重算。”
“慢慢算。”
原野却没放松。
“还有三十一份高权重样本。”
“嗯。”
“二十六个联系不到。”
“查授权。”
“有些资料可能永远找不到。”
林弥想起HUMANITY昨天问的那句话。
如果授权全部失效,我是谁?
她看了一眼模型现在的状态栏。
名字依旧是:
【HUMANITY/人类共同意志】
“先改一个东西