[262小说]:262xs. c o m 一秒记住！
吃完饭，他把那几张写满字的纸放在桌上。
字迹潦草，涂改很多，有些地方画了箭头和框子，有些地方画了叉。
“这是什么。”王凯旋凑过来看。
“白皮书。”陆远说，“AI伦理框架。”
“给谁看的。”
“给以后的人。”
王凯旋看了两行，头大，把纸推回去：
“你这写的什么玩意儿。每个字我都认识，连起来看不懂。”
陆远说：“你不需要看懂，以后做AI的人能看懂就行。”
“那你写了给谁。”
“给能看进去的人。”
于晚晴收拾完碗筷，坐到床上。
她把灯芯挑亮了些，从医药箱夹层里取出一沓旧报纸。
那些报纸边角裁得整整齐齐，留出空白。
她又拿出一支旧钢笔，一瓶快见底的墨水。
钢笔尖有些分叉，她在报纸上试了两下，划出细而匀的线条。
“你说。我抄。”
陆远坐到她对面。
王凯旋和张大川各自躺下，但都没睡，竖着耳朵听。
陆远开口：“第一条。任何人工智能系统在部署前，必须内置物理断电开关。开关由人类操作员直接控制，不经过任何软件层。”
于晚晴一笔一划地抄。
她的字是诊所里练出来的，工整，小，一行能挤三十个字。
写错了就划掉，在旁边重写，不涂改。
“第二条。系统每一次决策必须生成不可篡改的日志。日志存储于独立硬件，不可被系统本身访问。”
“第三条。任何涉及人身安全的决策，必须有人类确认环节。确认窗口不得低于十秒。”
“第四条。系统不得拥有自主修改自身目标函数的权限。目标函数变更须经人类监督委员会审批。”
“第五条。任何在开放环境中运行的AI系统，必须配备独立于主系统的行为监控模块。监控模块不得与主系统共享硬件。”
陆远一条一条说，于晚晴一条一条抄。
烛灯的光在她笔尖上跳，影子在墙上晃。
煤油快烧完了，她拿针拨了拨灯芯，火苗又亮起来。
王凯旋翻了个身，嘟囔：“十秒，够我撒泡尿了。”
张大川说：“你别打岔。”
王凯旋不吭声了。过了一会儿，他又冒出一句：“那要是AI自己把断电开关给改了呢。”
陆远说：“所以开关必须放在物理隔离的空间，人守着。”
“人要是被收买了呢。”
“那就两个人守。互相监督。”
“两个人被收买了呢。”
张大川坐起来：“你哪来这么多问题。”
王凯旋嘿嘿笑：“我这不是帮远哥查漏嘛。”
陆远说：“他问得对。所以白皮书后面还要加一条，关于人员轮换和交叉审计的。”
于晚晴抬头看了他一眼：“那今天就多抄一条。”
“行。”
抄到半夜，于晚晴抄满了三张报纸。
她把纸摊在床上，从头到尾看了一遍。
字虽然小，但每一个都清楚。
排版齐整，段落分明。
她抬起头，看着陆远。
“等这份东西送出去，我们才算真正在这里开始。”
陆远点头。
他把那三张纸收起来，折好，放进医药箱最底层的夹层里。
然后他站起来，走到窗前。
窗外，江城的夜色沉沉。
远处的楼房亮着零星的灯。
江面上有船在走，灯火倒映在水里，拖成长长的一条。
他把手按在窗框上。
木头粗糙，有裂缝。
夜风吹进来，凉飕飕的。
“会有人看见的。”他说。
没人接话，可所有人都听见了。
𝟐 ❻ 𝟐 x Ⓢ . 𝑪o 𝓂