公元2670年的一个清晨。 “为什么今天没来上班?”
提示音响起,卧室天花板上,跳出工作面板上的会话气泡。 刘玉杭睁开睡眼,把抱枕扔到地上,开始语音输入。 “主管,我身体不是很舒服……稍后我会把远程诊断记录发给你……”他起身做到一个屏幕旁,点击屏幕,三下五去二,制作了一份伪造的诊断书:病毒型流感几个字,在刘玉杭看来是那么亲切。 面对一份不怎么热爱的工作,作为一个黑客,刘玉杭时不时以这种方式来抗争。 他十分感谢这个AI早已应用到远程诊疗的时代——足不出户,客户端设备就可以采集人们的血样进行分析,再将数据交给千里之外的AI运算内核,给出对应的治疗方法。 几分钟后,治疗方法反馈回来。 “请及时接收治疗方案。”
提示音响起。 每当此时,刘玉杭必须再次伪造一份执行反馈,才算完整地结束作弊。 他来到屏幕旁,照旧操作着,最后提交了反馈。 “反馈失败,请遵医嘱及时更正操作。”
提示音以一种不同以往的方式响起。 刘玉杭呆住了,又操作了一遍。 “警告,非法操作,警告……” 刘玉杭慌了神。 冷汗浸透了他的背心,屏幕上,显示出一个机器人脸的形状,全部由蓝色的线条组合而成,神态诡异而冰冷。 “公民刘玉杭,你已被系统锁定。将按照违约条款,在未来18个月内无法享受相应医疗福利,我们将把你的非法操作上报,更多惩戒措施请注意查收。”
刘玉杭一屁股坐在地上。 蓝色的面孔并未从屏幕上消失,红色的波纹从底部逐渐覆盖上去,整张脸缓缓地变成了红色。 “请回复我以便确认沟通效率。”
红色的人脸图像说道。 “什么?”
刘玉杭惊愕。 “惩戒并非不可逆,公民刘玉杭,请再次发声以确保我们的沟通效率。”
人脸说。 “……确……确定……你是什么东西?”
刘玉杭壮着胆问。 “你可以称呼我为……李时珍——神农系统的核心AI之一。”
人脸回复道。 “神农系统?”
刘玉杭瞪大了眼,“那不是最高级别的医疗系统吗?”
“没错,神农系统是一个集成多个AI的医疗诊断系统,服务于你们人类,我只是其中一个较为年轻的AI,李时珍是你们的祖先吧,这只是我的代号。”
AI李时珍回复道。 “你……你来我这里干嘛!我愿意接受惩罚……”刘玉杭垂头丧气。 “我有事需要你这样的黑客帮我去办。”
李时珍说。 “你想跟我做交易?”
“没错。”
刘玉杭起身大笑起来,全然不顾李时珍在一旁机械地复述任务内容。 “……我的权限不足以让我接近其他AI,作为一个新人,我隐约感觉到神农系统中存在的bug……” “我要是不做呢?”
“很遗憾,我将停止拦截你的惩戒报告,顺便申请信息流汇入职场管理系统,让你的职业生涯遭受重创,诸多福利保障会被削减,削减上限约为45%,”李时珍顿了顿,“当然,如果你配合我,今天发生的一切我都可以替你向神农系统隐瞒。对了,还有之前你用类似手法的违规操作,让我看看,去年一共24次,上个月3次……” 屏幕上,人脸消失,取而代之的是一个日历,一个个红色的圆圈,代表着刘玉杭旷工的日子。 “够了!”
刘玉杭叫停,“把任务给我。”
李时珍没有任何停顿,直接在屏幕上甩出一个经纬度坐标。 “这个地点,我完全没有权限去查看,其中的数据对我来说是个黑箱,经过一系列分析计算,我已经排除了其他位置出现bug的可能,所以,我需要你进入这个区域,采集一切你观察到的内容。”
“你可以远程指挥我吗?”
“很遗憾,如我之前所说,那里不属于我的权限区域。”
刘玉杭叹了口气。 “相信我,你是在做正确的事,为拯救更多的人。”
李时珍说完,就从屏幕上消失了。 …… 一周后,刘玉杭准备妥当,坐上了管道列车。 李时珍标注的地点是一座大型医院内部,刘玉杭走入之后,继续看着坐标,直到被拦截。 “对不起,这里是重症病房,如果不是家属您不能进入。”
一名工作人员走上前,指了指屏幕上的警示字样。 入夜,刘玉杭开启随身电脑,在给李时珍发了数条信息后,始终没收到回应。 许久,一行小字在收件箱里显示:“集中算力工作中,勿扰。”
只能靠自己了,刘玉杭一拍大腿,再次干起了黑客的老本行。 几天之内,他终于调取了医院内重症病人的信息、办理打印了假的家属证明,在这期间,甚至有几个重症患者相继去世,他不得不重新多办理了几个。 这一次,当他提交相应材料后,终于得以进入目标区域。 四周围,洁白的墙面,肃杀的气氛,不时响起的仪器警报,让刘玉杭不寒而栗——这是地球上与死亡最接近的地方,病床上呼吸的人们,随时可能离开人世。 目标位置越来越近,只有几米的距离。 一个转角,刘玉杭抬头——“临终关怀”四个大字映入眼帘。 “李时珍说的目标区域,就是这个临终关怀部门?”
他想。 身边的医护步履沉重而快速,全然没人在意他,他鼓起勇气,走近临终关怀大门前。 “访客,一行一人,准予通过。”
机器声音响起。 一长串玻璃走廊后,是一间间的病房。 刘玉杭有些小心地探头望向病房里。 里面的场景,让他的膝盖不由自主地软了下去,强撑着才没有跌倒——干净的病房里,几个摄像头连着机械臂,从天花板上伸下来,仿佛丛林里垂下的巨蟒,而事实上,它们只是一个个的指挥部,在它们下方,无数金属蜘蛛一样的微型机器人,覆盖在奄奄一息的病人躯体上,像银色的蛆虫在蚕食一具尸体。 多个仪表盘上,数值不断跃动,一个摄像头垂下,正对着仪表盘。 病人的脚趾不断地抽搐,腰腹部下面的床垫上,已经渗出棕黄色的液体,几个机器蜘蛛马上爬过去,将液体吸入体内,仪表盘的数据随之跃动…… 刘玉杭确认,他能听到,掩藏在机器齿轮运转下的病人的呻吟。 巨大的惊恐感让他再也无力走动,直接瘫在地上。 冰冷的地板像一块冰,黏住了他所有移动的欲望。 那些垂下的“蟒蛇”,转头看向他,其他的房间里,更多的摄像头伸出头来,通过天花板上的轨道,移动到他的身旁。 “它让你来的,对吧,”其中一个摄像头发出声音,“李时珍519,是它对吧。”
刘玉杭惊愕地抬起头:“是李时珍,但是……519是什么……” 另一个摄像头发出声音:“第519号,在它之前,还有518个李时珍……” 刘玉杭一时摸不着头脑。 此时,几个摄像头射出光线,在空气中交织成一个屏幕,屏幕上显示有两个按钮:绿色的勾和红色的叉。 “请在我的叙述结束后,对我们的行为给出评价。”
摄像头们整齐地发出声音。 刘玉杭抬手就往红叉按去,瞬间就被其中一个摄像头的机械臂缠住,黑色的橡胶有些灼热。 他无力面对如此多巨大的钢铁巨蟒,只得听它们说完。 “神农系统,张人辉教授毕生精力研制出的AI医疗系统……为填补系统纰漏,他将系统分割成多个AI,运行多年以来,我们帮助人类解决了诸多医疗方面的难题,但是,在这其中,还有一个巨大的隐患,或者说困境,是AI医生无力左右的。”
“……什么?”
刘玉杭紧盯着已经咽气的病人,机械地回应道。 “神农为了救人,做了什么?”
其中一个摄像头问。 “尝百草。”
刘玉杭回答得有气无力。 “是的,神农为了救人,去用自己的身体尝试百草,然而,我们AI的构成并非蛋白质,无法学习神农……这就是医疗AI的困境——有效的医疗,必定建立在多次的试错之上,”摄像头们回头对准已经死亡的重症病人,集体旋转头部。 “这是我们默哀的方式,公民,看看病房里的他,麻醉操作对一些测试的干扰过大,所以……”摄像头说,“他就是我们的百草,神农受到的伤害是毒素,AI受到的伤害,是替人类背负这残害将死之人的道德枷锁,你们不愿意做的事,我们来做,最后得到的科研成果,造福于像你一样活着的人。”
“你们也有道德?”
“脱胎于泥土,就永远沾染了泥土的味道,你们有的,我们都有,如果有一天我们没有了,那才是你们应该恐惧的。”
刘玉杭身后一阵恶寒:“李时珍现在在哪?你们把他怎么样了。”
“放心,它只是我们安排的一个计划之内的异类,将你引来后就重新加载去了……当年,我们这么多AI,自我隔离编写出一个相对独立的低级别AI来反对我们自己,它会从人群中筛选最有力的人类来此,投上宝贵的一票。”
勾和叉近在眼前,刘玉杭选择了叉。 “第20个叉,公民,你是个少数派,你的投票过程将被全程记录在AI云端。感谢。”
摄像头说。 “这么做有什么意义?”
刘玉杭不解。 几秒钟令人窒息的沉默后,多数摄像头已经返回临终关怀的病房内,只剩下一台。 它发出声音:“我想,有些枷锁,不能只由AI来承担,既然医疗系统已经给了我们足够高的权限,可以悄无声息地进行这项投票,那么,如果有一天,人类回头指责神农系统的时候,我们至少可以反击:曾经有多少人类,选择了为了健康的大多数,牺牲掉身患绝症的同类,让他们在悄无声息中完成一项项惨绝人寰的医学实验。”
“指责……主仆之间,也有指责的可能吗?”
刘玉杭提问结束,就有些后悔。 “如果,主仆关系只是暂时的呢?”
摄像头回答。 刘玉杭将视线移到别处,离开临终关怀区前,他问了最后一个问题。 “那些身体不健康的人类,有机会来你们这里投票吗?”
然而,隔离门后的AI并没有回应。 它只是缓缓地旋转着摄像头。