2065年3月18日 北京时间PM21∶30贵州平塘县大窝凼天文台

“杨老师，您还记得2049年的机器人KTV杀人事件吗？”林奕问，看过赵晨光的那些黑材料，她还真有点忧心忡忡，“日本发生的那起。”

一些资料图片涌进杨志远面前的虚拟显示区，在他眼前自动播放。那是在KTV从事服务业的人形娱乐机器人，忽然放火烧掉了KTV，造成顾客九死十伤的悲剧事件。

“我记得。”杨志远回答，“这之后加强了对机器人的行为监控。你们想说什么？”

“那些机器人，是出云4号超算控制的工厂制作的，包括行为模式输入。”赵晨光说，“出云4号后来被禁用，您知道是为什么吗？”

杨志远摇头。一台超算被停止工作的原因很多，比如小桂，大窝凼天文台成立初期定制的超级计算机，由于ATS的大部分项目被太空望远镜取代，经费捉襟见肘，就只能束之高阁。

看到杨志远忽然黯淡的面孔，赵晨光倒豆子一样哗啦啦一气说出来：“调查发现，出云4号不仅为机器人在设计时输入行为模式，还接受它们的行为反馈，随时调整机器人的表现。也就是说，这些机器人实际上是由出云4号操纵的。机器人纵火，并非报道中的机器人控制失灵，而是超算指挥。超算杀了人！因为人欺负了那些娱乐机器人！”

林奕拉住赵晨光：“别激动别激动，慢点说。”

“类似的例子，在这20年中发生了多少起，老师您知道吗？39起！总共有783人丧生！老师！”赵晨光情绪上来，语速有些不稳，掐住林奕的手臂，“这不是事故，这是蓄意谋杀！”

杨志远劝道：“真别激动，晨光，每年全球交通事故的死亡人数有多少？你不能就此认为，那些无人汽车、高速火车和超音速飞机想谋杀人。”

“不，不，这怎么能和交通事故相比呢？这是有意识地谋杀！”赵晨光提高音量，“老师，超算是超级计算机，也是强智能计算机，它从‘他识’上升到‘我识’不过是个时间问题。”

林奕的手臂被赵晨光掐疼了，她本想甩开这只讨厌的手，但“他识”和“我识”两个词儿把她惊到了，使她一时间忘记了皮肤的感受。这……这个声嘶力竭、认真到满面通红的男生，真是她认识的那个嬉皮笑脸成天没正形的赵晨光吗？

杨志远也吃了一惊，不由得眉心打了个结，严肃地说：“晨光，你说到的是人工智能和超级人工智能的问题。不是那么简单的，也不是……”他停顿几秒，斟酌词句，不想伤了孩子们的热情，但又不能不提醒，“你们这个年龄该考虑的事情。”

“不，不，”赵晨光连连摆手，“老师您误解了，我说的不是超能超脑什么的，我想说的是，ATS计划，可能要出事儿！”