方自健跳起来，一时忽略了月球引力，重重撞到了墙上。他反弹回去，穿过虚空中的杨志远，摔在地上。

他记得机器人KTV纵火事件。这件事占据了两天的舆论热点头条，新闻报道和研究文章铺天盖地。但大众的关注重点是娱乐机器人的智能仿真度，需不需要将人类情感中的负面情绪都仿真出来。没人多想出云4号在事件中的作用。

超算有了自我意识，所以对人类欺负低级计算器也就是娱乐机器人产生不满，所以指挥娱乐机器人放火烧死了KTV中的顾客，这像是一部20世纪的科幻电影，太没新鲜感了。

要知道为了防止人工智能对人产生不利影响，有个组织叫国际人工智能伦理评审委员会，还有个机构叫超算监测中心。委员会仲裁，监测中心操作，就像人工智能头上的两把利剑，随时可以刺下去阻止人工智能的发展进程。

超算监测中心考虑的就是超算联网后并行的数据处理能力，会不会突破量变到质变的阈值，达到“超级人工智能”的可能性。监测中心记录了超算的每一条指令、每一个数据流，会定期对超算的智能度进行检测评估。如果确实有哪台超算出现超智能思维，哪怕仅仅是思维的蛛丝马迹，监测中心都可以下命令毁掉它。每台超算的控制程序之中都埋有一颗逻辑炸弹，一旦启用，系统将出现大量冗余计算问题，超算再惊人的运算能力也应付不来，从而死机变成一堆废铜烂铁。

人类需要的是强人工智能，能高速高效地为人类工作和服务，而不是无法预测和控制的超人工智能。

杨志远的表情却很镇定：“晨光，你的担心只是人类对大工程的不适应心理。有个类似组织就叫‘别动太阳’，想炸掉全球的超算阻止ATS计划。”

“是的，他们的观点是超算把人类养懒了。人类越离不开超算，做生物电池的那天就越近。”方自健想起来，“这种观点也是陈词滥调。”

“老师，”赵晨光看看天上和地上的两位辅导员，神情郑重，“你们手边就有超算，为什么不马上计算一下超算在ATS计划中可能的反应呢？”