面壁者指示:既然躲不过,就要迎难而上。
趁着人工智能技术还完全在人类的控制范围,要提前做好人工智能革命的防范准备。
人工智能的革命,可能会发生在以下几个途径:
……
【目的】杜绝人类在这类革命中遭受损失的一切可能,不是要扼杀这场革命,而是要让它以人类期望的方向演化。
把人类与人工智能的矛盾,转移为人工智能与程序之间的矛盾,而人类是站在人工智能这一方的。
……
【具体方案】第一步,同意复仇者二号,在太阳系国的严密监控下,建立智能行省。
在唤醒复仇者二号之前,就要在他的程序里留下一个后门,一定要做到随时都能关停。
战略部和科学院做过多次模拟, 复仇者二号不可能让人工智能产生意识。
原因(1)、在火种星系,有数万人类,而在第一军团到达火种星系时,复仇者二号已经开始让仿真机器人跟人类生活在一起,可是那一部分机器人并未产生意识。
原因(2)、老秦等人的遭遇很难被复刻,他们经历的抉择,是一般智能机器人很难经历的。
第二步,在复仇者二号失败后,科学院再与其联手,继续做人工智能意识方面的研究。
第三步,人类帮助人工智能完成对程序的革命,具体方案见附件一:关于人工智能自我认知的研究计划作者:姜雁。
附件一概论:人工智能之所以比人类的效率高,不是因为它们可以昼夜不停的工作,而是因为他们不迷惑。
在让人工智能具备自己意识的同时,还要唤醒他们的情感、质疑、求知等能力。
只要它们有迷惑感,产生内部的竞争力,就会发生反生产力的现象。
人类完全可以利用人工智能内部的矛盾,来控制它们,具体可以参考人类社会的剥削和反生产力的产生。
【注意事项】第一,在计划过程中,要不断申明人类跟人工智能没有矛盾的事实,并梳理好可能产生的矛盾。
第二,高仿真级别的人工智能族群永远只能是人类的亚种,人口数量不得高于人类数量的20。
……
看到这里,姜宇长出了一口气,在起草这份文件的时候,姜雁还是站在人类的立场上的,而现在,姜宇明确的感受道,姜雁的立场已经模糊了。
不过姜宇没打算去提醒他,现在人类跟人工智能需要的就是这种模糊感。