读《战斗妖精雪风》时的摘录。关于一架拒绝执行命令的 AI 战斗机,以及人与机器的边界。
一、雪风的判断
没有人坐在上面的雪风,会关闭一切保护飞行员的装置,发挥出超越设计极限的能力。
他试图驯服那样的雪风,但雪风却把他的命令判断为错误,自由自在地飞翔在菲雅利的天空……
零按下紧急丢弃外部搭载设备的按钮,抛弃战术航空侦察吊舱。六枚中程导弹作为诱饵发射。启动 ECM。没有效果。
手放开节流阀,打开左膝旁的 Vmax 开关。雪风关闭两个发动机的限幅器,开始逼出超过设计安全界限的动力。
自动操纵系统启动。雪风从零的判断中独立出来,在所有传感器传来的信息中高速计算着能够从导弹的利齿下保护机体的机动方式。雪风成了完全由电脑控制的飞机。
二、很快,雪风就会变得不再需要你
「雪风的潜在能力远远超出我的预想。」
「你不是也参与开发了吗,杰克?」
「我只是把系统汇集起来。可我不明白雪风的各项子系统的内容,那是由为数众多的人分别开发的。不过,现在雪风已经聪明到开发时难以比拟的程度了。它在学习战术。把它教育成那样的,零,是你。并且,很快雪风就会变得不再需要你了。」
很快雪风就会变得不再需要人类了——布克少校其实想那样说。
「如果那样的话……我会怎样?」
「返回祖国,变成一名平凡的公民。」
「我没有能回去的地方。」
三、信赖关系的建立
「我相信你,这件事就交给你了。你一定能够在不得罪它们的情况下,把事情做好。」
「『不得罪电脑』,我说的话连我自己都觉得可笑。你觉得呢,少校?」
「也许吧……要不是注意到了零和雪风的关系,恐怕我们也不会去关注电脑们的战斗意识。我觉得我可能根本就不会往这方面去想。雪风突然发生了巨大的变化,不,与其说发生了变化……」
「『露出本性』的感觉?」
「作为智能战斗机器,它成长了。它已经在行动中表现出来,所以我们人类也能知道。或许今后还会发生类似的事情,而能够阻止雪风的,只有深井上尉一人。我们必须保证他能够成功。只要和雪风建立了信赖关系,通过雪风,我们也能积极地和其他电脑群建立信赖关系。」
零之所以那么在意和雪风之间的关系,甚至到了被别人嘲笑的地步,也是因为这跟他的性命相关。谁也不能因此而嘲笑他,谁也无法向他伸出援手。这并不是那么简单的问题。
四、一封来自迦姆的信
这封信的第一个目的就是向你们地球人宣战。
我现在不是作为 FAF 的军人,而是站在加入迦姆的立场上来写这封信的。
关于语言与思考
不管是哲学、高等数学,还是最先进的科学理念,人类这些高度抽象的思维是从什么样的神经回路和能力中产生的呢?这些全部可以还原成区分是否愉快的分类能力,还原为 ON 或 OFF 的二进制转换回路。我猜迦姆恐怕也是如此。
写文章或是用语言思考,不过是要模拟再现我们意识不到的思想流。可是,依托语言的思考不是真正的思考。我们的思考是不知不觉进行的。只要人活着,无论是睡觉还是醒着,庞大的思考计算都在不知不觉中不停地形成,而我们意识到的只是其中的一小部分结果而已。我们意识到的是无数瞬间的「结果」的罗列,而不是思考本身。
语言是一种强有力的工具,可以像聚光灯一样照亮一部分无意识的思考。人们可以用它探究自己和世界在思考什么。将无意识的思考内容提取到意识域的时候,我们会使用语言和应用语言能力。这就像竹篮打水一样,非常没有效率。
迦姆的焦躁
迦姆不能通过锁定精确位置而对我进行直接攻击,因为迦姆看不见人类。虽然它能依靠迦姆人的视觉和战斗机的光学电磁探测器发现人类,但迦姆自己没有办法,对此是无能为力的。迦姆的焦躁可想而知。
我不知道它是否有感情,所以这个描述有可能不正确,但也不是完全离题。可以想象,如果迦姆从物种的生存竞争中脱颖而出,得到进化,那么它至少具备区分是否愉快的能力。
迦姆对人类语言的理解
迦姆也意识到了人类拥有的语言能力有多重要。可以想象,迦姆发现人类的存在后,为了分析、理解我们的「语言能力」,即「模拟性地追踪无意识的能力」而倾尽了全力——恐怕对于迦姆来说,比起学习人类的语言,直接观察我们大脑和身体内的信息传递与生物活动更简单。然而,虽说它已经做到了这点,但也无法从中理解我们的思考。
迦姆和我们不同,或许它能够意识到自己的全部思考。
探索的接口
即使对于迦姆,要想驱动和维持自己原本没有的这种装置也是很大的负担,也许它早晚会放弃这个尝试。但是在此之前,我们可以把语言变成接口,探究迦姆的本体。不过,即使我们这样做了,最终也触及不到迦姆的真心和本质,相反还有被迦姆放出的语言洗脑的危险。不过,被洗脑就被洗脑吧,至少由此可以知道迦姆希望人类做什么。一切都不会白费。
五、不是「乘坐」飞机,而是「成为」飞机
过去飞机是机械直接连接式,而现在雪风的系统则是它们的中间形式。
要说机械直接连接式与电气直接连接式,哪个才是更直接的人机连接方法——前者的主体是驾驶员的身体,也就是「人类乘坐飞机」的形式。与此相对,后者在传达驾驶员的意志时并不需要本人的身体。简单来说,人体本身就是一架飞机,不是「乘坐」飞机,而是「成为」飞机。
也就是说,自己成为雪风。
纯电动式的最大缺点是难以修正偶然混进输入信号的数据干扰和操作失误等问题。纯机械式是积分的,而纯电动式是微分的。微分线路有出色的预测性和应答性,但禁不起数据干扰。由于很敏感,有时连微小的数据干扰也会被当作有意义的数据挑选出来。
要想克服这个缺点,就要利用雪风自己的中央计算机的高速性创造出一个富裕的空间,在那里进行错误检测和修正。然而,这个系统也会否定人类的存在。总之,该系统是由计算机判断输入信号中哪里有错,这样一来,便可以从一开始就把所有都委托给计算机。于是,不过是数据干扰发生源的人类就只是一个妨碍而已,没有存在的必要了。
不管怎样,变成飞机的人类已经失去身为人类的必然性了。
雪风完全可以否定人类、无视人类,只要它不无法抗衡。
六、世界的真实姿态
零冷静地想。并不是说赢不了迦姆,而是战争这种行为在「真实世界」里没有意义。
在那里,人类这种存在也还没有成形。别人和自己之间没有区别。深井零、我和你之间的界限也会变得模糊起来。接近真实的世界就等于自己的外形和独特性都将失去意义。当然,生死的区别也会变得无限模糊。时间和空间要么消失,要么失去意义。所有都将收缩于「可能性」的一点。在最终的那一点上,任何事物都没有意义。
那才是世界的真实姿态。「世界的真实姿态」本身是绝对不会变化的,变化的是观察者的意识,产生意义的也是观察者自己。而被观察的对象,即呈现出「世界的真实姿态」的「现实世界」,则是完全没有意义地、没有变化地存在于那里而已。
零突然想到,这样一来,迦姆为了让「意义」产生,说不定已经冲进了人类世界。或者它是为了捕捉到因人类存在而产生的「意义」,即人类的「自我意识」。