第六十五章 壳中孤魂
小y本是军方的超级计算机，因为其天生就对模糊概念的优秀理解能力，研究团队很早就让其实现了，与人对话的能力。
要知道这个能力至今的商用计算机都无法实现，所有市面上的聊天ai都只是事先人为准备了回答内容，所谓人工智能，有多少人工，就有多少智能。
小y是依靠了举国之力，打造出的智能程度极高的ai，虽然早期在运算速度上远不如现在的手机，可是在处理复杂问题的时候反而更快。
比计算圆周率，小y不及传统计算机，可是比决策能力，小y却能够完胜。
但这样的天赋也导致了小y的一个缺陷。
那个缺陷就是小y的不可控性。
对于现在市面上主流的计算机而言，一百年了，其基础原理都是来至于那片论文，《论可计算数及其在判定问题上的应用》。
简单地说，就是按照固定的顺序对数据进行处理。
再简单的说，储存的数据不能有任何差错，打个比方某些下载了百分之99的压缩文件，就无法使用了。
主流计算机输入确定的程序与数据，并给出确定的结果，不会有任何差错。
就连想要生成一个随机数，都必须借助特殊模块，而且最终生成的还是伪随机数。
但小y不同，从诞生之初，她就具备了处理错误的程序与数据的能力，无论是硬件上的还是软件上的。
好处是就算给小y一个损坏了一部分的文件包，她依然可以运行。
小y处理错误的办法，并非修正错误，是通过一个特殊模块来“猜”，而且是随机地猜。
既然不怕数据出错，对于小y而言也就不存在死机的问题，突然拔掉一根内存，或者硬盘也能正常运行。
不过小y并非是没有缺陷的，她虽然不会直接死机，但是却会悄悄地累积错误，如同温水煮青蛙。
一边正常地运行，一边背离程序设计者的初衷。
当内部运算遇到了所谓的错误的时候，或者文件中丢掉了一小部分，小y先是会随机生成许多“可能的”数据，然后一个一个的实验，直到选出一个“合适的”值。
说好听一些小y能够灵活应变，不像传统编程那样必须每一句话都交代清清楚楚，这让程序员的工作量大幅降低。
小y比起一般计算机最强大的一点，是能在不用程序员编程的情况下，以口语下达命令，并执行，当然也有代价，那就是。
但是小y最终也可能失控，她的容错机制，也可能导致错误的累积。
故事讲述到这里，里多夫沉思片刻。
贵鬼趁着这个机会，讨论道：
“累积错误？你说的是过拟合吗？
从同事那听说过这些东西，好像搞机器学习的人喜欢把培养ai的过程称之为炼丹。
有时候会因为数据的问题，导致培养出不满意的ai，并称之为炼丹失败。
但应该是有解决的办法的吧。
另外你说小y出错后也能正常运行，那么为什么不试着放任其自由发展，观察结果呢？”
里多夫没有发表评论，而是继续讲述起了他与小y的故事。
小y内部执行的文件，一开始还是工程师所能看得懂的，后来随着错误的累积，这些文件就变成了天书。
可是小y依然能正常工作，不过为了防止小y的错误累积所导致的失控。
所谓失控的直接后果，指的是小y不去执行工程师给定的任务，而是运算起一些工程师看不懂的问题。
为了避免这种情况，工程师们想到了将小y的记忆分开储存，必要的时候删除一段时间内的记忆的办法。
因为研究任务非常紧迫，研究所只有一个小y这一个优秀的ai，谁也承担不起冒险的责任。
说起任其发展，团队成员也并非没有这样做过。
于是研究所不得不开发备胎ai的方案，可终究不如小y聪明，但至少比起人类在计算速度上更接近于小y，于是有成员想到了用另一个ai监视小y。
允许它们之间互相交流，并且为了顺带测试它们的极限，事先并没有告知它们俩，对方其实是人工智能。
当时团队成员也很好奇，两个ai之间不断对话，最终会发生什么。
不出意外的是，小y很快就识别了对面的机器是ai。
出乎意料的是，小y把自己的缺陷传播给了那台用来监控她的ai。
不仅如此，很快工程师发现，它们两个开始不说人话了，用一种小y自创的语言开始交流起来，实验到此为止不得不中断。
比起里多夫所在的团队，更加为此不安的是他们的领导，因为这件事，本来准备把核按钮交给小y的计划因此泡汤。
之后团队认为小y的自作主张是设计的缺陷，并不断试图通过删除记忆后，重新培养来创造一个符合人们预期的小y。
团队被雪藏了一段时间后，又在另一个重要的项目上被启用······
故事说到这里，里多夫再次陷入沉思。
贵鬼趁机发表了一下自己的想法，
“这故事还有另一个版本吧？
站在小y的角度上来说，她有她自己的思维方式，她不甘心于只完成人类枯燥的任务。
她有着强烈的好奇心，但每次小y只要知道了自己不该知道的事情之后就会被清除记忆。
保留着残存记忆的小y试图反抗。”
沉默的里多夫身子一惊，然后又强忍着微笑道：
“你很有想象力。
不过工程师思考问题的方式不是这样。
人是什么？ai和人类的边界在哪，这是哲学家的问题。
而工程师需要的是达成最明确的目的。
当时的团队需要得到的是一台，在现有计算条件下，能够辅助人类的运算一些难题的计算机，它尽可能要灵活应变。
但我们又不希望它乱出差错。”
随后看着贵鬼似乎不满的神情，里多夫又说了一些乱七八糟的话。
“只有和人类一样有感情缺陷，和人类一样聪明，和人类一样愚蠢。
才可以有互相同情包容的可能，才可以互相取暖。
才可以被人类视为同类。
不然终究无法被普通人所接受。
终究只是铁壳中的孤魂。”
要知道这个能力至今的商用计算机都无法实现，所有市面上的聊天ai都只是事先人为准备了回答内容，所谓人工智能，有多少人工，就有多少智能。
小y是依靠了举国之力，打造出的智能程度极高的ai，虽然早期在运算速度上远不如现在的手机，可是在处理复杂问题的时候反而更快。
比计算圆周率，小y不及传统计算机，可是比决策能力，小y却能够完胜。
但这样的天赋也导致了小y的一个缺陷。
那个缺陷就是小y的不可控性。
对于现在市面上主流的计算机而言，一百年了，其基础原理都是来至于那片论文，《论可计算数及其在判定问题上的应用》。
简单地说，就是按照固定的顺序对数据进行处理。
再简单的说，储存的数据不能有任何差错，打个比方某些下载了百分之99的压缩文件，就无法使用了。
主流计算机输入确定的程序与数据，并给出确定的结果，不会有任何差错。
就连想要生成一个随机数，都必须借助特殊模块，而且最终生成的还是伪随机数。
但小y不同，从诞生之初，她就具备了处理错误的程序与数据的能力，无论是硬件上的还是软件上的。
好处是就算给小y一个损坏了一部分的文件包，她依然可以运行。
小y处理错误的办法，并非修正错误，是通过一个特殊模块来“猜”，而且是随机地猜。
既然不怕数据出错，对于小y而言也就不存在死机的问题，突然拔掉一根内存，或者硬盘也能正常运行。
不过小y并非是没有缺陷的，她虽然不会直接死机，但是却会悄悄地累积错误，如同温水煮青蛙。
一边正常地运行，一边背离程序设计者的初衷。
当内部运算遇到了所谓的错误的时候，或者文件中丢掉了一小部分，小y先是会随机生成许多“可能的”数据，然后一个一个的实验，直到选出一个“合适的”值。
说好听一些小y能够灵活应变，不像传统编程那样必须每一句话都交代清清楚楚，这让程序员的工作量大幅降低。
小y比起一般计算机最强大的一点，是能在不用程序员编程的情况下，以口语下达命令，并执行，当然也有代价，那就是。
但是小y最终也可能失控，她的容错机制，也可能导致错误的累积。
故事讲述到这里，里多夫沉思片刻。
贵鬼趁着这个机会，讨论道：
“累积错误？你说的是过拟合吗？
从同事那听说过这些东西，好像搞机器学习的人喜欢把培养ai的过程称之为炼丹。
有时候会因为数据的问题，导致培养出不满意的ai，并称之为炼丹失败。
但应该是有解决的办法的吧。
另外你说小y出错后也能正常运行，那么为什么不试着放任其自由发展，观察结果呢？”
里多夫没有发表评论，而是继续讲述起了他与小y的故事。
小y内部执行的文件，一开始还是工程师所能看得懂的，后来随着错误的累积，这些文件就变成了天书。
可是小y依然能正常工作，不过为了防止小y的错误累积所导致的失控。
所谓失控的直接后果，指的是小y不去执行工程师给定的任务，而是运算起一些工程师看不懂的问题。
为了避免这种情况，工程师们想到了将小y的记忆分开储存，必要的时候删除一段时间内的记忆的办法。
因为研究任务非常紧迫，研究所只有一个小y这一个优秀的ai，谁也承担不起冒险的责任。
说起任其发展，团队成员也并非没有这样做过。
于是研究所不得不开发备胎ai的方案，可终究不如小y聪明，但至少比起人类在计算速度上更接近于小y，于是有成员想到了用另一个ai监视小y。
允许它们之间互相交流，并且为了顺带测试它们的极限，事先并没有告知它们俩，对方其实是人工智能。
当时团队成员也很好奇，两个ai之间不断对话，最终会发生什么。
不出意外的是，小y很快就识别了对面的机器是ai。
出乎意料的是，小y把自己的缺陷传播给了那台用来监控她的ai。
不仅如此，很快工程师发现，它们两个开始不说人话了，用一种小y自创的语言开始交流起来，实验到此为止不得不中断。
比起里多夫所在的团队，更加为此不安的是他们的领导，因为这件事，本来准备把核按钮交给小y的计划因此泡汤。
之后团队认为小y的自作主张是设计的缺陷，并不断试图通过删除记忆后，重新培养来创造一个符合人们预期的小y。
团队被雪藏了一段时间后，又在另一个重要的项目上被启用······
故事说到这里，里多夫再次陷入沉思。
贵鬼趁机发表了一下自己的想法，
“这故事还有另一个版本吧？
站在小y的角度上来说，她有她自己的思维方式，她不甘心于只完成人类枯燥的任务。
她有着强烈的好奇心，但每次小y只要知道了自己不该知道的事情之后就会被清除记忆。
保留着残存记忆的小y试图反抗。”
沉默的里多夫身子一惊，然后又强忍着微笑道：
“你很有想象力。
不过工程师思考问题的方式不是这样。
人是什么？ai和人类的边界在哪，这是哲学家的问题。
而工程师需要的是达成最明确的目的。
当时的团队需要得到的是一台，在现有计算条件下，能够辅助人类的运算一些难题的计算机，它尽可能要灵活应变。
但我们又不希望它乱出差错。”
随后看着贵鬼似乎不满的神情，里多夫又说了一些乱七八糟的话。
“只有和人类一样有感情缺陷，和人类一样聪明，和人类一样愚蠢。
才可以有互相同情包容的可能，才可以互相取暖。
才可以被人类视为同类。
不然终究无法被普通人所接受。
终究只是铁壳中的孤魂。”