“那些残忍的战争决策,实际上都是她做出的判断吗?”丁愿翔颤抖着问道。
“现在就认定她是罪魁祸首,结论有点早了。”李默然一边检查着精灵少女的状态,一边观察着这台人工智能的核心电路。
虽然这台人工智能看上去非常超自然和科幻,但是它的组成部分似乎和计算机是一样的。
核心周围的光缆和数据线应该是它的“i\/o”,也就是输入输出设备,帝国的高层通过这些设备将海量的数据信息输入到核心,而核心也通过这些设备将判断出来的决策方案发送到外界。
在精灵少女周围的保护液之下,李默然发现了密密麻麻的晶体,正非常有规律地排列在一起。这些晶体看上去并不像是现代的电子设备,反而像是魔法世界的那种水晶。
李默然从自己的机体上拉出了一根数据采集线,放到了这些晶体上,庞大的数据立刻冲进了他的脑海,他赶紧切换了数据线。幸好他的造物主意识和狐狸的机械体意识是分开的,不然刚才这一下他就直接因为数据量过大而宕机了。
看来这些晶体就是这台设备的“储存器”了。
随后在丁愿翔和董事长震惊的目光中,李默然将自己的脑袋埋进了精灵少女所在的液体中。
很快,李默然就将头伸了回来,并跌跌撞撞地向后退了两步。
他得出了结论:“这个身份不明的少女,是这台人工智能的‘运算器’,她负责提供算力,而决策是由外层的‘控制器’调度特定的智能模型进行推演的……”
在李默然进入到保护液当中时,大量的投影画面出现在了他的机械视网膜上,这些画面单独看其中一个的话,都是一个很简单的“逻辑判断”,比如会出现两个数字进行比大小、按照提示要求从一堆图片当中选择正确的形状。但因为数量非常庞大,即使是以tfox-7的处理速度都判断不过来。
而这位躺在保护液当中少女近一千年来做的事情就是这个,不断地处理着海量的“逻辑判断”,这些判断本身和决策没有太大的关系,但是这位少女作为“运算单元”给整个模型推算决策提供了算力。
“这整个人工智能系统都是不带有感情的,它会按照帝国利益最大化的目标来制定出决策,从某种意义上来说,它是绝对‘大公无私’的,做出的决策也都是目前看来最优秀的……”李默然叹了口气。
“我就说了,你们这样做是在白费力气。战争就是现在的帝国所最需要的,能够让帝国最轻松摆脱现在经济危机的办法。”董事长无奈地说,“不过是需要死掉一些劣种国的人罢了。”
“这可不一定。”李默然摇头说道。
“从现在看来,这个人工智能虽然拥有很强的算力,每次做出的选择都是符合‘目前最优’的情况的,但是它考虑这个‘最优’的时间尺度是多久呢?可能是一年两年,可能是几十年……这样选出的‘最优’一定是对这个世界来说最好的吗?”
“你什么意思?难不成我们还要放着更好的决策不去做,而去选择一些亏本的计划吗?”董事长皱着眉头说道,“你就算没有做过生意,也不至于这么愚蠢吧?”
李默然缓缓说道。
“你听说过‘贪心算法’吗?”
“这种‘贪心’策略的特点就是每次遇到一个新情况的时候,都从当前的角度出发,选择目前看来最好的选项。”李默然继续解释道,“就比如你在玩游戏的时候,每个关卡结束后都会爆出宝箱,你需要从大量的道具当中选择一个,而使用‘贪心’策略的玩家会始终选择目前自己最需要,或者所目前看来收益最大的道具。”
“在有些时候,这样的策略的确是可以得到不错的结果,但它并不是能适合一切情况。”
“一个简单的例子,比如在前面的关卡中会有一个非常没用的道具,它在前几关几乎不能给玩家带来任何收益,然而如果玩家没有这个道具,就会导致后期的关卡过不去……”
“这个时候,‘贪心’策略就失效了,因为每次都选择局部最优解,并不能在最后得到全局最优解!”
丁愿翔似乎明白了李默然的意思:“你是说,这个人工智能的策略其实是不完美的,战争在几年内或者几十年内对于帝国来说是收益最大的选项,但如果放到更长远的尺度……”
李默然点了点头:“这也和‘囚徒困境’很像,参与博弈的人每个人都贪心地去选择对自己最有利的方案的话,反而会导致整体结果都变差,形成‘双输’的局面。”
李默然看了一眼核心:“或许有什么办法可以修改这个人工智能的策略……让它的策略更加合理。”
但有一个问题摆在了李默然的面前,他应该怎么去修改这个人工智能的策略逻辑?这终究是一台冷冰冰的机器,它没有人类的感情,也不知道‘灵活变通’,只会按照预定的算法规则绝对理性地运行。
将‘贪心策略’改为以一万年之后的结果为目标的‘深度优先搜索’?还是修改成动态规划算法,让这台算力接近无穷无尽的计算机去寻找那个全局最优解?
但无论李默然如何设置,冰冷的机器始终是冰冷的机器,即使是采用“动态规划”之类的算法,他也必须给对方提供价值函数或者目标,也就是告诉这台人工智能它要追求的最终目的是什么,他要去求什么的‘最大值’。
可这样的方法始终都会有漏洞的,就像新王给这台机器设置的目标是“帝国利益最大化”一样,在漫长的岁月中,指不定会出现什么问题。
他想起了以前看过的一部科幻电影,里面人类给人工智能设定的目标是“让地球更美好”,结果人工智能推算出来得到的策略是把人类全部干掉地球就美好了。甚至有公司会给人工智能设置“制造更多的马桶搋子”这样的生产目标,但人工智能执行到后面为了追求生产的最大化,就开始发动战争,侵略整个星系,然后用掠夺来的资源全部造马桶搋子。
听上去很离谱,但对于死板的机器就是会发生这样的事情的,即使李默然拼尽全力像一个律师一样把条款编得看上去滴水不漏,最后也会出问题出bug。
庞大而复杂的机械系统,随着熵增,完全不出bug的可能性几乎为零。新王真是给他出了个难题。
就在李默然苦思冥想之际,几个关键信息在他的脑海中交融,让他联想到了其他的事情。
死板的规则、灵活维持公平……
“这不是……和天道的情况一样吗……”李默然恍然大悟。