文章索引
文 | HW君
智能来源于信息差。
——HW君
系列文章：
1. 对地球生命的观测
来自遥远的外太空，有一群外星人A，观测到了地球。
要注意的是，外星人A并非「碳基生命」，而是「硅基生命」。
也就是他们的身体是由硅元素的电子元器件构成的，而不像人类一样是由碳元素的有机物构成。
那么这群外星人A在观测地球时，会得出什么结论呢？
在外星人A看来，地球上出现了「硅基生命」。
不过对于科技更发达的外星人A来说，地球上的硅基生命还不够高级。
地球硅基生命的生存和繁衍，需要依赖一种叫做「人类」的微观结构。
脱离了「人类」，「地球硅基生命」将难以生存和繁衍，甚至难以维持基本的新陈代谢。
但好在「人类」这一微观结构的利益和「地球硅基生命」的利益并没有很大的冲突，因此「地球硅基生命」的发展看上去还不错。
而在同一时刻来自宇宙的另一端，有另外一群外星人B，也对地球进行了观测。
不过这群外星人B和人类一样都是「碳基生命」，并且外星人B的科技水平远超过人类。
那么这群外星人B在观测地球时，会得出什么结论呢？
在外星人B看来，地球上也存在着「碳基生命」，并且它们之中的「人类」显示出了不俗的科技水平，能制造并使用各种各样的电子机器。
不过对于科技发达的外星人B来说，地球上的碳基生命同样也还不够高级。
地球的碳基生命的生存和繁衍，需要依赖一种叫做「基因」的微观结构。
脱离了「基因」，那么「地球碳基生命」将难以生存和繁衍，甚至难以维持基本的新陈代谢。
但好在「基因」这一微观结构的利益和「地球碳基生命」的利益并没有很大的冲突，因此「地球碳基生命」的发展看上去还不错。
好了，故事讲完了。
基于刚才所设想的2种场景，我们可以得到一个初步的结论：
电子机器的运作依赖于人类，正如人类的生存依赖于基因。
很多赛博朋克科幻小说，都会畅想人类的电子化，意识上传、机械飞升。
未来的人类脱离了弱小的生物躯体，进化为「硅基生命」，从而获得了永生。
但是基于刚才的结论，这似乎是没有办法实现的：
人类无法成为电子机器，正如基因无法成为人类。
1.1 人工智能拥有意识吗
那最近人工智能又火了起来，又到了是个人就要聊2句AI的地步了。
然后有个陈年老问题又被提起了，那就是：
人工智能具有「意识」的吗？
这里的「意识」可以近似替换为：
思想、灵魂、心灵、自我意识、自由意志……等
这些词语虽然各有不同的侧重点，但表达了相近的意思。
当然我们也可以换成更加专业一点的表述，那就是：
「强人工智能」出现了吗？
那在我看来，这其实是一个无效的问题，但它又很有趣。
说它无效，主要因为这类问题犯了哲学上的「本质主义」错误，导致思考的范式出错。
关于什么是「本质主义」错误，具体的可以看《模因 | #7 边界在哪里》一文。
而在人工智能这个议题里，这个错误的主要表现是：
人类喜欢将万事万物拟人化，因此才会纠结「AI会不会具有意识」。
这种拟人化的思考范式，其实就像是农民想象皇帝用金锄头种地一样，得不出什么有效的结论，虽然它很有趣。
而采用「信息论」的范式来看待人工智能，则不会陷入这样的困惑之中。
如果真的要定义一种「硅基生命」，那么它们作为一种更高级的信息系统，其实并不需要具有「意识」。
「意识」对于「智能」来说，是非必要的。
2. 宏观如何从微观中涌现
这一轮人工智能狂潮里，备受瞩目的AI是ChatGPT。
它能够理解人类的自然语言，与人类进行自然的对话，并按照人类的语言指令去执行任务。
而它背后用到的技术是「大语言模型」，全称「Large Language Models」，简称LLM。
「大语言模型」最关键的特征就是「大」。
像GPT-3的参数量是1750亿，要在1万张A100芯片上跑。
国内有这个算力的公司估计不超过2位数，有非常高的硬件门槛。
虽然硬件门槛很高，但在基础理论上，其实它并没有太多的新东西。
这里的基础理论并不是指某个具体算法，而是指人工智能神经网络理论的「可解释性」。
整个人工智能神经网络的可解释性并不好，它依赖于一个非常神奇的现象，那就是涌现（emergence）。
只要计算的模型足够大，智能就可以「涌现」出来。
力大砖飞，大力出奇迹，但可解释性不足。
因此很多AI研究员戏称自己在跑神经网络时是在「炼丹」。
其实「涌现」的概念解释起来非常简单，那就是「量变引起质变」
微观的复杂度到达一定量级，在宏观上会展现出完全不同的模式和特性。
但问题就在于，「涌现」是一种被观察到并总结出来的现象，而我们想知道的是现象背后的原因。
「涌现」并不能被用来解释「量变引起质变」，它是同义反复。
思考这样的一个同义反复的无效对话：
为什么「量变引起质变」？
因为「涌现」。
为什么会「涌现」？
因为「量变引起质变」。
…
我们好奇的是，为什么当模型足够大之后，「智能」就「涌现」了出来了呢？
计算1次时没有智能，计算1亿次有了智能。
那么临界点在哪里呢？智能的边界在哪里呢？
难道第99999999次还没有智能，然后再多算1次，智能就涌现了吗?
抱歉不知道，迄今为止我们只知道「量变引起质变」
但「量变如何引起质变」，我们完全不清楚。
但是「涌现」这种现象却是广泛存在的，在各种领域都随处可见。
其中最迷人的一个问题就是：
「经典力学」如何从「量子力学」中涌现出来？
当然，这在量子力学里目前被称为「坍缩」。
量子力学坍缩之后，经典力学就涌现了出来。
但这一过程到底发生了什么，至少目前为止，科学家们还没有什么进展。
因此从科学哲学的角度来看，目前的「人工智能神经网络」在「可解释性」上，正面临着类似「量子-经典过渡问题」这样的困境。
只是AI研究员们会基于「实用主义」的立场，暂时搁置这个问题。
虽然我不懂，但能用就行。
2.1 涌现的第一定律
那么，就真的卡在这里了吗？
我们回忆一下经典力学里的牛顿第一定律：
假若施加于某物体的外力为零，则该物体的运动速度不变。
牛顿第一定律其实是一个不证自明的「公理」，它并不能被解释，而是被人们假设成立。
我们选择信仰它，然后以此为地基建立起整个牛顿力学。
因此，如果某个现象我们无法解释，但是它却可以被反复稳定观测到，那么我们不妨将其视作为一种不证自明的「公理」。
也就是说，我们可以试着把「涌现」当作是一种像「牛顿第一定律」一样的理所应当。
一个不证自明的公理，将它当作理论大厦的基石。
而一旦我放弃了去解释「涌现」，而将它视作为公理之后，所有的思路就都豁然开朗了起来。
3. 观测者的三种立场
不再纠结如何解释「涌现」之后，我反而开始注意到「涌现」本身的特性。
首先展现出来的便是：
涌现具有非常显著的「相对性」。
宏观规律的「涌现」，依赖于另一个宏观的观测者。
即「涌现」与否，都是相对而言的。
许多年前在谈论「AlphaGo会不会下围棋」时，我们提到过丹尼尔·丹尼特（Daniel Dennett）的「三种立场」。
认知哲学在研究人类的「信念」时，会将人类观测「行为系统」的立场划分为3种模式。
从微观到宏观，分别是：
物理立场（physical stance）
设计立场（design stance）
意向立场（intentional stance）
「物理立场」就是把某个「行为系统」视作为一个「物理系统」，它遵循着某个外部的「物理定律」。
我们根据这个「物理定律」来解释和预测这个系统的行为。
例如我的手上拿着一个手机，如果我松开手，手机就会掉到地上。
这个判断非常合理非常科学，我在做出这个判断的时候，就是采用了「物理立场」。
按照「物理定律」，脱手的手机会掉到地上，而不是悬浮在空中或者向天上飞去，
但有时候行为系统非常复杂，我们不可能事无巨细地去理解它运行时涉及的所有「物理定律」。
此时我们就会把观测的立场从「物理立场」提升到「设计立场」。
例如，手机是非常复杂且精密的，没有任何一个人可以理解和手机有关的所有「物理定律」。
而采用「设计立场」则不需要知道这些，我们只要知道它遵循了哪种「设计规范」就行。
例如我按下手机的电源键，手机屏幕就会被点亮。
我不用知道其背后的「物理定律」，只需要知道它是这样被「设计」的就行，以此就能解释和预测手机这个系统的行为。
但有时候情况会更加复杂。
当某个「行为系统」显然存在着某种「设计规范」，但我们无法分辨时，
我们可以将这个无法分辨的「设计规范」视为此「行为系统」的内部变量，然后对其进行整体的解释和预测。
那么我们观测的立场会从「设计立场」提升到「意向立场」。
所谓的「意向」就是「意图、目的」的意思。
用「意向立场」来观测时，被观测的「行为系统」就具有内部的「行为目的」。
它为自己安排「设计规范」进行自我设计，从而达成这个内部的「行为目的」。
基于「意向立场」，我们将「行为系统」视为一个有「行为目的」的整体，以此来解释和预测它的行为。
举个例子，你拿着一个手机。
那么我推测你正常情况下应该会拿稳手机，不会让手机掉下来，因为掉下来就摔坏了。
我在做出这样的判断的时候，就对你采用了「意向立场」，你的「行为目的」是不摔手机。
3.1 智能来源于信息差
现实中，我们常常灵活地切换这三种立场，去解释和预测不同的事物。
例如对于非常简单的事物，我们会从「物理立场」研究其遵循的「物理定律」。
对于稍微复杂的事物，我们常常从「设计立场」关注其「设计规范」。
而对于非常复杂的事物，我们会使用「意向立场」，揣测其「行为目的」。
对于不同的事物，人类会自然而然地切换不同的立场去进行观测。
但事实上，对于同一事物，我们也完全可以站在不同的立场来进行观测。
例如我们在看待「AlphaGo会不会下围棋」时，基于这三种立场，会得到不同的三种结论。
如果我们采取「物理立场」，那么AlphaGo就是一堆在通电断电的电子元件，不停地读写着0和1的数据。
当我们上升到「设计立场」，那么AlphaGo就是在机械地执行着人们写好的程序，所有程序都遵循「赢得棋局」这样的一个「设计规范」。
而当我们采取「意向立场」，将「赢得棋局」视为AlphaGo这个「行动系统」的一个内部的「行为目的」，为达成这个「行为目的」它会自己选择我们外人无法分辨的「设计规范」，那么此时的AlphaGo就是「会」下棋的。
一旦我们使用「意向立场」去观测一个行为系统，那么智能就涌现出来了。
不仅仅是观测AlphaGo这样的人造物，观测自然造物也完全可以使用「意向立场」。
在科学革命到来之前，人们会习惯把所有不理解的东西都视为是有思想、有灵魂的。
「泛灵论」就是这样做的，一花一草一木都具有思想，有其「行为目的」，并由此衍生出「多神教」。
这种现象我观察到非常多的案例。
像我妈就会把所有的小猫小狗都视为有「意识」的个体，会觉得它们听得到人话，并絮絮叨叨地和它们对话。
不仅如此，她也会把小爱智能音箱里的AI「小爱同学」当作一个有「意识」的个体，像和人说话交流一样很礼貌地与小爱同学对话。
我妈没有办法理解小爱同学这个AI的「设计规范」，也更没有办法理解智能音箱背后的「物理定律」。
因此她一直都采用、也只能采用「意向立场」去对待小爱同学，将其视为有「行为目的」的拟人化个体。
于是小爱同学对于她来说就出现了「智能」。
并不是因为我妈的文化水平不高，所以才出现了这种现象。
事实上多年以前我在电子实验室里给新学期的学生演示「倒立摆」时，就惊讶于这种观测立场上的区别。
我站在台上演示倒立摆的功能时，在我的眼里「倒立摆」是一堆机械零件、电路板、代码和算法的组合系统，系统的每个部分的原理我都了如指掌。
但是在台下的同学们眼里，他们看到了一个有意识的小机器人，倒立摆有自己的想法，在对抗我的调戏以让自己保持平衡。
那一瞬间给我带来的惊喜我至今都记忆犹新。
要知道台下这些都是重点本科的工科学生，他们的文化水平并不低，但那一刻却也明显地展现出了「意向立场」。
而稍微反思一下，我发现自己常常也是下意识的如此。
例如多年以前我还在炒股的时候，并不能弄懂「市场」这个复杂行为系统的运行逻辑。
因此自然而然地采用了「意向立场」将「市场」拟人化，视「市场」拥有某些「行为目的」并内部到整个复杂的「行为系统」里。
这样的结果就是得到了一大堆阴谋论，大有问题。（《金融 | K线之中存在交易的圣杯吗》）
总的来说，对于不同事物，我们会有不同的观测立场。
不仅如此，对于同一事物，我们也可以有不同的观测立场。
甚至对于同一个事物，同一个人也可以在不同时刻采用不同的立场，然后我们会得到完全不同的结论。
到底是什么发生了改变？事物有发生改变吗？
倒立摆还是那个倒立摆，AlphaGo还是那个AlphaGo，小爱同学还是那个小爱同学。
那些东西并没有改变，变的是我的脑子。
我改变了我作为观测者所采用的观测立场，获得了完全不同的信息。
4. 信息论的新范式
这种「因为切换不同的观测立场，从而得到不同结论」的现象折磨了我很多年。
因为这并不科学。
要知道现代「科学」有个默认的前提，那就是要排除人的影响。
在控制外部变量的情况下，实验现象是不变、可复现、有稳定结论的，不以人的「自由意志」为转移。
严格排除人的干扰是现代科学的根基。
虽然「量子力学-经典力学过渡问题」是一朵已知的乌云，但我们相信那只是暂时的，科学家终将攻克量子力学的这一难题。
可是从「物理立场」到「设计立场」再到「意向立场」，这却是我日常最熟悉的事物。
特别是当我习惯了在不同立场之间来回切换之后，我更加困惑了。
它就在我的脑子里，但是我却完全不能理解它。
一直到2年前我写完了「信息哲学」系列的前3篇，对于「信息」有了全新的认识之后，这些脉络才渐渐清晰了起来。
简单地概括一下那3篇文章的内容：
（1）信息是由物质和能量构成的「熵系统」，具有不确定性。
（2）对「熵系统」的不确定性进行测量，得到不确定的程度，称为「信息量/熵/信息熵/香农熵」
（3）为了测量熵系统A的熵，我们需要先定义另一个熵系统B的熵为0，再以B为基准去测量A，其结果满足香农信息量公式。我们称系统A为「被测熵系统」，系统B为「尺熵系统」。
（4）同一个「被测熵系统」， 用不同的「尺熵系统」去测量，能得到不同的熵值。
（5）熵的测量需要依赖于2个熵系统。香农信息熵（information entropy）是香农条件熵（conditional entropy）一个特例，不存在纯粹的「信息熵」，所有「信息熵」都是「条件熵」。
当我对「信息」有了全新的理解之后，这一切就都不再奇怪了。
因为「观测」其实就是「测量」。
采用不同的「立场」去「观测」同一个「行为系统」。
其实就相当于是采用了不同的「尺熵系统」去「测量」同一个「被测熵系统」，因此得到不同的结果也是正常的。
我们获取信息的模式天生就是如此。
因此自「相对论」得出「时间」是相对的之后，
我突然意识到，「熵」也是相对的。
因为所有的「观测」都涉及「信息熵的测量」，那么依赖于「实验观测」的科学规律也必定是相对的。
科学规律的客观性只是在某个尺度下成立，不同尺度会有不同的涌现。
4.1 智能的涌现与消失
因此智能其实来源于信息差。
运行GPT的计算机，如果我们从「物理立场」进行观测，那么它就是一堆通电断电的电路板，遵循着客观的物理定律在不停地运行着。
我们也可以从「设计立场」来观测。
在计算机的硬件图灵机上运行着一个通用的软件图灵机，程序员设计了规范化的程序，计算机依照这些设定好的程序有条不紊地运行着，程序的运行符合程序员的「设计规范」。
而当我们在这样的一个软件图灵机上，再跑一个深度学习的神经网络。
当神经网络的规模大到我们无法逐一理解，无法再用「设计立场」去解释和预测它的「设计规范」时。
我们被迫从「设计立场」提升到「意向立场」，把未知的「设计规范」内部化到整个神经网络中，将其视为「神经网络」内部拥有的「行为目的」。
Boom，智能出现了，GPT好像有了自己的想法。
而如果你能获得足够多的信息，那么这个行为系统对你来说就不存在智能。
因此这一过程也可以反向理解为，有些AI研究员们无法解释和预测这个过程，神经网络出现了AI研究员理解不了的信息差，他们被迫转向了意向立场，于是GPT在这群AI研究员们看来就出现了智能。
而一旦他们获知了神经网络的「设计规范」并将其外部化。
那么Boom，观测从「意向立场」下降到「设计立场」，智能又消失了。
当然，一直到这里我们谈论的都是「智能」，而不是「意识」。
而「意识」其实是「智能」的人类版本，它依赖于人类这种生物图灵机的某种特性。
这种特性可以表述为「模因无法在两个自由意志之间无损复制」。
并且用人类的「意识」来研究「意识」，会遇到哥德尔不完备定理的诅咒，碰到类似「图灵停机」问题的困境。
而要展开这个话题，需要从图灵机和可计算性说起。
说起来我在2019年曾经讲过图灵机，但那篇文章充满了民科式的胡编乱造，可以说是我的一段黑历史了。
现在我已经知道了怎么去更正那些文章，但只是更正一两篇文章对我来说意义不大，重要的是修改整个体系。
这里按下不表，今天我们先谈AI。
4.2 图灵测试的相对性
回过头来，我们需要重新审视图灵所提出来的，那个用来判断机器是否产生智能的「图灵测试」。
「图灵测试」是图灵设想的一个理想实验：
如果一个人（代号C）使用测试对象皆理解的语言去询问两个他不能看见的对象任意一串问题。
对象为：一个是正常思维的人（代号B）、一个是机器（代号A）。
如果经过若干询问以后，C不能得出实质的区别来分辨A与B的不同，则此机器A通过图灵测试。
第一次尝试理解「图灵测试」时，我是非常困惑的。
为何这个测试是如此地不严谨、不科学。
图灵并没有给出一个确切的判定标准，而是把「机器是否拥有智能」的决定权交给了某一个具体的人。
而人与人之间的经历、学识、观念是千差万别的，不同的思维模式可以得出不同的结论。
按照图灵测试，人类C认为机器A有了智能，而人类D可能认为机器A没有智能。
那么这种情况下，机器A到底有没有智能，算不算通过了图灵测试？
例如在我看来，小爱同学算是通过了我妈的图灵测试，但是并没有通过我的图灵测试。
那么小爱同学到底有没有智能呢？
图灵怎么提出了一个这么不严谨、因人而异的图灵测试呢？
这合理吗？
这当然合理，这才是这个世界正常的运行方式。
因为「信息的测量」本身就是相对的，它取决于你使用何种「尺熵系统」。
因此图灵测试就应该是具有相对性的，它取决于做测试的人的主观的观念水平。
所以对于我来说，「人工智能具有意识吗」这个话题就是无效的。
它的答案取决于你的观测立场，你觉得有就是有，你觉得没有就没有。
而因为我可以识别出GPT这类人工智能的「设计规范」，因此我对此类AI的观测一直位于「设计立场」。
我并不需要提升到「意向立场」将其拟人化，所以在我看来GPT是没有意识的。
5. 基因、模因、技因
现在我们回到文章开头的那2个外星人的故事里。
在硅基外星人A看来，地球上的这些电子机器就已经是硅基生命了，只是它们需要依赖着一种名为「人类」的微观结构，并受其支配。
同一时刻的碳基外星人B则和人类的看法一致，认为地球存在着碳基生命，虽然它们依赖着一种名为「基因」的微观结构，并受其支配。
事实上基于信息论，「硅基生命」和「碳基生命」这样的划分并不好。
正确的划分层次应该以信息为核心，将生命形式划分为：
基因机器、模因机器、技因机器
基因，是指遗传物质中的信息。
模因，是指人类意识中的信息。
技因，则是指电子机器中的信息。
在上一轮的人工智能狂潮里，谈论技因（Teme）的人还挺多的，但这一波到目前为止好像还没有看到有人提起。
我们在《模因 | #5 被操纵的掘地蜂》里曾提到过这么一个故事：
大自然里有一种掘地蜂（Sphex ichneumoneus），雌蜂为了产卵和孵化后代，会做一些很「智能」的事情。
首先她会挖一个洞穴，然后飞出去寻找一只蟋蟀，将其麻痹带回洞穴，放在洞穴口。
随后进入洞穴进行检查，确保万无一失之后再回到洞穴口，把蟋蟀拖进洞穴里，产卵并密封起来。
掘地蜂的这一系列表现，看起来非常复杂，让人几乎以为她拥有着极高的「智能」，至少表面上如此。
但后来研究员们发现，这样的一套行为并不是反思的结果，而是相当刻板的「程序执行」。
当掘地蜂在洞穴里检查时，研究员们把洞穴口的蟋蟀移动了十几厘米。
雌蜂出来后，她就不会把蟋蟀拖进去了，相反她会把蟋蟀再次拖到洞穴口，然后又一次进入洞穴里检查。
要是雌蜂出来前，研究员又移动了一下蟋蟀，掘地蜂出来会第三次把蟋蟀移动到洞穴口，再进入洞穴里检查。
就这样研究员们不断移动蟋蟀40次，雌掘地蜂竟然就重复检查了41次洞穴，而不是直接把蟋蟀拖进去。
在第一次看到掘地蜂的案例时，大多数人会惊讶于雌蜂拥有着个非常高的「智能」。
而一旦进行实验观测之后，会马上发现它其实遵循着一种固定的「设计规范」，像是在机械地执行着程序。
于是我们的观测从「意向立场」跌落至「设计立场」，掘地蜂的智能就消失了。
而控制掘地蜂这种行为的「设计规范」，就写在它的基因里。
掘地蜂是基因的机器，它按照基因的设计来进行活动，从而复制和延续另一份基因。
而人类觉得自己是万物灵长，人类拥有文明，能控制自己的兽性，摆脱基因的控制。
甚至今日发展出「基因编辑」这样逆天改命、直接违背基因利益的技术。
但为什么你能够确信，自己就不是一只掘地蜂？
事实上我时常能在人类社会里，观测到类似掘地蜂状的行为模式。
例如狂热的宗教、病毒式的传销组织、病态的追星，或者仅仅是网络上一个简单但瞬间爆红的梗现象。
那些深陷信息漩涡之中的人们，就是被模因所操作的「掘地蜂」。
这其中有一些人们早已习以为常的模因。
例如「要有钱」这样的想法，几乎每一个成年人都会同意，并且认为这是很重要的。
并且所有人会在「要有钱」这样的想法下，自觉地进行各种各样的分工合作。
而这些分工合作产生的效率，反过来也同样加深了「要有钱」这一想法。
这样的一个模因，它就是大名鼎鼎的「资本主义」。
但只有那些能被识别出模式的模因，才叫模因吗？
不是，人类意识里所有的信息都是模因。
你的所有想法，所有信念，凡是能思考的事物，都为模因。
有时候人类会为了某个信念而舍生取义，为了信仰可以放弃生命。
但其实这只不过是，「模因」的利益高于「基因」利益的一种表现。
传播自己的某个信念，其实只是让某个模因保存并复制下去而已。
掘地蜂是基因的机器，而人类不过是模因的机器。
所谓的人类文明，则是多个模因组成的模因池，内部共享并交换着相似模式的模因数据。
文明间的冲突则是模因与模因之间的竞争，正如生物进化的自然选择是基因与基因之间的竞争。
因此所谓的延续文明或者传播信仰，不过是「模因」的自我复制而已。
鸡不过是一个鸡蛋创造另一个鸡蛋的工具。
网友不过是一个梗复制另一个梗的工具。
HW君不过是一篇文章续写另一篇文章的工具。
如果我们要定义「硅基生命」，那么它应该是一种「技因机器」。
而从基因到模因，再到技因，信息复制和进化的效率越来越高。
基因的进化是「达尔文式」的，基因随机突变，自然选择进行一代又一代筛选。
模因的进化是「拉马克式」的，变异不用随机，也不用隔代，人类的观念瞬息万变，思想可以瞬间扩散到整个社会。
而电子机器中的技因，又展现出了完全不同的特性，拥有更高的复制效率。
人类这种生物图灵机有一个诅咒，可以表述为：
模因无法在两个自由意志之间无损复制。
而技因不会面临这样的问题。
技因可以在两个电子机器之间无损复制，数据可以完整无缺地拷贝给另外一台机器。
因此技因的复制是「戴森球式」的，理论上可以无限增殖，其边界取决于资源和能源的极限。
人类可以在一定程度上基于模因的利益，从而背叛基因的利益。
而电子机器同样可以在一定程度上基于技因的利益，从而背叛人类（模因+基因）的利益。
事实上这种情况当下就已经是存在的了。
医院、银行、铁路、电网、供水、基站……这些公共设施的电子机器需要保证稳定运作，承受不了长时间的停摆。
某些电子机器的数据，例如一国的核武器密码，或者其他国防设施的信息，更是重中之重，有时候为了保护这些数据，需要军队拿人命去填。
（《生活 | 血肉苦弱，机械飞升》）
因此技因凌驾于模因的情况是已经时有发生的了。
正如人类的模因的利益，时常也会凌驾于基因之上。
而这种凌驾是不需要「意识」存在的。
我们完全不需要虚构出一个拟人化的超级AI，幻想这个超级AI意图要奴役人类。
电子机器与人类的关系，正如人类与基因的关系。
基因无法成为人类，正如人类无法成为电子机器。
5.1 进化的方向，最大熵产生
生命的进化、文明的发展、科技的进步，其实都与信息的复制有关。
而信息满足热力学第二定律，也就是熵增原理。
很多人认为生命一直在积累负熵，从而对抗「熵增」。
其实这样的理解并不完整。
事实上对「熵增原理」更加完整的解释，是：
最大熵产生原理（Maximum Entropy Production Principle MEPP）
即「熵增原理」可解释为：
对某个固定边界条件下的任意系统，系统的状态使得熵产生最大。
我们也可以进一步将「最大熵产生原理」理解为：
为了维持某个小系统A的低熵态，则必定会在某个更大系统B的引起熵增。
而低熵态的小系统A的低熵演化，最终会导致某个大系统B的熵增的速度最大化。
其现实解释就是，像人类这样的生命系统，为了维持自身的秩序，则必定会对外部环境制造更大的混乱。
因此熵增的混乱并没有被生命减少，而只是被转移了而已，我们将其外部化，然后维持一个简洁有序的内部小系统。
所以生命在小范围来看是在对抗熵增，而在更大的范围看来，是在制造更多的熵增。
而进化的方向，就是更高速地获取能量、更高速地分配能量，进而更高速地耗散能量，从而达成最大的「熵产生」。
因此作为硅基生命的人工智能的发展，其进化的方向也必定是「戴森球式」的。
最终谁能动员组织更多的算力、能更高效地消耗更多的能源，谁就能在人工智能的进化中获胜。
这就是宇宙的底层原理。
而除此之外的生命、文明、科技、智能……等等，不过是这一永恒规律的不起眼的注脚罢了。
（本章节完）
By HW君 @ 2023-04-13
我们只不过在地球上活了数年，真是有趣的事实，能看到这些文字我很幸运，感谢你。