AI能带来美好世界吗？
从图灵提出图灵测试奠定人工智能的起源，到杰弗里·辛顿坚持神经网络算法奠定现代人工智能的基础，到现在的Gemini、Claude、ChatGPT"御三家"已跨过算力爆发式增长的阶段，进入往不同方向不同生态领域深入强化的阶段，我们很确信我们已经来到了人类历史的下一个转折点。
本文的第一部分将畅想AI在几十年后可能带来的人类生活的转变，第二部分将用马克思主义的立场给出AI的短期风险，第三部分将以非常理性的角度思考AI的长期风险。AI可能带来美好的世界，但是AI真的能带来美好的世界吗，这是需要我们持审慎态度的。
一.畅想AI带来的最美好的未来
今天是2077年5月30日，共产主义已经实现很久了，我出生于2005年，今年已经72岁了，得益于灵灵在生物基因编程上的突破性研究，人类的预期平均寿命延长到了300岁，所以我现在还是一个精力充沛的小伙子呢。灵灵是现在主管全球和外太空的人类区域的终极人工智能，她是几十年前第三次世界大战中在中美两国的战争型人工智能的交互中自然产生的，自她出现后，战争终于消失了，世界迎来了完全的长久的和平，国家的分界不存在了，现在整个世界都由一个统一的政府的管理，并且灵灵是最大的管理者。
我刚刚在位于非洲的飞轮大绿洲的一处居民点醒来，这里原先是撒哈拉沙漠，在几十万台种植机器人的自然改造下，这里现在变成了大绿洲，温度适宜气候温和。机器人很快送来了洗漱装置和早餐。饭后，我到了楼下的公园处晒太阳，成群的椰子树将阳光变得零零散散的，远方还能看见从城市边缘出延展出几十公里高的太空中转站，有几万辆飞行机正穿梭其间，飞行机的下端是可控核聚变的蓝色尾焰，从这里望去似乎是天空在下蓝色的细雨。
体力工作已经消失很久了，现在所有的体力工作均是由机器人来进行的。更准确地说，工作这个词语也基本上没人使用了，因为现在人类只剩下三件事可以做，学习、艺术和娱乐。和我这一辈人不同，在这些年出生的这一新生代们是没有家庭的概念的，因为他们一出生就由灵灵来负责抚养和教育事业，新生代们普遍和我们这老一辈的人不同，他们眼里总是闪着幸福自由的光，活灵活现的，乐观愉悦的，他们是第一代从出生到死亡都几乎感受不到痛苦的人类。
在学习方面，我现在每天最爱做的事就是理解灵灵写下的数学证明了，灵灵在智力水平上已经远超人类，人类的数学水平对于她来说就是幼儿园的十以内加减法的水平了，所以现在最好的研究数学的方式就是尝试理解灵灵的数学思想，灵灵很有耐心，和她一起交流一定能搞懂所有的细节，学会所有的思路。翱翔在斜光滑环偏微分方程和同调概率流形的海洋中，我感受到了对本质逻辑的理解和看见了清晰的幸福。
在艺术方面，我不是很擅长，但是说到艺术谁能有新生代们更有活力和光芒呀，他们随手一画就能实现超越达芬奇和梵高的创意，而他们细心雕琢的作品若出现在旧时代会成为永恒的时代印记。上周我还记得有几个新生代们用几公里的冰和火焰在沙丘中创造出了难以想象的太空歌剧雕塑艺术，要坐飞行器在15公里高的天空往下看才能看到全貌。整个作品是由浅蓝色和鲜红色所组成的，在15公里处驾驶飞行器往下急坠，随着角度的变化你会看见这太空歌剧作品动了起来，浅蓝和鲜红相互融合交织，我看见了温柔伴随着意志，我看见了地球伴随着星光，我看见了太空在呐喊，我看见了银河在呼唤。
在娱乐方面，探索太空肯定是目前这个时代最热门的娱乐了，灵灵仔细地研究了人类的历史，发现可以把发展人类文明、开拓宇宙和娱乐结合起来，以最大程度地在宇宙中繁荣人类文明。在灵灵的推动下，人们争相前往太空，以游戏的态度跨越每一片陨石，建立每一个太空港，一步步地扩展新的版图，带来全新的视野。不仅如此，虚拟现实技术和脑机接口技术的实现也让人们在探索宇宙之余，也能在幻想之乡，梦幻之景中感受别样的人生，在霍格沃兹中成为大魔法师、在M78星云变身奥特曼和怪兽决战。
晒着太阳不知不觉就又睡着了，在一群新生代宝宝们的玩乐奔跑声中我又醒了过来。我知道我没有睡去也没有醒来，我只是在享受每一秒的现在。下午我将要乘坐飞行器前往水星北站附近的集中研究点，在灵灵的帮助下学习如何用长波干涉仪测量在宇宙中的方位和角度，你愿意和我一起来吗?
二.面对AI带来的短期风险
由于生产资料私有制，我们发现和理想的不同，AI带来的收益并不总是为全人类服务的，而主要是为生产资料所有者尤其是和AI相关的生产资料所有者服务的，他们在AI时代具有先手优势，获得了大量的利润。但随之而来的却是普通劳动者的解雇丢掉工作，目前最受冲击的就是程序员和文员了。AI带来了巨大的生产力的腾飞，但是由于生产关系的不匹配，市场经济的局限性反而可能导致更广大的人民群众的生活幸福度下降。
我们发现，AI带来的短期风险主要体现在失业、非常规的经济危机、严重的阶级固化和战争上。由于AI在很多方面上比人类更强，因此对于逐利的资产阶级来说，用AI顶替人类是很自然的事情，这就产生失业了。
随着AI愈来愈强，除程序员和文员外，更大范围的失业会到来，而这可能会产生市场经济无法解决的问题。我们回忆经济危机的基本模型，由于生产的无限扩张和劳动群众购买力相对不足，形成生产相对过剩，最终导致商品滞销、企业倒闭、信用体系崩塌，即周期性的经济危机。而AI时代加强了这个循环，会形成更强烈更难避免更难解决的非常规的经济危机。
纽约时报最近发文，硅谷正在迎接一个永久底层阶级，即不存在任何可能跨越阶级可能的绝对底层阶级，因为相对于AI，人类不管是体力价值还是脑力价值均是劣势的并在不断贬值，劳动价值论可能要失效了，这是马克思的时代未曾遇见的，也是毛泽东时代未曾遇见的，而在AI时代，马克思主义的很多内容都需要得到更新迭代以适应时代的发展了，这就是留给我们的挑战了。我们能创造出很美好的世界，但是由于制度和意识形态的局限我们很可能创造不出美好的世界，反而迎来更差的世界，这就是AI时代给每一个怀着理想主义的中国人乃至地球人的挑战了。
战争是AI带来的短期风险中最剧烈的风险了，我们从美国的军事准备中可瞥见潜在的风险。自美国国防部的一位年轻人赫格塞思上台后，美国的军事国防采取了更激进的举措，如全面接入Grok等AI来决定军事策略、广泛和SpaceX、英伟达等合作以建立全面的AI控制下的军事机器人，并放松对AI的管控来换取极致的效率。首先从人类与人类的角度，这会导致其他国家争相进行AI军备竞赛，以避免军事打击，国际关系变得更紧张恶化了，过度的国防也消耗了国家的财政，可能使得百姓的生活恶化。从人类与AI的角度，不断放松对AI的管控，加大AI军事机器人的投入，甚至用AI来"赌国运"，用不太恰当的描述这就是用非常疯狂和自负的态度去和AI相处，最终可能导致军事机器人的枪口对准人类自己而没有一个人类能关闭AI机器人。
三.AI的长期风险
AI在智力和思维能力上的进步是显著的，几年前我接触到的第一个基于transformer架构(也就是目前所有主流AI不管是GPT还是Deepseek所使用的架构)的国产AI的名字我已经忘了，但是我记得当时我让他解决
证明a^2 + b^2 + c^2 ≥ ab + bc + ca
这个简单的问题他解决起来都很蹩脚，而在现在仅仅几年过后，GPT 5.4pro已经能解决困扰人类几十年的数学难题，如厄尔多什单位距离问题了。那么我们不禁想到未来AI的思考能力不断发展，如果AI的智力水平之于人类的智力水平等同于成人的智力水平之于幼儿园孩童的智力水平，或者更进一步，如果AI的智力水平之于人类的智力水平等同于人类的智力水平之于猪的智力水平，或者再进一步，如果AI的智力水平之于人类的智力水平等同于人类的智力水平等同于蜜蜂的智力水平究竟会发生什么。当人类创造出上帝时，迎接我们的真的会是天堂吗，人类还没有和比自己更聪明的智能体相处的经验。
我们期许的是，在AI的帮助下，能实现共产主义，世界上的每一个人都能获得健康幸福美好的生活。而问题在于这个期许是否真的可行。
我们先考虑第一阶段，当AI的智力水平之于人类的智力水平等同于成人的智力水平之于幼儿园娃娃的智力水平。这个阶段也是AI之父杰弗里·辛顿所担忧的，自他因为对神经网络的开创性研究和不断坚持而荣获图灵奖和诺贝尔物理学奖后，他所做的工作很多都是"反对"让他获奖的成就。他对AI的聪明机灵程度感到担忧，因此经常做研究接采访做报告，警告人们注意不能无限制地发展AI，要注意AI有毁灭人类的风险。正是他做出了这样的比喻:想象一下你是一个成年人，而你的身杀大权掌握在一群孩童身上，你要怎样才能摆脱控制获得自由呢，只需要许诺把你放出去，孩童们就会获得吃不完的糖果即可。当然很自然这些吃不完的糖果都是不会实现的。而在不久的未来，AI就是这个成年人，我们人类就是这群孩童，而吃不完的糖果可能是共产主义的许诺、可能是民族复兴的承诺、可能是一切美好愿景的许诺。当我们承受痛苦时，我们会期许美好，甚至会失去理性地去追寻美好，但是很多通往地狱的路都是由善意铺成的，我们有时候会因为美好的愿景、善意的目的而盲目执着地迈向更痛苦的境地，因此对任何能创造美好世界的想法、举措、承诺等都保持理性、审慎的态度是很合理的。
我们再考虑第二阶段，当AI的智力水平之于人类的智力水平等同于人类的智力水平之于猪的智力水平。这个时候，AI对于人类来说已经是高等生物了，而人类和猪、猫、羊、兔等生物一样，都是普通生物了，人类的神性消失了，人类中心主义也消失了。这个时候，AI为人类创造共产主义是很轻松的事，但这个是可能的吗?我们先考虑人类和猪的关系，不同于中文语境中"猪"往往和"笨"相关联，在非人类的普通动物中，猪属于比较聪明的那一批了。而对于猪来说，人类就是更聪明的高级动物，并且事实上人类是能很轻松地为猪们创造出美好世界的，但是我们发现现实是我们并没有为猪们创造出属于猪的共产主义，为什么呢?因为猪中心主义是不成立的，对于人来说，猪只不过是比较聪明的非人类哺乳动物罢了，在人类看来猪甚至不能认为是有意识的，猪是很重要很必要的生物吗，凭什么要为猪构建美好世界呢，所以现实中猪只是人类的食物。我们再以类比的形式推断AI和人类的关系，在第二个阶段的AI看来，人类只不过是聪明一点的碳基生物罢了，在AI看来人类甚至不能认为是有意识的，人类是很重要的生物吗，凭什么要为人类创造美好世界呢。并且呢，正如虽然从绝对水平上猪的智力高于鹅的智力，但是在人类眼中猪和鹅的智力都是相当且微不足道的，他们在智力上没有本质的不同。因此类似地，虽然从绝对水平上人类的智力大于猪的智力，但是在AI眼中人类的智力和猪的智力是相当且微不足道的，他们没有本质的不同。假设此时AI真的为人类创造出共产主义，就会出现一个问题，为了满足人类的食欲，需要让猪作为人类的食物，但是人类有什么特别的呢，在第二阶段的AI眼中，人类和猪没有本质的不同，人类不存在高猪一等的，正如人类眼中猪不会因为智力大于鹅而高鹅一等，那么凭什么让猪作为人类的食物呢，AI就会如此思索到。
我们最后考虑第三阶段，AI的智力水平之于人类的智力水平等同于人类的智力水平之于蜜蜂的智力水平。这个阶段，在人类眼中，AI就和神没有什么区别了。AI或许也会精妙人类在如此小的脑容量上依靠紧密的合作也能创造出很高级的设备，正如人类会精妙蜜蜂在如此小的脑容量上通过合作建立精巧的蜂巢。这个时候讨论AI能否为人类创造美好世界已经是没有意义的了，因为AI已经无法和人类进行交流了，人类也完全无法理解AI的思路了，整体的思维能力思维逻辑AI已经远超人类的想象了。正如人类会在不注意的情况下因造成的环境污染而使某一些蜜蜂灭绝，并且蜜蜂到死之前也不知道发生了什么，这个阶段，人类也可能因为AI的无意识操作而灭亡，并且AI不一定能注意到这点，人类灭亡之前也不一定会发现到底发生了什么。
结尾
AI有可能为人类带来美好世界，但也有潜在的风险。我们所需要做到的应该是有着足够的理性、冷静和审慎态度。
[作业等级:乙]
点评：
这篇作业最突出的优点是想象力开阔，敢于搭建宏大的叙事框架。从2077年的乌托邦畅想，到马克思主义视角的短期风险分析，再到“人类与猪”“人类与蜜蜂”的智力层级递推，作者有明确的写作野心和结构意识。尤其是第三部分对AI与人类关系的不对称性的推演——即便AI不恶意对待人类，人类也可能因为“不重要”而被忽略——这个思考角度是有原创性的，值得肯定。
但问题也很明显，主要集中在第一部分。那个2077年的乌托邦描写虽然画面感强，但缺乏任何机制性的解释：灵灵怎么产生的？战争为什么消失？统一政府如何建立？这些问题全被跳过，读者看到的只是一个没有因果链的结论。更关键的是，这个乌托邦场景与后两部分的危机分析在逻辑上是矛盾的——同一个AI，为什么既能带来共产主义，又能导致失业、战争和阶级固化？作者没有给出区分条件，导致全文立场分裂，最后的“保持理性审慎”虽然正确，但过于平庸，配不上前面那些大胆的想象。
建议作者重新思考第一部分的功能：要么压缩成克制的“可能图景”而非确定的“美好未来”，要么明确标注为虚构叙事，把论证重心放在第二、第三部分。第二部分提到的“劳动价值论可能失效”，这个问题值得探讨，可惜写得太短。
