司马平邦：AI武器化让俄乌冲突停不下来，更对中国威胁巨大
据西班牙《机密报》网站7月18日报道，美国的军用无人机可能很快就会采用一种新的人工智能系统，该系统“在识别目标方面比人类做得更好”。这种人工智能可以区分制服、武器，甚至可以比操作员更精准地解读敌人的投降信号。这是该技术的开发者，澳大利亚企业雅典娜人工智能公司的说法。这家澳洲公司正与美国的无人机公司Red Cat展开合作，专门从事军用无人机技术开发。今年5月，美国宣布向乌克兰提供200架无人机，其中配备有Teal 2，是一种由雅典娜人工智能公司驱动的远程夜间系统。另据《新科学家》周刊报道，现在美国所有的无人机都可以通过新的人工智能系统进行升级。
在2024财年的国防预算中，将有大约1450亿美元被用于提高美国国防部在AI等关键技术方面的支出，在去年的基础上增长约10%。今年2月，美国国防部研究部门国防高级研究计划局宣布，该机构研发的搭载AI技术的F-16改装战斗机“VISTA X-62A”，在没有人类干预的情况下，顺利完成了17小时的起飞、降落和战斗演习，成为全球首架依靠人工智能驾驶的战术飞机。而今年6月，拜登批准北约盟友向乌克兰提供美制F-16战机，有分析认为，近年来，美国国防部的国防高级研究计划局正在大力开发空战AI系统，美国正在尝试空战AI系统与F-16之间的整合。
在2024财年，五角大楼将获得有史以来最大的RDT&E——也就是研究、开发、试验与评估预算。国防部下属的国防创新部，DIU，正是获得大笔RDT&E资金的部门之一，这个DIU，与我们在第1124期（五角大楼秘密开会，“十年胜华”冷战降临）里说到的那个DIB，即美国国防创新委员会，不一样，DIB是一个咨询机构，而DIU是国防部下属的一个执行部门，DIU是五角大楼用来对接美国尖端科技企业，以获取外部前沿技术的机构。DIU主任布朗公开说，DIU正在跟乌克兰方面讨论太空中的传感器数量，讨论小型无人机，AI能将这些技术组合在一起，现在这些技术正在乌克兰被使用。
据德国之声报道，从俄乌冲突爆发至今，至少有20家美国公司公开宣称为乌克兰战场提供AI技术支持。
万能水晶球（Palantir），是《指环王》里的一颗魔法石，能帮助白袍巫师萨鲁曼看到中土世界发生的事情，还能相互交流。而在现实中，中央情报局（CIA）、联邦调查局（FBI）、国家安全局（NSA）等美国情报部门就是万能水晶球科技公司的真正投资方。今年年初，万能水晶球公司发布了下一代人工智能平台，AIP的详细信息。万能水晶球公司称，这个工具就像一个军事聊天机器人，通过简单的输入，为指挥官提供实时战略建议，生成多条行动路线，瞄准敌方动向。人工智能系统将对战场进行分析，并根据数据，提供最佳攻击计划的选项。以往可能需要数小时才能做出的关键决定，现在可能在几分钟内就做出。万能水晶球公司还说，它们的系统需要人工监督，不会独立实施攻击，但是，在现实中，全自动猎杀技术其实已经存在。
去年，我曾看过一段俄乌冲突的战场视频，一位俄罗斯士兵在社交媒体上发布了一张照片，结合开源信息，AI很快便能判断出它所在位置，距离最近的无人机便发起猎杀，尽管这名俄罗斯步兵发现了跟踪自己的无人机，紧急撤到了树林里，试着躲避无人机的追踪。但是当无人机拉远视角，就会发现无人机在高处占据了视野优势，随后，一枚从远处飞过来的炮弹精准地命中了那名俄罗斯士兵。
英国天空卫士评论称，俄乌冲突刚开始时，只是社交媒体信息被采集，随后无人机加入、卫星加入、人工智能平台也加入，让本来可能有机会停止的这场冲突，因为这些技术的介入，不断延续下去，乌克兰战场成了AI武器的试验场，英国国王学院战争研究院高级研究员马丁说：如果发生一场激烈交火，一方使用人工智能系统快速决定谁被杀，另一方就会被面临压力。除非立即也采用这种系统，否则就会全军覆没。未来，当人工智能系统相互竞争时，我们真的不知道战争会变成什么样，这是一个巨大的未知数。
其实，AI在武器中应用的伦理道德影响一直是一个公开的有争议的问题。一个月前，在一次模拟战斗演习中，一架具有人工智能的自主军用无人机做出了“杀死”其操作员的决定，因为它认为，操作员阻碍了它消灭敌方主要目标的行动。幸运的是，操作员没有受伤，因为这是模拟演习。但在2023年关于欧洲“未来空中作战系统”的一次峰会上披露这一事件，引发了关于人工智能在军事行动中的道德后果的激烈争论。
7月18日，联合国安理会召开了人工智能与安全问题高级别会议。联合国秘书长古特雷斯敦促理事尽快拿出管控AI技术对策，以全球视角和学习者的心态来对待这项技术。古特雷斯要求所有成员国尽快商定制定出具法律约束力的协议，以在2026年底前全面“禁止致命性AI自主武器系统”。他警告称，当AI技术被用于核武系统或生物技术方面，死亡和破坏将达到可怕的程度。
8月15号，由中国的国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局，一共7个部门联合发布的《生成式人工智能服务管理暂行办法》开始施行，这是全球首个生成式AI管理办法落地。
马斯克是AI早期创始人之一，他在4月份就与许多专家联名发布了公开信，呼吁停止训练更强大的AI，称AI最大的威胁就是“脱离人类控制”。现在欧洲、美国也已经在商讨通过法案条例进行管制。欧盟议会6月18日宣布，《人工智能法案》进入最终讨论阶段，目标是今年年底就达成。欧洲该法案按危险程度来管理AI，从“不可接受的风险”，到“高风险”，到“有限风险”，危险程度越低，受到的管制就越少。这跟中国的管理办法思路接近。
但是，这些都阻止不了俄乌战场现在已经成为AI武器的大范围试验场，战场是残酷的，人工智能武器化是以人的生命为代价的，美国对乌克兰的大量军援，试验各种新式武器的目的显而易见，我们中国在俄乌冲突中的立场是站在和平、对话上，并且已经公布了《关于政治解决乌克兰危机的中国立场》的文件，也得到了许多国家的响应，但是，很明显，现在很有可能AI武器化本身正在成为俄乌冲突停下来的障碍。
好莱坞导演詹姆斯·卡梅隆，在1984年就自编自导了科幻动作电影《终结者》，讲了一个终结者机器人的故事，当时他就表达了对人工智能武器化的担忧。最近，他在接受采访时，再次对AI的潜在危险发出警告，他说：“我认为AI的武器化是最大的危险。我觉得我们会陷入一场类似核军备竞赛的AI竞赛，如果我们不去开发它，其他人肯定会去开发它，然后就会升级。”
从他的这段谈话里，隐约让人觉得，人工智能武器化真的有可能重复核武器发展早期的那种路径，就是任何规则都不会限制AI武器的研发，一直到形成了AI武器的新平衡为止。我们中国一边要当世界和平的倡导者和捍卫者，但另一边，也不能在已经形成的人工智能武器化大趋势下落伍，落伍就要挨打，而且还得实现超越。
说到这些，我都觉得，如果俄乌冲突长期下去，中国的态度可能也需要做出相应调整，如果让美国如此无下限地参与俄乌冲突，而在AI武器化上获得巨大领先优势，后果是不可想像的。
【文/司马平邦，红歌会网专栏学者。本文原载于公众号“司马平邦说”】
