美军轻信AI胡诌，险酿大祸

　　最近美国CNN爆料一个让人感觉到很惊悚的新闻。

　　9月19日，CNN报道称：“在今年春季美国对伊朗发动战争期间，美军居然被一份用AI生成的不实军情报告误导，险些派兵全副武装地冲上一艘中国船只。”

　　按照这个报道内容，在美国对伊朗发动战争后，一份情报报告在美军内部传阅。

　　该情报竟然造谣称：“中国一艘船只正在中东地区向伊朗运输核武器相关零部件”。

　　CNN引用知情人士的说法称，美军当即开始围绕这份军情报告制定“作战计划”，包括让全副武装的美军士兵冲上那艘中国船只，还出动了美军战机。

　　但就在冲突即将爆发之前，美军官员在对情报的一次复核中突然发现一个致命的问题：这个情报竟然是分析人员用AI胡写的。

　　首先，我也是要强调一下，CNN这类西方媒体引用所谓“知情人士”的报道，经常是半真半假，不能尽信。

　　不过，当前AI确实也存在AI幻觉，存在九真一假的问题。

　　虽然过去这一年，随着AI大模型的快速迭代，AI幻觉的问题有了很大改善，但仍然还是存在。

　　并且，相比之前的半真半假，现在AI幻觉“九真一假”，其实反而更容易出问题。

　　先通过前面的“九真”来获得使用者的信任，在使用者开始麻痹，轻信AI说的话后，AI就可能出现幻觉，开始胡诌了，而这时候轻信AI的人，就有可能在不经过查证的情况下，把AI胡诌的事情，信以为真。

　　我今年就碰到过好几次，有读者拿着跟AI讨论的结果，就不经过查证，直接拿来作为反驳我的“论据”，结果我随便去查了下，就直接戳破。

　　这里就贴一个案例。

　　今年7月10日，有一个新闻是“两部门发布公告，决定对氦气实施临时禁止出口管理”。

　　这个新闻里，公告对于“氦气”有明确的海关编号是2804290010，这个我在海关网站上查就是写着“氦”。

　　但有个读者去跟AI聊天，结果AI一本正经，煞有其事的告诉他“，只限2804290010，这个只包含5n和6n级别的氦气，2804290090这个是普通氦气，没有写进去，所以普通氦气不限制出口的。”

　　他意思是这次只限制“电子级氦气”，而没有限制普通氦气出口。

　　但我去海关网站上，特意去查了他提到的AI说的“2804290090这个是普通氦气”。

　　但实际上海关网站显示，2804290090是“其他稀有气体”，跟氦气没有任何关系。

　　“2804290010”这个编码，海关网站上也是清楚写着“氦”，不是AI说的“特指高纯度氦气”。

　　所以这完全就是AI胡诌。

　　AI胡诌时，因为一本正经，而且通常会罗列很多数据，进行很工整的回答，甚至会把自己胡诌的数据，贴上引用权威文件来源，但实际上，你实际去权威文件里查，就会发现AI是胡诌的。

　　再加上AI现在是九真一假，这使得缺乏独立思考和查证能力的人，是很容易轻信AI的胡诌。

　　普通人轻信AI胡诌，也顶多就是“误”了自己，比如拿去反驳别人时，拿AI说的话当论据，结果被人指出是AI幻觉，也只是自己丢人。

　　但如果是美军的情报人员，轻信了AI胡诌，并且整个体系缺乏这种内部核查机制的话，就很容引发大问题。

　　所以，美军发生的这个事情，真实的可能性是存在的。

　　当然，也有其他可能性。

　　这里有两种可能。

　　一种是美军当时确实有类似拦截我方船只的计划，并且是以一些错误情报为由，但在最后关头，美军怂了，只能甩锅给AI。

　　另外一种，就是这确实是AI幻觉差点捅出的大篓子。

　　如果因为一次AI幻觉，成为中美冲突的导火索，那无疑是相当渗人的。

　　现在可不是上世纪90年代，不是我们卧薪尝胆的阶段，我们碰到这种事情，不会再打碎牙往里吞。

　　如果美国这时候胆敢以这种莫须有的借口，来拦截我方船只，是有很大概率成为导致中美冲突的导火索。

　　CNN曝光说，美军人员最终发现，所谓的中国船只“运送核武器相关零部件给伊朗”的情报，是一个聊天机器人给出的虚假判断。

　　该报道称，有熟悉美军和美国情报界AI系统的人士表示，他们所使用的AI模型，很可能是一个“换了皮”的商业模型。

　　“这个模型把开源情报和美国官方掌握的一些内部信息，用自己的“幻觉”进行了一番“乱炖”后，便得出了这么一个虚假信息，然后再被分析人员一通包装，就成了如今这个差点害得美军惹出大祸的所谓专业军情报告。”

　　除了该报道的说法之外，也有不少人质疑，是美军一些情报人员的分析存在严重错误和漏洞，才甩锅给AI。

　　毕竟没有AI之前，美军也没少出现这类情报错误，并且还有一些严重的情报错误，引发严重平民伤亡，这个在这次伊朗战争就没少出现。

　　并且，很多时候，一些所谓“错误”的情报，是美国故意炮制出来的。

　　最有名的就是美国入侵伊拉克，所炮制的“洗衣粉”借口。

　　另外，还有一种说法认为，CNN在中美经贸磋商的会议前夕，曝光美军使用AI炮制的情报，差点酿成大祸。

　　也有可能是为了这次经贸磋商上讨论的“AI”话题。

　　昨晚文章也提到过，在这次经贸磋商结束后，美国财长贝森特表示：“中美谈判团队讨论了建立人工智能对话机制，称可能设立一个通报机制”。

　　那么有可能美国想要推动这样一个“AI通报机制”，才有了CNN这个爆料。

　　毕竟CNN爆料这个推出的时机，确实太过于巧合。

　　9月19日爆料，然后仅过了两天，就是中美经贸磋商讨论了AI这个议题。

　　不管CNN这个爆料是真是假，都能有助于推动中美建立这样一个“AI通报机制”。

　　因为AI幻觉确实存在。

　　理论上也确实存在美军情报人员轻信AI胡诌，酿成大祸的可能性，所以中美之间建立这样一个“AI通报机制”，确实是有必要的。

　　毕竟只是通报，只是加强双方沟通，并不涉及到我们要不要配合美国的问题，这是后话。

　　同时，我们也需要注意，假如美国政府故意释放信息给CNN，让CNN有这个爆料，目的就是为了推动经贸磋商会议上，建立这个“AI通报机制”。

　　那么我们从中可以看出，美方在这件事情上是很着急的。

　　这种“着急”是有些不同寻常。

　　建立“AI通报机制”可能也还只是一个幌子，只是一个铺垫，或者只是前奏，更重要的还是美方后续可能推动的一系列事情，可能是需要我方配合，所以美方才会显得如此急切。

　　这就是我昨天文章提到的一个猜测，我这里再贴一下，因为昨晚文章被吞了。

　　“我觉得，有可能美国的前沿AI大模型，开始触碰到某个瓶颈了，但美国不想AI泡沫因此马上被戳破，就提前放出“AI可能毁灭人类”的话题大讨论，让这个话题在美国舆论短短数天，就有数十亿级别的讨论热度，相关的单个帖子，短短时间就有数亿阅读量，显然不太正常，有一些集中推流的痕迹。

　　把“AI可能毁灭人类”的话题炒热后，再让三大AI巨头，以担忧AI安全为由，呼吁放缓AI能力迭代。把“触碰到天花板”，就宣传为“主动踩刹车”。

　　然后特朗普再出来唱红脸，澄清否认AI会毁灭人类的说法，但同时又不否认当前AI大模型可以直达AGI。

　　目的仍然还是通过这样的叙事造势，来强化资本市场对于当前AI大模型可以直达AGI的信心。

　　同时又通过“主动”踩刹车，来避免被发觉触碰到瓶颈。

　　但问题是，这种叙事逻辑，是需要我们配合。

　　如果我们不配合，那美国唱独角戏，就很容易被戳破。”

　　所以这个“AI通报机制”可能还只是一个前摇。

　　这就可以解释，为什么美国会这么着急了。

　　本文提及的事件以及信息来源如下：

　　红星新闻《美军被曝遭AI误导，险些派士兵冲上中国船只》26年9月19日