胡懋仁：人工智能的可靠性能让人类完全放心吗?
关于人工智能技术的应用，现在开始有越来越多的人们开始做一些初步的尝试。现在能够安装在手机上或者其他设备上的人工智能技术应用的软件，应该都还算是属于初步阶段的。它们确实能帮助人们做一些事情，但是在它们做完了人们同它们提出的要求的事情之后，人们往往会发现，AI所做出的结果总和人们最初的设想或者最初提出的要求不那么完全吻合。两者之间总还是有那么一点距离，总不能让人感觉完全满意。
有人用了一个相对简单的AI软件，尝试着画一幅画。最初，人向AI提出了一系列限定怀条件，就是要求AI绘画软件所做出来的画面，要符合人们所提出的这些基本条件。如果人们所提出的限定性条件不是特别复杂，那么AI所创作的画面还是能给人以某种程度的惊喜，感觉这家伙干的活还算不错。然而，一旦人们想提出更多一些，更复杂一些的要求，这个AI系统可能就会抓瞎。
比如，有人想用AI系统画一幅画。他向AI系统提出一个画面上的要求，画面里要有一对中老年夫妻，坐在水边，即可能是湖边，也可能是河边。二人中间摆放着一张不大的桌子，上面放着茶或者其他饮料。结果，AI给出的画面居然是一对年纪很大的白人夫妇。问题是，向AI提的要求中没有关于画面中人物的种族或者肤色的限定，不知道为什么AI系统会给出一对白人夫妇的画面。总之，那位向AI提要求的人，多次修改他的要求，但最终的画面结果总不能让他满意，总觉得这个AI系统并不真的了解他的要求，不了解他给出的限定性条件的意义。
当然，可能这位向AI提要求的画者，给出的条件不够充分，也不够详细。毕竟，人类也并不了解AI在面对这些人类所提出的限定性条件时，AI到底能得出什么样的理解，能给出什么样的回答。或许，在人类对于这样一种AI系统有更多的和更深入的了解时，情况会有所改变。
还有一个人，想让一个AI作曲的系统为他写的歌词谱曲。这位老兄写过一篇歌词，但自己不会作曲，也找不到合适的专业人士帮他作曲。这次，听说手机上有AI作曲的软件可以试用，他也就下载了一个作曲软件。同样，在让AI干活之前，要向AI系统提出一系列条件或者要求。这位写歌词的，认为他的歌词适合于进行曲旋律，而且歌曲要雄壮、有力，带有军旅气势。当然，在AI所规定的要求范围内，所列出的菜单是有限的，并不能完全把得出的要求都能实现。结果第一版弄出来以后，与所提的要求完全不相符合，这支歌给整成了一首流行歌曲。倒是四二拍子，但听不出进行曲的雄壮来。这位作词者非常失望。当然，他认为他对这个AI软件还不是太熟悉。出了些问题，不能直接责怪系统，这其中完全有可能是他的问题，是他的原因。毕竟他对这一类软件完全不了解，也完全不熟悉。
后来，作词者又试了几次，还是不能得到满意的结果，他只好先放弃了。在这个短短的尝试过程中，他发现AI系统确实能做一些不错的工作，但要让人们完全满意似乎还有一段较长的距离。至少在目前的AI技术水平上，AI在按照人的指令干完活之后，人们总还是需要对它干完的活，做进一步的调整、修改、完善。反正不能直接拿过来就用。直接把AI工作的结果拿过来就用，多半都是要出问题的。当然，有可能是现在的AI技术系统只是一个初步的阶段，实在有待于进一步完善和提高。具体将来能够完善或者提高到一个什么样的程度，现在也实在说不好、说不准，说不清楚。
电脑上的杀毒软件，在我们要退出时，总会跳出一个问答框，问他要不要尝试一下用AI写作的愉悦。我没有尝试过，不能妄下结论，判断使用AI写作，所得出的结果到底是好还是不那么理想。不过，据很多人说，人们在写报告、计划、总结等文字时，AI总能做得让人们感觉十分完美，绝对能超越人们的想象，至少不会让人们感觉它做得实在太差了。AI写的文章能让人基本满意，就已经很不错了。另外，人们在写文章时，最难的部分是写好开头。万事开头难。开头写好了，再往后写就没有太大的难度了。所以，如果AI为我们的文章搭好了一个很不错的架子，在后续的工作中，如果需要修改，也算不上是个多么困难的事。不过，如果任凭AI写成什么样子，如果人们完全不加修改，或者不施加必要的调整，可能都不一定完全符合人们的要求。
或许，拿写文章与进行文学或者艺术上的创作相比，文学或者艺术上的创作难度肯定要更大一些。人们的想象力是没有边界的，而AI所能做的事毕竟还是有限的，即还是有边界的。从这一点来看，让AI技术一下子就能做到完全符合人们所提出的要求，确实难度不小。
AI技术在将来人们的生产劳动中，能在很大程度上取代人们一部分的脑力劳动以及体力劳动，但AI技术是不是能够完全取代了人的劳动，对此，我以为还是不要把这个结论下得太早。AI毕竟是人类劳动的辅助者，而不是人类劳动的完全替代者。
在艺术创作上，作曲与绘画都不太可能由AI完全取代。人类的想象力与创造力依然是艺术创作的主要动力。再有，在文学创作上，情况也应该与艺术创作差不太多。AI已经能够写诗歌了，能做到词句对仗、工整、优雅，甚至也很华丽，韵角也符合要求。但是意境呢? 那就不太好说了。
随着人工智能技术的发展，这项技术也一定会越来越完善。包括其在应用中出现的误差和错误，凭借AI技术本身的纠错功能也都能得到完美的解决。但越是高端的技术，就越需要更高层次上的监测与管理。控制论专家诺伯特·维纳举过这样一个例子，一辆自动驾驶的汽车在公路上行驶。当人们看到这辆车直接撞向一棵路边的大树时，虽然人们可能已经预料得到，这辆车在撞到大树之前，有可能靠其自动控制的系统自动转向，也有可能自动刹车，以避免最终撞到树上。但是在直接撞到大树之前，人们总是会担心这辆车存在着安全方面的问题。万一呢? 万一其AI技术出现的故障，不能实时操控这辆汽车，这辆车最终就有可能真的撞到了大树上，那又当如何? 这种可能性虽然不大，但总不能避开其中之万一。在这种情况下，任何AI技术，就算是再先进，也不可能完全抛开人类的必要参与和管理。
AI技术越是发展，需要人类参与的程度可能就会越低。人们对AI技术干的活，所需要进行的修改和调整可能也会越少越小。但是不是一定能最终抛开人类的参与和管理，这就不能用绝对化的方式进行处理。将来在公路上行驶的无人驾驶车辆会越来越多，我们必须调用天空的卫星监控系统对地面上的车辆行驶状态实施必要的监控。万一出了点什么情况，就肯定不是小问题。人的作用，是永远都无法从根本上取消的。
（作者系昆仑策研究院高级研究员；来源：昆仑策网【作者授权】，修订发布；图片来自网络，侵删）
