胡懋仁：人工智能的可靠性能让人类完全放心吗?

　　关于人工智能技术的应用，现在开始有越来越多的人们开始做一些初步的尝试。现在能够安装在手机上或者其他设备上的人工智能技术应用的软件，应该都还算是属于初步阶段的。它们确实能帮助人们做一些事情，但是在它们做完了人们同它们提出的要求的事情之后，人们往往会发现，AI所做出的结果总和人们最初的设想或者最初提出的要求不那么完全吻合。两者之间总还是有那么一点距离，总不能让人感觉完全满意。

　　有人用了一个相对简单的AI软件，尝试着画一幅画。最初，人向AI提出了一系列限定怀条件，就是要求AI绘画软件所做出来的画面，要符合人们所提出的这些基本条件。如果人们所提出的限定性条件不是特别复杂，那么AI所创作的画面还是能给人以某种程度的惊喜，感觉这家伙干的活还算不错。然而，一旦人们想提出更多一些，更复杂一些的要求，这个AI系统可能就会抓瞎。

　　比如，有人想用AI系统画一幅画。他向AI系统提出一个画面上的要求，画面里要有一对中老年夫妻，坐在水边，即可能是湖边，也可能是河边。二人中间摆放着一张不大的桌子，上面放着茶或者其他饮料。结果，AI给出的画面居然是一对年纪很大的白人夫妇。问题是，向AI提的要求中没有关于画面中人物的种族或者肤色的限定，不知道为什么AI系统会给出一对白人夫妇的画面。总之，那位向AI提要求的人，多次修改他的要求，但最终的画面结果总不能让他满意，总觉得这个AI系统并不真的了解他的要求，不了解他给出的限定性条件的意义。

　　当然，可能这位向AI提要求的画者，给出的条件不够充分，也不够详细。毕竟，人类也并不了解AI在面对这些人类所提出的限定性条件时，AI到底能得出什么样的理解，能给出什么样的回答。或许，在人类对于这样一种AI系统有更多的和更深入的了解时，情况会有所改变。

　　还有一个人，想让一个AI作曲的系统为他写的歌词谱曲。这位老兄写过一篇歌词，但自己不会作曲，也找不到合适的专业人士帮他作曲。这次，听说手机上有AI作曲的软件可以试用，他也就下载了一个作曲软件。同样，在让AI干活之前，要向AI系统提出一系列条件或者要求。这位写歌词的，认为他的歌词适合于进行曲旋律，而且歌曲要雄壮、有力，带有军旅气势。当然，在AI所规定的要求范围内，所列出的菜单是有限的，并不能完全把得出的要求都能实现。结果第一版弄出来以后，与所提的要求完全不相符合，这支歌给整成了一首流行歌曲。倒是四二拍子，但听不出进行曲的雄壮来。这位作词者非常失望。当然，他认为他对这个AI软件还不是太熟悉。出了些问题，不能直接责怪系统，这其中完全有可能是他的问题，是他的原因。毕竟他对这一类软件完全不了解，也完全不熟悉。