让智能系统成为伦理主体

IBM公司的计算机系统“华生”曾在美国著名电视智力竞赛节目Jeopardy中获胜

科幻作家阿西莫夫

德国哲学家康德

　　问题的真正解决思路，似乎不在于如何从外部的立场出发，去给人工智能系统“立法”。更值得推荐的思路，或许是让智能系统成为真正的伦理主体——或者说，让伦理性内植于机器自身的程序之中，概而言之就是，将人工智能研究升级为人工伦理研究。

　　从霍金的警告到罗素的倡议

　　最近，天体物理学家霍金向世人发出警告，说超级人工智能已经对我们人类的生存构成了威胁。此言一出，引发各地媒体纷纷转载。不得不承认，笔者最早听闻这一报道之时，多少觉得有点不以为然。其一，霍金虽是科学界旷世奇才，但其对于人工智能的评论却属于明显的“跨界”言行，其“博眼球”的成分或许已压过了此类评论所应有的专业色彩。其二，人工智能技术当下的发展虽说的确很快，但其是否已经达到了逼近人类智能的地步，却还很难说。严格地说，最近的人工智能技术的进步，主要得益于硬件性能方面的日新月异。譬如，配上了更好的传感器以及更烧钱的数据处理系统的自动驾驶系统，的确可以使自己显得更为“灵敏”；拥有更大的数据库的专家系统，亦可以由此使得自己显得更为“博学”（如几乎无事不知的IBM公司的“华生”系统），等等。然而，在基本的算法层面，最近十年来人工智能界是否取得了某种堪比上世纪80年代 “人工神经元网络技术”之兴起的重大科学突破，则颇为可疑（更何况即使是这一“突破”所具有的科学意义到底有多大，学界的意见也是见仁见智）。在此背景下，过分炒作人工智能研究所带来的伦理学风险，是不是有点杞人忧天呢？

　　然而，最近计算机业界所发布的一封公开信，则提醒笔者注意到了人工智能研究中牵涉的伦理学问题所具有的复杂性。这份公开信的标题是“关于靠谱的和有益的人工智能研究所应具有的优先性”（网址：http://futureoflife.org/misc/open_letter），发起人是美国加州大学伯克利分校的资深人工智能专家斯图亚特·罗素（StuartRussell，请读者别和英国大哲学家伯特兰·罗素混为一谈）。应当看到，此信并未像霍金的警告那样充满了对于人类未来的一边倒的悲观色彩，而是充分肯定了人工智能研究对于提高人类生活质量所具有的巨大潜力。但是，公开信也提醒读者注意此类研究所具有的“双刃剑”效应，并积极呼吁伦理学家和人工智能专家合作，兴利除弊，将人工智能的发展所可能带来的负面效应缩至最小。这也就构成了笔者构思这篇小文的由头。