映月读书网 > 十二个明天 > 人工智能应该是一个更好的“人” >

人工智能应该是一个更好的“人”

解读《逃离看护岁月》

韩松

著名科幻作家

在《十二个明天》这本书的序言中,编者韦德·劳什有过这样一个介绍:你能很明显地看出,无人机、游戏和物联网最终是如何囚禁我们的,而不是解放我们。

《逃离看护岁月》所描述的是一个不算特别新奇的未来故事。它讲的是我们生活的一切将由算法控制。有一家医院,它由人工智能管理,并由其对人类实施实时监控。人工智能认为有位老人需要住院,于是就把她从养老院中接走,强制她住院,不让出来。这让老人很郁闷,因为她本来是住在养老院中的,并与另一位老人相依为命,互相帮助和照顾。另一位老人也很郁闷,她感到一个人很孤独,就想把老伙伴从医院中弄出来,两人重新生活在一起。为此她把植入自己身上的监控仪挖了出来,这样机器就找不到她了。她从养老院中逃出来,前往医院“劫狱”,但在路上,她受到无人机的追踪,无人机是专为寻找无助的离家出走的老人而来的。但最后这个老人说服了无人机,让它对她产生了同情。她指出人类不能仅仅被冷冰冰的机器看护,而更需要人情味,这是机器替代不了的。最后她被一架无人机的操控者收留。她想也许今后可以让无人机飞到医院,把那些被囚禁的病人统统救出来。故事到这里就结束了。

《十二个明天》简体中文版的出版方湛庐文化邀请我写一篇读后感,这也许是考虑到我曾写过“医院”系列的小说吧。我所写的医院也是由人工智能控制的,生命成了一个算法。这也是一个反乌托邦的故事。但在实际生活中,人工智能代替人类,接管社会,可能是一个趋势。甚至不少人认为,人工智能比现在的医生和护士更好,它永不疲劳,不吃不睡,不收红包,掌握病人的一切信息,比医生更了解疾病原理和治疗规律。除了能进行精准的诊断和手术,它还能更好地体察人类的情绪,及时做出针对性的反应,更妥善地解决病人的心理不适问题,而不仅仅是生理问题,这也便一劳永逸地消除医患关系中的麻烦。总之,人工智能应该是一个更好的“人”。

因此,《逃离看护岁月》给我的最初感觉是,作者描写的可能是一种不那么高级的医疗人工智能,它只会生硬而武断地做出令人不愉快的决断,但高级的算法能做到的大概恰恰相反。另外,我对那个八十多岁的老太太逃出养老院去医院“劫狱”感到有些怀疑。我不太明白为什么两个那么大年纪的老人生活在一起,就一定比接受人工智能照料更好。仅仅一句“人情味”就能概括生存的复杂性吗?人工智能是在监测出老人有跌倒中风的可能性后才让她住院的。真的出现这种情况,就非常麻烦了。一位八十多岁的老太太为另一位八十多岁的老太太天天端屎接尿,这真的受得了吗?我觉得这更为残酷。这也是我在“医院”系列中表达的观点:人在本质上是不能照顾人的。家庭仅仅是进化中的暂时产物。

不过,《逃离看护岁月》是一篇小说,如很多这类小说一样,它反映了当下普遍存在的对人工智能时代到来的担忧。这种担忧也并不是今天才有的。它让我想起八十年代初翻译过来的《魔鬼三角与UFO》,它里面收录的短篇科幻小说中,有一个也是讲人类受到了机器人无微不至的看护,但有一天机器人出了问题,它把一家人都关在屋子里,不让他们出去,不让他们与外界联系,其情其境与《逃离看护岁月》很相像。还有一篇写的是对电视时代的担忧,认为电视机具有智能,它会控制社会生活的方方面面,把人变成傀儡、变成被动的消费者。这都反映出随着新技术革命的到来,人类感到焦虑,害怕被外在之物控制,觉得技术并不一定带来幸福。大家不知道怎么办,就用科幻小说来排遣,或者疏解,或者逃避。当然科幻小说也有一个重要作用,即预警功能,让社会提前去考虑万一出现这种局面后,我们应该如何应对,或者我们可以提前采取一些措施,消除相关的隐患,不让可怕的结果真的发生。但实际上,我觉得,科幻小说的功能也是被夸大了的,因为掌握决策权的政治家很少读科幻小说。他们更多考虑实际利益,并且扭曲基本事实。离开了政治仅谈技术和情感的科幻小说是缺乏深度的。