映月读书网 > 十二个明天 > 人工智能会故意隐藏自己吗 >

人工智能会故意隐藏自己吗

解读《革命》

吴甘沙

驭势科技(北京)有限公司联合创始人兼CEO

如果外星人真的来了,它们的唯一选择是不是像《三体》中智子那样锁住人类科技的发展?

通用人工智能出现了,它们会不会感受到人类科幻小说中对智能机器的猜忌和仇恨,从而启动人类灭绝计划?

关于后一个问题,《生命3.0》的引言给出了一个不一样的可能性,欧米茄团队开发出了通用人工智能“普罗米修斯”。“普罗米修斯”及其操纵者善于隐藏自己的能力和野心,从文化切入(制作大量动画片),进而在医疗、能源、制造业等方方面面改善了民生、提升了社会效率,并把赚来的钱投资于社区和公益事业,最终利用民主社会的机制掌握了舆论、攫取了权力。“欧米茄团队已经完成了地球生命历史上最具戏剧性的转变。有史以来第一次,我们的地球由一股单一的力量控制,这股力量又被一个智能体不断增强,这个智能体是如此的庞大,以至于它有能力让生命在地球上乃至在宇宙中生息繁盛亿万年”。

回到第一个问题,外星人会不会也像“普罗米修斯”那样通过积德行善来愚弄人类、让其失去选择的能力呢?《革命》这篇恰恰展示了这样一种可能。外星人的“良好用心”是怕人类开发出可能失控的人工智能,“放大人类的不成熟”,于是耍了个障眼法,让人类科学家贝丝误以为创造出了人工智能,或者说,通过模拟人类期待的人工智能的行为并通过测试,外星人控制的更高层的人工智能降维成为人类认为的人工智能,而这个假人工智能让人类远离了战争,在疾病、贫穷、不公、犯罪、环境污染等方面取得了脱胎换骨的进展。当人类发现这种“幸福感”是被操纵的时,该何去何从呢?清醒的贝丝是痛苦的,她必须找到一个外星人看不见的战场,为人类的自由而战斗。“只有人类,才是我们自己唯一的希望”。

什么是幸福?白送、但无从选择、必须接受的幸福是不是真的幸福?什么是自由?别人给你设计的自由是不是真的自由?当搜索引擎和推荐引擎决定了我们想要看、想要买的一切,让我们获得得来全不费工夫的快感时,我们何尝与《革命》中的人类有所区别?

外星人毕竟是小概率事件(解释费米悖论的一种可能性确实如《革命》所说,它们很好的隐藏了自己),而通用人工智能正在路上。如果机器最终会自我进化,它如何决定进化目标?它的reward function(回报函数)是什么?跟人类的价值观是否一致?这是我们必须考虑的问题,只有一开始把“价值观”植入,在人工智能不那么漫长的进化路途中不断建立路径依赖,使其无法在后天的演化过程中颠覆或剥离该价值观,才能确保人工智能不会发展成为赐予人类自由的伪善者。