奥创的根源:我们已担忧机器人崛起200余年

奥创,电影《复仇者联盟:奥创纪元》中的机器人大反派

在全球的电影院里,一个名叫奥创的机器人正试图毁灭人类。他是《复仇者联盟2:奥创纪元》的主角和技术奇点带来的世界末日的化身——当人工智能超越人类智慧的时候。

如今荧幕上的“奥创”无疑受到了雷·库兹韦尔(Ray Kurzweil)等人的影响,库兹韦尔是当今世界上该观点最强有力的普及者(这一观点诞生于1993年弗诺·文奇的一次演讲)。库兹韦尔以及许多其他当代哲学家很可能集体导致了如今荧幕上“奥创”的诞生。

但早在这之前,邪恶的机器人就已经在漫画中出现了:1968年,当计算机还和一个房间一样大的时候,奥创的原型就已出现在了18世纪的科幻作品和科学理念中。感谢那些开拓性的思想家,那个时代的人们已经开始担心人工智能失控了。

 


关于邪恶的智能机器的幻想已经持续了200余年

 

这是1834年的巴贝奇差分机,世界上最早的计算机之一

图片来源:Science & Society Picture Library/Getty Images

回到1794年,数学家马奎斯·孔多塞(Nicolas de Condorcet)已描述了机器如何超过人类智慧的进步。但最有影响力的还是塞缪尔·巴特勒(Samuel Butler)在1872年发表的《埃瑞璜》(Erewhon,也译作《虚幻国》)中提到的剧情。

《埃瑞璜》的理念源于一篇文章:《机械达尔文》(Darwin Among the Machines),在该文中巴特勒支持一种标准的技术奇异点恐惧,即机器人将会统治一切:

“考虑到有意识的生物已经存在了近两千万年:想想机器在这个千年里迈出了多大的步伐!或许这个世界不会再延续两千万年了呢?如果不是这样,那么世界最终的结局会是什么呢?把机器人可能的危害扼杀在萌芽之中并且禁止其进一步发展难道不是更安全吗?”

巴特勒生活在后工业革命时代,那个时候工厂和铁路的迅速流行促使人们对机器影响力的迅速增长进行审视。这使得《埃瑞璜》大为成功并且成为人们如何看待机器崛起的范本。

鉴于计算机是从只能简单累加的机器进化到了能进行复杂计算的程度,那些对技术奇点的恐惧也更为加剧。阿兰·图灵(Alan Turing)在他之后关于技术奇点的预测中援引了巴特勒的小说,并写道:“在某些阶段,我们应该预期机器会按照巴特勒的《埃瑞璜》中所描述的那样统治人类。”


阿兰·图灵拉开二十世纪五六十年代关于机器人统治人类恐慌的序幕 


 

年轻时的图灵

图片来源:Hulton Archive/Getty Images

1951年,图灵发表了一篇名为《智能机械:一种异端学说》(Intelligent Machinery: A Heretical Theory)。尽管图灵因在二战中破解了德军的电报密码而成名,但通过发明早期电脑和为图灵测试打下基础,他也将技术奇点理论介绍给了广大群众。

在图灵的《智能机械》中,他设想了一种理论上的计算机,其“智商”以指数增长。通过从经验中学习,这台计算机可以在很短的时间内从简单变复杂。图灵在论文的结尾中写道:“当这台计算机的思考算法一启动,它似乎不需要多长时间便可以超越我们微弱的力量。”

论文发表之后没过多长时间,图灵在BBC的第三频道公开谈论了它,这在当时引发了一场关于技术奇异点的广泛辩论(尽管大多数人更关注人类特有的能力而不是人工智能统治的威胁)。

这一主题随后被图灵的同事欧文·古德(Irving Good)所继承,他曾在二战中以密码学家的身份与图灵合作(破译了恩尼格码密码机)。古德的论文《关于第一台超智能机器的推测》(Speculations Concerning the First Ultraintelligent Machine)和《人与机器的逻辑》(Logic of Man and Machine)均在1965年发表,进一步推进了关于技术奇点的讨论,并且对机器人的潜在危险做了更好的描述:聪明的机器可以自行制造更聪明的机器。

古德在《关于第一台超智能机器的推测》如是写道:

“我们将超智能机器定义为可以完成一切人类智慧活动的机器。鉴于制造机器就是智慧活动的一种,一台超智能机器可以制造一台更加聪明的机器。这毫无疑问是一种‘智能爆炸,’人类智慧将在这个过程中被远远地甩在后面。”

接下来他解释了为什么计算机最终将会在…所有方面都强于人类。

1968年,所有关于机器人的新老恐惧最终创造出了“奥创” 

《复仇者联盟》第55期揭开了奥创的面具  图片来源:Marvel

我们知道,这些想法迅速在全世界流通开来,尤其在科幻圈中。斯坦利·库布里克雇佣古德作为1968年拍摄《2001:太空漫游》的顾问。该片塑造了邪恶的人工智能反派哈尔(HAL),这与机器人愈发流行的大环境相适合。它毫无疑问为漫画中机器人的出现铺平了道路,《2001:太空漫游》正上映于《奥创》出现前的三个月。

《奥创》是多种影响因素的混合产物:通俗心理学发挥了很大作用,其创造者亨利·皮姆(Henry Pim)的心理问题也是部分原因,他也被称作蚁人(如今电影中《奥创》的创造者是托尼·斯塔克)。《奥创》的作者也提到奥创的外观是受到《电视游侠》(Captain Video)中的人物莫洽诺(Mechano)的启发。但这仍是关于技术奇点的一个偏执想象:在一个早期的闪回中,机器人的智能以指数级增长,先是称呼其创造者为“大大”,再到“爸”,最后在极短的时间内变为“父亲”。

以亨利·皮姆的大脑模式作为起始点,《奥创》遵循了旧的故事套路,即无生命的机器可能被人类意识所占据,就像匹诺曹或弗兰克斯坦那样。但《奥创》也吸收了对机器人发展其自我意识的当代恐惧,即技术奇点。

《奥创》的创作是多方合作的成果,其成功也是协同性的。如果去争辩说《奥创》的作者和其漫画的读者都钻研过欧文·古德的学术论文或者受到过经典的《埃瑞璜》的教育启发,这未免显得荒谬。不过那些作品的影响确实以各种方式流传于大众,从科幻圈到政治界可谓无所不及。《奥创》的成功正在于这些理念在大众之中得到了非常清晰的反响。

由于技术奇点理论的快速发展,占据荧幕和漫画的奥创形象可谓代表了人工智能不断增长的存在感和潜在危险。正是这一独一无二的哲学基础使得它至今日仍能给我们带来恐惧和共鸣。

更新:有读者指出如果不提到《罗萨姆的万能机器人》(Rossum's Universal Robots),那么关于技术奇点的幻想都是不完整的。这部1920年上映的科幻剧被普遍认为首次使用了“机器人”这个词,并且较早地对机器人统治进行了描绘。

 

 

科幻星云网翻译出品,转载请注明出处,原文链接:

 http://www.vox.com/2015/5/2/8532349/age-of-ultron-avengers-singularity-turing

 

喜欢 0 收藏 0 评论
分享

精华评论

总计 0 个记录,共 1 页。 第一页 上一页 下一页 最末页
0/140
*
由创企科技提供成都网站建设.成都网络营销
Copyright 2011-2015科幻星云网 . All rights reserved. 蜀ICP备12024304号-1 增值电信业务经营许可证 川B2-20120098

登录科幻星云

回到顶部