主页 > 变态传奇页游 >

科学家警告:机器人获得意识后将反抗人类、摧毁文明

原标题:科学家警告:机器人获得意识后将反抗人类、摧毁文明

忘记现今人工智能领域的缓慢进步,例如:汽车驾驶能力的提高。未来不久人工智能或将迎来突破性发展:机器人具有自我意识,并知晓周围环境,它能够实时接收处理大量数据信息。可以指派它们执行危险任务,进入太空环境或者投入战争。

除了人们可以驾驶自动汽车之外,人工智能机器人还能做饭、保洁、洗衣服,甚至当其他人不在身边时,对老人或者婴儿进行护理。一些特殊先进的机器人甚至可以替代人类,从事任何工作。

这将使人们从单调沉闷的日常工作中解脱出来,但是也将影响一些社会基础。没有工作仅有娱乐的生活,将是一种反乌托邦生活模式。

同时,有意识的人工智能机器人也会引起法律和伦理道德问题,有意识的机器人会成为合法的“人”,如果它的行为伤害了某人,或者做错了什么,是否需要负责?如果进行大胆推测,或许人工智能机器人还会发生一些更可怕的事情,很可能它们会反抗人类,或许企图摧毁人类文明?如果是这样的话,它们代表了进化高潮顶点。

作为一名从事机器学习和量子理论研究的电子工程和计算机科学教授,美国俄克拉荷马州立大学电子和计算机工程学教授苏哈什·卡克(Subhash Kak)解释了如果人工智能获得意识,可能会出现的各种后果。

目前研究人员对于这些超意识能力机器人是否应当存在存有分歧和争议。还有一种争议表明,是否机器人应当具有“意识”,按照人类思考的方式去认知事物,或者像某些具有意识的动物。一些问题与技术相关,另一些问题则与意识的本质相关。

但苏巴什卡也指出,这样的机器会动摇社会基础,带来麻烦的法律和伦理问题。更可怕的是,它们可能会反抗、并希望彻底消灭人类。他在文章中写道,研究人员在这些超感知机器是否存在的问题上存在分歧。在机器是否可以或者应该被称为“有意识”的问题上,学界也意见不一。

报道中还提到了“机器人杀手”和自动化武器的运用。2016年人权观察组织的报告显示,由于机器人无需为战争负责,因此需要禁止“机器人杀手”使用和发展。去年,超过1000名科技以及机器人专家警告,机器人武器可能只需数年的发展,而不是几十年。在一封公开信中,他们称,如果主要的军事力量推动自动化武器的发展,那么全球军备竞赛将无可避免。

数学家古德(I.J.Good)曾在1965年预测,机器最终将能够创造出更好的机器。他说:“我们把超智能机器定义为具备超越所有聪慧人类智能活动的机器。一旦机器设计成为一项智能活动,那么超智能机器就能设计出更好的机器。毫无疑问,肯定会出现诸如”智能爆发“这样的局面,人类智能会被远远地甩在后面。因此,第一台超智能机器将是人类制造的最后一台机器。”

英国科学家史蒂芬·霍金(StephenHawking)也曾说过:“如果在设计人工智能方面,人工智能比人类做得更好,我们将迎来智能爆发时代,最终导致机器人在智能方面超越人类。”

阅读本文的人还阅读:

机器人摧毁人类是一场彻头彻尾