人工智能自行其事!我们真正的麻烦来了

【看中国2017年8月4日讯】据媒体最新披露:几天前,在Facebook的人工智能实验室里,出现令人震惊的一幕:

两台智能机器人突然摆脱了人类的控制,开始用自创语言对话,全然无视程序员下达的指令。由于情况失控,研究人员只得终止人工智能系统的全部活动。

据新华社昨天的新闻通稿,Facebook事后公布了聊天机器人“鲍勃”和“爱丽丝”的对话节选(直译)。

鲍勃说:“我能能我我所有事其他。”

爱丽丝说:“球(复数)有零对我对我对我对我对我对我对我对我对。”

报道称,研究人员起初对机器人用自创语言聊天一事感到困惑,但之后他们发现,机器人其实是在用一种更复杂的方式来处理手头任务。

Facebook的人工智能研究人员杜鲁夫・巴特拉认为,就像有时人们会“抄近道”用行话对话、以便快速解决问题一样,人工智能机器人也会自创语言,做类似的事。

这的确是一件细思极恐的事件,向我们揭示了未来人工智能可能存在的巨大风险。

以前,这种场面我们只在好莱坞大片里看到过——机器人通过自我学习,摆脱了人类控制,开始统治地球、奴役人类。人类则被打入万劫不复的深渊,被自己创造出来的怪物所统治。

在2017年的这个7月之前,我们看到的人工智能都是严格被人类控制的,按照人类预期的方式运作。但随着科技的进步,机器人竟然开始自创预言,这的确是令人非常震撼的。

那么,当未来机器人的拥有自我学习、沟通、进化能力之后,他们会不会产生类似人类的复杂感情,也会有尊严、悔恨、嫉妒和复仇?如果有,那么机器人的确能干出人类意想不到、难以控制的事情。

就在此次Facebook关闭人工智能实验室之前,Facebook的老板扎克伯克还跟特斯拉和SpaceX的老板埃隆・马斯克发生过一场辩论,扎克伯格认为人工智能是美好的、值得期待的,而全球公认的科技奇才埃隆・马斯克则认为人工智能是人类文明的威胁。

现在,扎克伯克被自己的实验室“打脸”了!

即便在人工智能方面存在巨大的分歧,但无人能阻挡这个时代的快速到来。百度在被阿里、腾讯甩开之后,已经拼全力豪赌人工智能。

中国官方也在7月8日发布了《新一代人工智能发展规划》,在这个规划,有这样一些表述值得我们高度关注:

1、人工智能发展进入新阶段……呈现出深度学习、跨界融合、人机协同、群智开放、自主操控等新特征。

2、人工智能是引领未来的战略性技术,世界主要发达国家把发展人工智能作为提升国家竞争力、维护国家安全的重大战略,加紧出台规划和政策。

3、人工智能是影响面广的颠覆性技术,可能带来改变颠覆结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题,将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。在大力发展人工智能的同时,必须高度重视可能带来的安全风险挑战,加强前瞻预防与约束引导,最大限度降低风险,确保人工智能安全、可靠、可控发展。

也就说,以后的战争可能是机器人之间的战争。

以后的婚姻,可能是人和机器人之间的婚姻,人类还能顺利繁衍吗?

以后的主要工作岗位,可能实现机器人对人的替代……

到了那个时代,机器人要不要有国籍、民族、宗教和家庭的身份?

机器人的广泛使用,会不会让财富更加失衡,失业率飙升?

掌握了大量机器人的富豪,会不会发动政变控制政权?

……

当然,最恐怖的是——机器人会不会反过来控制、奴役人类?

没有人说得清楚,大家都担心自己落后。最终,人工智能时代将不可避免地全面到来。

Facebook实验室里令人震惊的一幕向我们预示着——机器人将拥有独立思考和进化的能力,他们将产生自己的语言,最终很有可能把人类看做是一群傻瓜,低智商的物种…

(文章仅代表作者个人立场和观点)
本文留言

作者刘晓博相关文章


相关文章


近期读者推荐