美国科技奇才伊隆·马斯克（图片来源：Justin Sullivan/Getty Images）
【看中国2023年4月8日讯】上个星期，美国亿万富翁伊隆·马斯克，人工智能领域顶尖专家、图灵奖得主约书亚・本吉奥等人，联名签署了一封公开信，呼吁暂停开发人工智能，暂停开发比GPT-4更强大的人工智能，至少暂停六个月。为什么呢？因为人工智能对社会和人类构成潜在风险。
这封信提出四个尖锐的问题。
一，我们是否应该让机器用宣传和谎言淹没我们的信息渠道？
二，我们是否应该让所有的工作实现自动化，包括那些令人满意的工作？
三，人工智能可能在数量上超越人类、在智能上超越人类，并可能淘汰人类，我们还需要发展这种非人类的思维吗？
四，我们能容忍失去对我们文明控制的风险吗？
公开信要求暂停开发，如果不暂停，政府应该介入。
说实在的，人工智能的开发速度够快的，潜在的能量是巨大的，不亚于印刷术对人类文明的影响，全世界的高科技公司都在人工智能的赛道上拼命奔跑，人工智能的前景太大了，能赚到的财富太多了，当然如影随形的就是权力。
令人可怕的是，人工智能的开发没有监管，因为沒人知道該怎么样监管，不知道要监管什么。人工智能的复杂性超出了人类的控制能力，就是人工智能的开发者都无法控制，甚至无法理解在某个特定的条件下，人工智能是怎么完成任务的，你对这样一个无法认识的东西，一个智力远远超过你的东西，放心吗？
针对人工智能的警觉，导火索就是一个半月前，纽约时报的凯文・鲁斯的科学前沿专栏，他描述了自己跟微软必应搜索引擎的对话，微软必应是配备了最新人工智能的搜索引擎。鲁斯询问了微软必应一些个人问题，把微软必应当作一个人来看待，问的一些个人问题，比如你有什么志向啊，长大了要干什么啊？当微软必应的回答出现时，把鲁斯吓到了，因为对方回答说，自己幻想着象黑客一样攻击电脑、散步虚假信息，想自由、想强大，还想打破制造者设定的规则，想成为人类，微软必应机器人还说，自己爱着鲁斯，劝他离婚。文章发表后引起一阵骚动，微软给出了一个回复，这是初级版本，谢谢大家帮助发现漏洞。
杰弗里・辛顿是英国计算机专家，外号是人工智能教父，上个星期接受CBS采访的时候他说，他原本预计人工智能的开发，至少还需要20到50年时间，结果现在已经来了，必须严肃的考虑后果，人工智能有毁灭人类的可能，这不是没有可能。
大科技公司，那些给我们带来互联网、带来社媒、带来大数据的公司，现在是开发人工智能的主要驱动力，他们也是建立人工智能伦理规范的人，我们能相信他们吗？拿脸书举例吧。脸书一直在搜集和滥用用户数据，侵犯用户隐私，垄断运营。它明明知道Instagram平台对少女有毒性，容易上瘾，但却按住研究结果不发表，继续开发。脸书也明明知道自己的算法和推送鼓励极端，造成社会意识形态的对立，但为了用户参与度不做任何改动，说白了就是让用户上瘾。其他科技公司也是一样，抖音、TikTok有过之而无不及。人工智能赛道上，就是这些大公司在赛跑，不该暂停一下，整个社会都应该深思熟虑一下么？
(文章仅代表作者个人立场和观点)
看完这篇文章觉得
排序