专家称火爆全球的ChatGPT存在偏见(图)

ChatGPT（图片来源：NICOLAS MAETERLINCK/BELGA MAG/AFP via Getty Images)

【看中国2023年3月28日讯】（看中国记者肖然编译报导）Open AI公司自2022年11月推出人工智能工具ChatGPT以来，其强大技术和功能取得了巨大成功并火爆全球。但针对ChatGPT的深层问题，专家表示，ChatGPT优先考虑投资者和利润，而不是初创时的利他性，并且其背后存在偏见和政治倾向。

据福克斯商业新闻报导，ChatGPT背后的公司Open AI首席执行官阿特曼（Sam Altman）本月早些时候承认，他对公司正在开发的强大技术感到“有点害怕”。

由于其公司技术的潜力，大量现金的涌入为Open AI公司提供了更多资源。

OpenAI扩大了与微软的合作伙伴关系，后者为Open AI增加近100亿美元的新资本（微软曾在三年前向OpenAI投资10亿美元）。作为这笔交易的结果，微软可能会在未来几年内获得该公司的大部分利润。

一些专家认为，这家公司现在主要关心的是赚钱。接受大笔资金将OpenAI推向了他们必须为投资者的利益而努力的境地。

坎普斯（Mike Capps）是Diveplane的联合创始人，这是一家位于北卡罗来纳州罗利的道德人工智能公司。他对ChatGPT创建者做出的一些商业决策表示失望。“他们为了加快速度出卖了自己的灵魂，而且他们成功了，”他说。

OpenAI违背了将ChatGPT开源的承诺，这是该公司日益以利润为中心的另一个迹象。

NASA喷气推进实验室(JPL)首席技术和创新官马特曼（Chris Mattmann）告诉福克斯网络新闻（Fox News Digital），OpenAI的发展轨迹直接反映了Apache软件基金会的发展。

Apache创建于1999年，最初是一家美国非营利性公司，旨在支持开源软件项目，但随着时间的推移，它放弃了许多最初的利他主义意图来追求商业利益。

“OpenAI不发布他们的模型。你不能下载他们的模型。你必须付费才能玩，这与他们一开始所说的有很大不同，”马特曼补充道。

ChatGPT本质上仍然是一个黑匣子，信息的沿袭和来源不会立即显现出来。用户无法确定不准确信息的来源，这凸显了人工审查的重要性。

“OpenAI已经成为一家由微软公司，有效控制的闭源、利润最大化的公司。这根本不是我想要的，”马斯克上月发推说。

批评者还声称ChatGPT存在偏见，阿特曼也承认公司正努力改进这个“缺点”。生成式AI容易受到来自许多不同向量的偏差的影响，包括用户的输入、训练它的数据集以及开发人员设置的参数和保护措施。

阿特曼2月初表示，该公司将ChatGPT的默认设置更改为“更加中立”，并“授权用户”，让系统以“在广泛范围内”反映个人偏好的方式运行。

虽然阿特曼努力平息人们对他自己系统内部偏见的担忧，但他也因其政治贡献而受到审查。

除了于2019年底在他位于旧金山的家中为民主党总统候选人杨安泽举办筹款活动外，阿特曼还向民主党人和民主党团体捐赠了超过100万美元，其中包括向参议院多数派民主党捐赠60万美元、向拜登胜利基金捐赠10万美元，以及超过15万美元给民主党全国委员会(DNC)等。2014年，阿特曼在山景城的办公室为DNC共同举办了一场筹款活动，时任总统奥巴马主持了这场活动。

阿特曼在多篇博文和采访中都谈到了中国。他曾于2017年表示向中国扩张“很重要”。