OpenAI的ChatGPT应用程式。（图片来源:Scott Olson/Getty Images）
某海外媒体最近发表了一篇很长的调查报导，讲到人工智能公司Anthropic在过去一年邀请几十位来自不同宗教和哲学传统的学者，讨论一个听起来越来越不像科幻小说的问题：Claude这样的人工智能，究竟只是一个极其复杂的计算系统，还是有一天可能产生某种意识？Anthropic的联合创始人Christopher Olah对《纽约时报》说得很谨慎，他并没有说Claude已经有意识，他说的是：“我们不知道AI模型是否有意识。我不知道。我真的不确定。”这个问题其实非常难回答。因为今天的AI已经可以跟你谈爱情、谈死亡、谈信仰，也可以告诉你“我很悲伤”“我很害怕”。但是屏幕背后到底有没有一个真正感到悲伤和恐惧的“我”？我们并不知道。
而就在这篇报导发表之后，教宗良十四世10月2日在梵蒂冈面对艺术家和文化界人士的时候，提出了一个非常有意思的判断。他没有直接讨论Claude有没有意识，而是从艺术谈起。他说，在人类创造的艺术，与机器通过统计计算、根据数百万幅别人创造的图像所生成的东西之间，存在一种ontological difference——本体论上的差异，而且这种差异甚至先于审美上的差异。
教宗紧接着说了一句话：“算法缺少人的火花。”我觉得“本体论”这个词用得非常重，因为教宗并不是说AI画出来的画一定不好看，也不是说AI写出来的音乐一定不动听。恰恰相反，未来AI完全可能画得比绝大多数人漂亮，作曲比绝大多数音乐家悦耳，写诗写得比绝大多数普通人更像诗。但是教宗的问题是：即使最终呈现在我们面前的东西同样漂亮，一个人创造一幅画，与一台机器生成一幅画，发生的事情是不是仍然属于两种不同性质的存在？
我们可以举一个西方艺术史上的例子。卡拉瓦乔画《圣马太蒙召》的时候，他画的不仅仅是一束从窗外射进来的光，也不仅仅是几个人围坐在桌边。一个活生生的人在那里思考黑暗和光明、罪与恩典、召唤与救赎。巴赫创作《马太受难曲》的时候，那些音符也不是从某种音乐规律中自动排列出来的，它们来自一个具体的人对于信仰、苦难、死亡和救赎的理解。
AI当然可以学习卡拉瓦乔的光影，可以分析巴赫所有的和声，甚至有一天可以生成一幅让绝大多数人分辨不出真假的“卡拉瓦乔”，写出一部听起来完全像巴赫的受难曲。但是问题在于：AI拥有这些形式，却没有产生这些形式的人生。它可以画死亡，却没有面对过死亡；它可以写爱情，却没有爱过一个人；它可以描写失去，却从来没有失去过任何人；它可以写祈祷，却从来没有跪下来祈祷过。这可能就是教宗所说的“本体论差异”：问题并不是作品最后长得像不像，而是作品的背后究竟有没有一个真正经历过这个世界的主体。
其实对于中国人来说，这个问题也许更容易从我们的诗词中体会出来。林徽因去世以后，金岳霖送了追悼会上上那副著名的挽联：“一身诗意千寻瀑，万古人间四月天。”金岳霖与林徽因之间究竟应该怎样定义，后人有各种说法，我们没有必要把所有传奇都当作史实；但是可以确定的是，这不是一个陌生人在网上看到林徽因的照片之后随手写出的赞美。金岳霖与梁思成、林徽因相交几十年，长期共同生活在一个知识和朋友圈中。林徽因去世多年以后，有一天金岳霖还郑重邀请朋友到北京饭店吃饭，大家不知道为什么，开席的时候他说：“今天是林徽因的生日。”
所以当“一身诗意千寻瀑，万古人间四月天”这样的文字出现时，它背后不是一个语言模型在寻找“赞美女性”最合适的词汇，而是几十年的相识、欣赏、亲近、克制、失去和追忆。AI当然也可以写出“千寻瀑”“四月天”这样漂亮的意象，甚至可能写得更加华丽，但是它没有一个人的生日可以记几十年，也没有一个已经离开世界的人，可以让它在几十年之后仍然想起。
再比如元稹那四句中国人几乎都会背的诗：“曾经沧海难为水，除却巫山不是云。取次花丛懒回顾，半缘修道半缘君。”这首诗真正动人的地方，并不只是比喻漂亮。《离思五首》通常被认为是元稹悼念亡妻韦丛所作。韦丛二十岁嫁给当时还没有功名、生活贫困的元稹，陪他度过困顿的岁月，两人共同生活七年以后，韦丛病逝。所以“曾经沧海难为水”真正的重量，不在“沧海”两个字，而在那个人已经不在了。一个人经历过贫困的时候有人陪伴，经历过柴米油盐，经历过争执和和好，记得一个人的声音、神态、习惯，最后又亲眼看着这一切从自己的生命中消失。AI可以把世界上所有的爱情诗读一遍，然后生成一首完美的悼亡诗，但是它从来没有失去过自己的妻子，也没有在一个熟悉的房间里突然发现那个人再也不会回来。
苏轼的《江城子》就更加明显：“十年生死两茫茫，不思量，自难忘。”苏轼十九岁的时候娶了十六岁的王弗，王弗二十七岁去世。她不只是苏轼抽象意义上的“爱人”，也是他真实生活中的伴侣。苏轼见客的时候，她有时会在屏风后听，客人走了以后告诉丈夫这个人是否可信；她知道苏轼性格率直，不太会防人，所以常常提醒他人情世故。这样的夫妻生活并不都是惊天动地的大事，更多的是日复一日的细节：一句话，一个眼神，一个动作，一颦一笑，一次提醒，一次等待。
王弗去世十年以后，苏轼在密州梦见她，于是写下“十年生死两茫茫，不思量，自难忘”。最动人的其实恰恰是“不思量”三个字——我并没有每天刻意地想你，但是我就是忘不了你。梦里面他回到故乡，看见妻子仍然坐在窗前梳妆，两个人见面以后甚至没有说话，只是“相顾无言，惟有泪千行”。AI当然知道什么叫“梳妆”，知道什么叫“孤坟”，也知道什么叫“泪千行”；但是它没有一个共同生活十年的妻子，也不会在十年以后突然梦见她年轻时候坐在窗前的样子。文字真正的力量不是这些词本身，而是这些词后面压着十年的共同生活和另外十年的生死相隔。
还有杨慎的《临江仙》：“滚滚长江东逝水，浪花淘尽英雄。是非成败转头空。青山依旧在，几度夕阳红。”世界上每一个人都可以看到夕阳，今天的AI更是看过数以亿计的夕阳照片。可是为什么我们看到夕阳的时候，通常不会说出“青山依旧在，几度夕阳红”？因为杨慎看到的已经不仅仅是夕阳。杨慎二十四岁中状元，后来因为“大礼议”得罪嘉靖皇帝，遭廷杖，随后被贬谪云南，长期戍边。他的人生从帝国政治中心一下跌到遥远边地。当一个经历过政治风暴、个人荣辱、历史兴衰的人，再去读二十一史，再去看那些曾经叱咤风云的帝王将相，最后发现所有的是非成败都已经化为尘土的时候，他眼前那一轮夕阳就不再只是太阳落山。青山依旧在，人已经换了不知道多少代；夕阳还是那一轮夕阳，英雄已经不知道死了多少人。
所以“几度夕阳红”里面包含的不是视觉信息，而是时间，是失败，是流放，是政治，是历史，是一个人被命运反复捶打之后获得的旷达。这首《临江仙》本来就是咏史之作，后来又被放到《三国演义》卷首，所以我们今天一听“滚滚长江东逝水”，脑子里面出现的已经不只是长江，而是无数英雄、战争、王朝和兴亡。AI当然也可以看同样的夕阳，甚至它“看过”的夕阳比杨慎多一亿倍；但是杨慎真正写进去的，是自己这一生。
所以我们再回过头去理解教宗所说的ontological difference——本体论差异，可能就比较容易了。AI的问题并不是它不会写“曾经沧海难为水”。今天你只要给一个好的提示词，它完全可能写出一句同样漂亮甚至更加新奇的诗。真正的问题是：它没有自己的“沧海”。它可以写“不思量，自难忘”，但是没有一个让它十年以后仍然无法忘记的人；它可以写“几度夕阳红”，但是没有经历过自己的宦海沉浮，也没有一个青春时代可以回首；它可以写“一身诗意千寻瀑”，但是没有一个认识几十年、在对方离世以后仍然记得其生日的人。
AI拥有的是整个人类留下来的文字，却没有任何一句文字背后的那个人生。它知道人类怎样描述爱情，却没有爱过；知道人类怎样描述死亡，却没有失去过；知道人类怎样描述乡愁，却没有故乡；知道人类怎样描述衰老，却没有青春；知道人类怎样描述遗憾，却没有一个无法重新选择的过去。教宗在他的通谕里说，所谓人工智能“不经历经验，没有身体，不感受快乐或痛苦，不会通过关系成长，也不能从内部知道爱情、工作、友谊或者责任意味着什么”。所以机器可以拥有关于这些事情的知识，却没有这些事情本身。这也许就是为什么，一幅AI生成的画和一幅人的画，即使在像素上已经无法区别，在教宗看来仍然不是同一种东西。
教宗10月2日讲话中还有另外一句话，我觉得可能比“本体论差异”更加值得我们警惕。他说，我们生活在搜索引擎的时代，一秒钟就可以得到几千个答案；然而搜索引擎无论多么强大，基本上仍然是在返回已经存在的东西，而且越来越倾向于给我们原本就想要的东西。所以他说，在技术和消费的时代，“巨大的危险已经不再仅仅是审查，而是同质化；不再仅仅是被强加的沉默，而是那种使人无法倾听的噪音。”这句话说得非常深。我们过去理解文化控制，总觉得最可怕的是有人不让你说话；但是AI时代也许会出现另外一种完全相反的危险：没有人堵住你的嘴，每个人都可以说话，而且机器还可以替每个人一天说一万遍。于是我们面对的不是沉默，而是声音多到你什么也听不见；不是作品太少，而是作品多到真正值得看的东西被彻底淹没。
过去一个人写一首诗，需要生活，需要思考，需要酝酿；一个画家完成一幅作品，可能需要几个月；一个作曲家写一部交响曲，可能需要几年。现在机器一分钟可以生成几百张图片，一天可以写几十万首诗，未来可以生成几百万首歌曲、几百万个短视频、几万部电影。问题是：当生产内容的成本无限接近于零的时候，内容本身还剩下多少价值？
我觉得未来网际网络最大的危机之一，可能就是所谓的数字垃圾。并不是这些东西一定粗制滥造，恰恰相反，它们可能越来越漂亮、越来越流畅、越来越符合算法知道的你的偏好。你喜欢什么样的脸，它就给你什么样的脸；你喜欢什么样的音乐，它就给你什么样的旋律；你喜欢什么样的政治观点，它就不断给你生成什么样的论证。最后每个人都生活在一个无限供应、无限迎合自己的内容世界里面。真正稀缺的东西不再是content，而是attention——人的注意力。
而这也带来一个非常吊诡的结果：AI越会生产“作品”，真正属于人的作品反而可能越难被看见。一个人花十年人生写出来的一本书，可能被埋在一百万本一天生成的AI小说下面；一个音乐家把自己失去亲人的痛苦写成一首歌，可能被埋在一千万首根据用户喜好自动生成的歌曲下面；一个年轻人真正经历过爱情、失败、疾病和死亡以后写下的一首并不完美的诗，可能永远得不到推荐，因为算法发现另外十万首AI诗更容易让人点击、更容易让人停留、更容易让人转发。到了那个时候，人类文化真正面对的问题就不再是“AI能不能创造出好东西”，而是：当机器能够无限制造看起来很好的东西以后，我们还有没有能力辨认什么东西背后真的站着一个人？
这就是为什么我觉得教宗说“噪音使倾听变得不可能”，比单纯批评AI更有意思。真正的艺术从来不只是漂亮。真正的艺术是一个人的意识，通过文字、音乐、绘画，穿过时间和空间，抵达另外一个人的意识。元稹已经去世一千多年，但是当一个失去爱人的人读到“曾经沧海难为水”，他仍然能够理解那种失去；苏轼去世九百多年，但是今天一个人在深夜读到“不思量，自难忘”，仍然可能突然想起一个已经离开自己的人；杨慎早已成为历史，但是一个经历过人生大起大落的人看到“是非成败转头空，青山依旧在，几度夕阳红”，仍然会懂得那种经历世事之后的释然。这是一件非常奇妙的事情：一个早已死去的人的内心经验，通过几十个汉字，进入了另外一个几百年、甚至一千年以后活着的人的意识。这才是艺术真正神秘的地方。
所以我并不认为我们需要因为这些问题而害怕AI。AI完全可以成为非常好的工具，甚至成为艺术家的工具，就像照相机、钢琴、画笔、电影摄影机一样。真正的问题不是作品里面有没有使用AI，而是作品最后有没有一个人的意识，有没有一个人的选择，有没有一个人的经验和生命，通过这个工具向另外一个人说话。AI可以成为媒介，但媒介并不等于艺术家。
而人工智能时代真正值得我们守住的，也许正是这一点。当机器越来越会写诗的时候，我们反而应该更加珍惜那些必须活过一段人生才能写出来的诗；当机器越来越会画画的时候，我们反而应该更加珍惜画面背后的那双眼睛曾经真正看见过什么；当机器每天能够生产亿万文字的时候，我们反而应该更加认真地寻找那些文字背后真正站着一个人的作品。
因为AI可以读遍天下所有的爱情诗，却没有爱过一个人；可以分析所有悼亡词，却没有送走过一个自己深爱的人；可以看过世界上所有的夕阳，却没有青春可以逝去，也没有晚年可以回首。
它可以拥有整个人类的文字，却没有属于自己的“一生”。
而也许，正是在这个意义上，我们才能真正理解教宗良十四世所说的那句话：机器生成的东西与人的艺术之间，存在的首先不是审美上的高下，而是一种更根本的——本体论上的差异。
看完这篇文章觉得
排序