原题：特德·姜谈如何思考人工智能：我们已经站在了巨大的跑步机上，无法脱身

Original Delia Cai 摩登语言学

在关于人工智能、ChatGPT和失控的算法的爆炸性恐慌中，这位著名的作家已经进入了聊天状态。FIY：终结者情况是他最不担心的。

至少从1818年出版的《弗兰肯斯坦》开始，我们富有想象力的人类自己就一直在害怕我们的发明最终得到最好的我们。在流行文化中，技术进步的故事--以及随之而来的灾难--之所以经久不衰，正是因为它们能够恰到好处地刺激我们的大脑，让我们的好奇心渗入恐怖之中。在过去，我们有玛丽-雪莱和H.G.威尔斯，《华氏451》和《2001太空漫游》。如今，如果不提及《黑镜》、《楚门的世界》或机器人阿诺德-施瓦辛格至少一次，你就无法通过平民级别的闲谈来讨论我们被科技破坏的生活。

特德·姜，我们这个时代最负盛名的科幻小说的作者（四次雨果奖、四次星云奖和一部改编电影，以科幻的标准来看，三十年来只有一打半的短篇小说），最了解人类的这种冲动。在姜的小说中，各种宇宙中的人物都在努力克服我们的局限性，他们通过自动装置和外星语言努力实现超越。在小说和生活中，我们人类喜欢认为我们可以看到它的到来。

最近，特德·姜一直在思考这个当前的现实：通过为《纽约客》撰写的大火文章（特德·姜：ChatGPT 是网络上的一个模糊的JPEG 文件），他一直在涉足今年的公共讨论，以任何智能手机使用者都能实际处理的术语解释ChatGPT和生成性人工智能。对于一个永远与我们自己的想象力格格不入的物种来说，这位科幻作家已经成为最清晰的声音--这既归功于紧凑的姜氏散文，也归功于2023年技术领域的彻底混乱。

在马克-安德森(Marc Andreessen)发表关于人工智能将如何拯救世界的博客和《黑镜》新一季的发布之间的一些时间，姜和我在Zoom上坐下来，讨论我们当前的科技时刻以及我们用来理解这一切的隐喻。

需要提醒：这场对话经过了浓缩和编辑。

名利场：就文化经典而言，你最早受到的影响是什么？

特德·姜：当我大概11岁的时候，我开始阅读艾萨克-阿西莫夫的科幻小说和他的科普作品。阅读这两种书使我对这两者之间的区别有了非常清晰的认识。当我年轻的时候，比如四年级的时候，我一直非常喜欢关于海蛇、大脚和古代宇航员的书。我没有意识到的是，在这些主题中涉及到事实和虚构的混合，所以当我开始阅读阿西莫夫时，它为我澄清了我兴趣的本质。因为，是的，科学中有很酷的东西，在推测科学时也有非常酷的东西，但在想出你受科学启发的虚构情景时，你应该非常清楚你在任何时候从事的是哪一种。

你在高中时就开始写作并投稿短篇小说。你还记得你寄出的第一篇作品吗？

那是一个以太空为背景的冒险故事，关于一艘被放逐的飞船的救援尝试。我为它做了大量的研究--我记得我查了 "电子正电子碰撞产生的伽马射线的波长是多少（What is the wavelength of gamma radiation from electron positron collisions?）？"

在你的科幻生涯中，就你的故事与奖项的比率和赞誉而言，你的平均成功率是相当传奇的。你知道你在Netflix最新一季的《你》中被提及吗？

我已经知道了。

有没有一个你获得的单一奖项或荣誉让你印象深刻？比如，哪个雨果奖的意义最大？

我不认为我有一个好的答案。它是一长串完全出乎意料的事件。

你对每天汹涌的科技新闻的关注程度如何？我很好奇你是否看了像马克-安德森（Marc Andreessen）关于人工智能的博客文章。

我没有，虽然我想说我对马克-安德森说的东西不是超级感兴趣。一般来说，我不能说我真的以任何系统的方式在关注。但如今，你几乎必须刻意避免听到关于人工智能的消息。

你认为自己是一个早期采用者吗？

对大多数技术来说不是。我觉得作为一个早期采用者需要一个真正的承诺，不断地去适应一个新的用户界面。我对技术的发展很感兴趣，但就我的日常工作而言，我不会去寻找新的软件，除非我遇到了实际问题。我希望我仍然可以使用比我必须使用的更老版本的Word。

你与《纽约客》的关系是如何形成的？你在2016年和2017年为他们写的前几篇文章本身并不是关于科技的。是谁让你做那些人工智能的解释的？

我写的第一件事是关于汉字的那篇（特德·姜：坏汉字，汉字坏）--他们找到我，我完全被吓呆了。你知道，我是科幻小说出身，而在科幻小说界，科幻小说和文学机构之间有一个非常明显的界限。让我感到困惑的是，《纽约客》的人甚至听说过我。

2021年有一篇文章，"为什么计算机不会让自己变得更聪明？"，那是关于我长期以来对围绕奇点和机器智能爆炸的整个论述的一些想法，我对此超级、超级怀疑。今年早些时候，我一直在阅读关于ChatGPT的文章，试图从自己的目的理解它，大约在那个时候，[我的编辑]给我发邮件说，"你对ChatGPT有什么想法吗？" 我想，巧合的是，我有！"！

至于最近的作品，那是在10月份开始的，当时我被邀请在一个关于人工智能的会议上做演讲。我原本打算谈谈为什么我觉得人工智能变得比我们更聪明并接管的威胁是不可信的。但是当我在写的时候，我越来越倾向于我认为真正的问题是什么，所以我做了关于人工智能是资本主义的演讲。在活动中，有几个人建议我把那个演讲作为一篇文章发表。

你觉得以这种新闻形式写作的经验如何？

我不能说我对它超级舒服。当我考虑到我对清晰解释的渴望时，大部分是在试图让那些不知道某件事情如何运作但感兴趣的人理解一个想法的背景下。这是教科书和科普书籍所做的一种事情；有很多解释者。这是写作的一种模式。但是这些文章--它们不仅仅是解释者。它们实际上是在这个词的原始意义上的文章：试图进行论证。这对我来说有点不同。

在最近的一篇文章 "人工智能会成为新的麦肯锡吗？"中，你谈到了我们对有问题的隐喻的依赖，比如把人工智能比作瓶子里的精灵，诸如此类。我一直在想，当谈到我们不理解的技术时，我们也喜欢使用相同的默认流行文化经典--像《终结者》、《黑镜》、《她》等作品。你怎么看手头有这些默认参考资料的局限性？

通过将事物人格化，很容易讲述一个戏剧性的故事。如果你想想目前所谓的 "人工智能"，它更像是一个系统。有一些关于官僚主义和系统对人的影响的故事，但这些故事有点难。它们没有那么直观。

也许近年来关于官僚主义的最大流行叙事是《火线》。这是一部精彩的电视剧，但可能很难说，好吧，人工智能发生的事情就像《火线》第二季，或第四季，其中人物的选择受到限制或他们的努力被系统阻挠。那些只是不容易被总结为《终结者》中的莎拉-康纳。它不像《终结者》那样具有粘性或令人难忘。

你个人会看这些电影和节目吗？比如，你会看新一季的《黑镜》吗？

如果评论很好，是的。

"AI as McKinsey "这篇文章也阐明了你作品中潜在的资本主义批判。你显然对硅谷可以为社会弊病提供神奇的解决方案的想法持有很多怀疑；你在2017年写了这篇BuzzFeed新闻的文章，非常俏皮。在阅读你2000年的短篇小说《七十二封信》时，我倾向于一个工匠和一个试图创造节省劳动力的机器人的发明家之间的对话，其中工匠告诉发明家：

工匠告诉发明家："你对改革的渴望为你赢得了荣誉。然而，让我建议，对于你提到的社会弊病，有更简单的治疗方法：减少工作时间，或改善条件。你不需要打乱我们的整个制造系统。"

在我们被承诺 "节省劳动力 "的人工智能的时刻，这感觉......相关。

有这样一句话："有两种傻瓜。第一种人说，'这是旧的，所以是好的'。第二种人说，'这是新的，因此是更好的'"。我经常思考这个问题。你怎么能公平地评价任何东西的优点，而不认为它仅仅因为是新的就是好？我想这是超级困难的。

历史上可能有一个时期，大多数人都在想，"这是旧的，因此是好的"，他们扛起了这个时代。现在我认为，我们生活在一个人人都说 "这是新的，因此更好 "的时代。我不相信说这话的人一直都是对的，但很难批评他们，并建议也许新的东西并不是更好。

或者是说，对谁来说更好？

是的，因为我们也生活在这样一个时代，有很多人有经济动机来说服我们，一些东西是更好的，因为它是新的。还有一句话，厄普顿-辛克莱尔说，如果一个人的工资取决于他们不理解的东西，那么就很难让他理解这个东西。销售这些产品的公司--为他们工作的人，你知道，他们可能是完全真诚的。这并不完全是恶意的。只是，你知道，他们有一种动机的推理，相信这些东西是好的。

我的最后一个问题是关于你的短篇小说《人类科学的进化》，也是在2000年。我读到这是一个相当乐观的故事，讲述的是一个人类可以与 "超人类 "和平共处、卓有成效的宇宙，"超人类 "是他们所创造的这些超级智能实体。有这样一句话："我们应该永远记住，使超人类成为可能的技术最初是由人类发明的，而他们并不比我们聪明。"

这是个公平的解释吗？这种乐观主义是否适用于你认为我们在现实世界中与人工智能这样的东西有关的位置？

这个故事是针对2000年左右的一个想法而写的，当时人们在谈论奇点，说我们会超越到更大的东西。我主要是在想，为什么每个人都这么肯定他们会成为超越的人？也许超越并不是我们所有人都能得到的，那么生活在一个有这些不可理解的事情发生的世界里，而你却在旁观，会是什么感觉？

但我不认为这实际上适用于我们目前的情况，因为没有超级智能的机器。没有人建造过比人类更聪明的软件。我们所创造的是巨大的控制系统。我们的整个经济就是这样一个引擎，我们无法真正停止。这与说我们创造了比我们更聪明的机器是两回事。 我们已经建立了一个巨大的跑步机，我们无法脱身。 也许吧。

也许有可能，但我们必须认识到，我们都在自己制造的这个跑步机上，然后我们必须同意，我们都想下车。有其他国家与进步的叙述有更健康的关系；有一些国家，他们对工作的态度比我们美国人更健康。但我们已经创建了一个系统，现在它是我们所知道的一切。我们很难想象它之外的生活。而我们只是在建立更多的工具来加强和巩固这个系统。

你围绕我们目前的人工智能状况所做的这些工作，是你为未来的短篇小说所做准备的一部分吗？

不，不。

来源：vanityfair

翻译：deepl