【ITBEAR】
智东西
编译 | Vendii
编辑 | 漠影
智东西10月9日消息，美国著名科技记者Kara Swisher于10月3日，在她的播客节目《On with Kara Swisher》中，发布了她与微软AI的首席执行官Mustafa Suleyman的对话。在这次访谈中，二人探讨了多个关于AI发展的重要议题。
Mustafa Suleyman回顾了他从谷歌到自己创立的AI初创公司Inflection AI，再到最终加入微软的职业生涯。他们讨论了他在谷歌和Inflection AI期间对AI技术的早期探索，以及他选择加入微软的动机。
Suleyman也分享了他在微软的目标，即推动AI技术与微软现有产品的集成，并创造能够与人类建立持久和有意义关系的“AI companion”。
对于AI的未来，Suleyman着重强调了AI语音交互和长期记忆能力的重要性，他认为这些将是AI发展的下一个前沿。他还预测，AI模型的幻觉现象将大幅减少，极大提高AI应用的可靠性和实用性。
Suleyman认为AI作为一种新的数字物种具有巨大的潜力，并预言AI将为人类创造其他技术无法带来的情感体验。
一、从谷歌到Inflection AI，再到微软
Kara Swisher：Mustafa，感谢你参与我们的节目。
Mustafa Suleyman：感谢邀请我来节目。我很高兴能在这里。
Kara Swisher：首先，恭喜你开始了新工作。今年3月，你加入微软并担任微软AI的首席执行官。我们上次交谈是在2023年6月，感觉好像已经过去了很久。当时，你的创业公司Inflection AI刚推出了聊天机器人Pi，那是在你获得13亿美元投资之前的事情。聊聊你转向大科技公司的过程吧，因为Inflection是当时热门的AI初创公司之一。你在DeepMind和其他地方也工作了很多年，也谈谈这方面的感受吧。
Mustafa Suleyman：当时我还在谷歌，大概是在2022年左右。谷歌虽然是非常厉害的科技公司，但在大语言模型革命中似乎有些挣扎，难以真正起步。
Kara Swisher：而且谷歌在投资方面也很早就行动了。
Mustafa Suleyman：是的，确实非常早。我当时在内部参与了Lambda的工作，这是Bard的前身，而Bard现在演变成了Gemini。我们当时真的在努力把这项技术部署到搜索中。然而，公司内部的推进相当谨慎，小心翼翼，对我们中的一些人来说可能有点过于保守了。我们都觉得，现在是时候将这些技术投入生产，获取反馈，并进行实验了。
Kara Swisher：为什么这么谨慎？是出于安全考虑，还是官僚体制的问题？
Mustafa Suleyman：我对这种谨慎态度很钦佩，因为你无法预见你不知道的事。我认为这些模型非常强大，它们与我们过去构建的软件本质上是不同的。因此，当它们与现实接触时，你根本无法预见会发生什么。没错，率先行动是一个大胆的决定。最终，OpenAI率先迈出了这一步，随后事情的发展大家也都知道了，其他公司也陆续赶上了。
Kara Swisher：当你在谷歌这样一个全球历史上最大的科技公司之一工作时，他们的行动比较缓慢，而你看到了像OpenAI这样的公司在你已经从事了十年的领域快速前进。当时你在考虑离开时，是如何权衡利弊的？毕竟，你从初创公司起步，后来被收购，身处一个强大的职位，然后又决定离开。
Mustafa Suleyman：我觉得，迭代和创新的周期变得越来越短了。当时有一个机会，我们觉得如果我们能够率先推出Inflection，那么Pi就有可能成为第一大对话式AI。结果是我们在ChatGPT之后才推出，而ChatGPT显然迅速爆发，成为历史上增长最快的产品。所以，在这个市场和行业中，排在第三或第四的位置是非常难以竞争的。在我们运营Inflection的两年间，我意识到，我们必须要在这些领域率先推出产品。
Kara Swisher：但是你当时拥有自己的公司，而且听起来你也喜欢独立运作，然后突然你成了微软的员工。
Mustafa Suleyman：嗯，我们在Inflection犯的错误是我们自己构建了预训练模型。当我们首次推出时，之所以能够筹集这么多资金，部分原因是我们构建了一个可以媲美DeepMind、OpenAI和微软最前沿技术的模型。但在我们构建这个模型的8个月内，多个团队完全开源了类似的技术。这实际上削弱了我们的核心竞争力。我没有预料到这些技术会这么大规模地开源。我原以为这些技术如此有价值，为什么要开源呢？结果发现，围绕开源技术有一个完整的生态系统。
Kara Swisher：那你后来是怎么做的？为什么选择了微软？
二、如何看待OpenAI：竞争对手还是兄弟姐妹？
Kara Swisher：你们的目标是微软，但微软也在OpenAI中进行了大规模投资，很多人称这是一个非常明智的举措。你怎么看待这段关系？
Mustafa Suleyman：是的，我认为这项对OpenAI的投资将被视为历史上最伟大的投资之一。当然，Facebook的投资也相当不错。
Kara Swisher：我当时还取笑过这件事，现在我看起来像个傻瓜了，但请继续说。
Mustafa Suleyman：回头看这真是一件很好的事。我觉得这项投资很聪明，而且这也是一个勇敢的决定。我是说，2019年投入10亿美元在一种技术上，而当时这项技术离实际应用还非常遥远，基本上是纯研究，因此这实际上是一种交易——因为他们无法收购DeepMind，所以不得不押注于其他项目，我认为这最终非常成功。
Kara Swisher：那么，你们之间的关系是什么？你们是竞争对手吗？
Mustafa Suleyman：不不不。我们是兄弟姐妹。有时兄弟姐妹之间会争吵，但大体上我们是在同一队伍中，这对我们来说非常重要。我们从研究到核心基础设施等各方面都与他们紧密合作。显然，我们也会开发竞争产品。我认为这是健康且自然的，我们之间的关系很好。
Kara Swisher：他们与苹果也有合作关系，例如通过某些合作项目，你们也能做到这一点，因为微软向苹果提供软件等服务。
Mustafa Suleyman：是的，我想人们不知道的一点是，所有公司实际上与其他公司都有深厚的合作关系。相信与否，我们与亚马逊之间的关系非常密切，在很多方面都是如此。所以，各家公司之间有很多联系，这是很正常的。
三、在微软的新目标：AI集成everything，打造AI companion
Kara Swisher：那么，你的职责和目标是什么？你们有Bing搜索引擎、Copilot和聊天机器人应用，还有什么呢？
Mustafa Suleyman：还有MSN，以及Edge浏览器，还有我们的核心AI科学部门。
Kara Swisher：所以你们将在所有产品中都集成AI。
Mustafa Suleyman：没错，这正是我们的目标。我们希望建立一个专门集成AI的工作室。我们可能会把AI集成在浏览器上，搜索引擎上，还有MSN上。现在，我们有消费级AI产品Copilot，旨在打造一个真正对话流畅的AI伴侣。
Kara Swisher：在很多方面，它实际上就是一个搜索引擎。
Mustafa Suleyman：你可以把它看作是一个搜索引擎，但我认为它将超越搜索引擎的发展。这将成为一种持久而有意义的关系。人们将拥有一个真正的朋友，随着时间的推移，这个朋友会了解你、向你学习，并在你身边支持你。
Kara Swisher：是的，朋友这个词在这里有很多含义。但Satya所用的词是“agentic”，我想。
Mustafa Suleyman：对，“agentic”。
Kara Swisher：无论如何，你们在微软发明新词了。这是什么意思，“agentic”？这是自动化的代理吗？和聊天机器人如Pi之类的有什么不同？
Mustafa Suleyman：我觉得这个词有点太理想了，可能只是像朋友一样。
Kara Swisher：是的。
Mustafa Suleyman：“agentic”这个词确实说起来很顺口，但它其实有点别扭，不是吗？看，这是我的“agentic”。人们可能会觉得……这个词是谁用的？我认识的人用过吗？
Kara Swisher：“agentic”？你们微软的首席执行官Satya用过。
Mustafa Suleyman：哦，好的。
Kara Swisher：他还在社交媒体上提到过，随处可见。
Mustafa Suleyman：你知道，我更喜欢用“companion”这个词。这个词也带有理想色彩。我们还没有完全达到那个阶段。但它基本上传达了这样一个概念：这些AI将真正与你一起生活。它不只是一个工具。每个人将和AI产生一种持久而有意义的关系。它将成为你的老师，成为你的医疗顾问，成为你的支持网络。最终，它会代表你采取行动。
Kara Swisher：“copilot”可能是更好的词。这是你们在微软使用的词。而且这很有趣，因为现在它的表现形式开始显现，我在前段时间刚结束的苹果发布会上觉察到了这一情况。大部分情况下，这在某种程度上是令人烦恼的，比如谷歌的AI，它会重写你的电子邮件。当你开始写一封电子邮件时，它们会说，“我可以帮你吗”。而我的电子邮件完全就是一些“是的”、“不”、“好的”之类的简单词汇。然后它们会说，“我可以为你重写吗？”我会说“不，你不能”。这反而让我多了几个操作。所以现在看起来并没有特别有帮助。不过，很多人确实在用它来进行摘要、记笔记、想点子等等。所以有两个说法，一种是工作助手，而你说的是伴侣和朋友。除了微软，我们也可以谈谈其他公司。我想知道，企业和消费者的需求是如何联系在一起的，它们的分歧在哪里？这种分歧是否会导致某些产品被淘汰？毕竟，最终的趋势似乎是将一切整合到一个统一的系统中，对吗？
Mustafa Suleyman：我觉得不一定是这样，对吧？而且也不清楚……
四、AI语音、AI长期记忆能力将是未来发展重点
Mustafa Suleyman：我认为，未来将越来越倾向于以语音为主的模式。因为，我们一直在努力实现高质量的转录和语音生成。但这个过程非常缓慢，持续了十年。
Kara Swisher：是啊，进展缓慢。
Mustafa Suleyman：这一直让人感到烦恼，正如你所说的那样，令人恼火。现在有点好转，已经快达到那个目标了。我认为在过去的一年里，情况有了转机。现在你真的可以和这个东西进行流畅的对话，你可以打断它，它的转录准确性非常高。我认为这开启了一种不同的思维方式，你可以让一项技术做一些事情，而不是打字。
Kara Swisher：这在科幻小说中早已存在，对吧？如果你看过任何《复仇者联盟》的电影，当他和Jarvis对话时，那就是你期望中的关系类型。但对于大多数普通消费者来说，体验往往不是这样，就感觉Siri是你遇到过的最笨的朋友。我确实这么说过，而且这是真的。Alexa也不太聪明。
Mustafa Suleyman：没错，你说得对，完全正确。这些技术和我们这些技术人员的问题在于，我们往往过于激动，夸大了技术的现状，好像它们已经达到我们所期待的水平了。我记得看过一个索尼随身听的广告，看到一个人滑着轮滑，戴着耳机。当我拿到了我的随身听后，想着自己也可以那样走在街上，但结果就是每几秒钟它就会跳针。
Kara Swisher：是的，确实如此。
Mustafa Suleyman：我们总是倾向于夸大技术的能力，而且每次都会觉得这次将与众不同。比如现在的语音AI，现在你可以和它进行任何主题的流利自然语言对话，这确实是一件有深远影响的事情。你可以随便选择一个话题，除非是你的专业领域，否则它的表现都会很好。
Mustafa Suleyman：我认为明年我们将大幅减少模型的幻觉现象。它们会被降低到一个可以真正用于日常实际应用的水平。你会依赖它，它会提供相当不错的信息。对的，它将逐渐取代传统的“10个蓝色链接”搜索结果格式。我认为未来它将具备记忆功能。这是当前缺失的一环，也正因为如此，你可能暂时不愿长期依赖它。因为很让人沮丧的是，它会忘记你告诉过它的事情，比如你昨天晚上去吃了晚餐，或者你在哪个学校读的本科。
Kara Swisher：所以这是个糟糕的助手。
Mustafa Suleyman：是的，有点无趣，对吧？所以你不会真的全心全意地投入。想象一下，当它真的记住你说过的所有事情，并且能够准确地从你们的对话历史中检索信息时，那一刻会是什么样的。
Kara Swisher：那这个会在什么时间实现？
Mustafa Suleyman：我认为距离达到一个可行的水平大概还有18个月。
Kara Swisher：哪家公司在这个过程中至关重要？我猜是苹果公司吧，因为人们会在苹果设备上有这样的体验，对吗？
Kara Swisher：我与Tim Cook讨论过。这是否意味着，应用程序会消失。你将与Uber建立关系，但不是以同样的方式，因为不断打开应用程序是一种有损耗的操作。“我在打开我的优步应用，我在打开我的搜索应用”，像这种情况会消失。
Mustafa Suleyman：我认为它们不会消失。我认为你的AI会学会使用这些应用。
Kara Swisher：这就是我的意思。你再也不会触碰它们了。
Mustafa Suleyman：对的，对的。首先，点击某个东西的效率非常高，比如我认为在Uber上叫一辆车大概需要5次点击。这很难超越。所以要真正超越这一点还需要几年。但如果你放眼未来，是的，你的AI很可能会学会在浏览器中点击按钮，在文本输入框中输入文本，当然也会阅读页面，理解页面上的图像和所有文本。这将是一个非常不同的模式。我认为其中一个很快会实现的是“copilot”的视觉理解。它会真正看到你所看到的东西。你将能够拥有一个真正和你一起浏览界面的伙伴。
Kara Swisher：看到你在物理世界中看到的东西？
Mustafa Suleyman：起初是数字世界中的。但很快，将会有视觉意识，无论是通过耳机还是眼镜。
Kara Swisher：是的，有摄像头的耳机。
Mustafa Suleyman：我认为这将是一个新模式。你见过新推出的Snapchat眼镜。我认为它们很酷。
Kara Swisher：它们相当大。
Mustafa Suleyman：它们有点笨重。
Kara Swisher：笨重。是的，这是个不错的形容词。
Mustafa Suleyman：理想情况是，它们会变得更轻巧，比如说带摄像头的AirPods。它们不会有精准的人物识别，但它们会有空间意识，它们会知道你在户外、你正在接近一辆车，或者附近有其他三个人等等。
五、未来模型幻觉将基本消失
Kara Swisher：你工作中的一个有趣之处是与OpenAI的关系。你和Sam Altman常常被视为对手，但你最近称赞了他。谈谈你们的关系是什么样的？因为《华尔街日报》报道说你们正在微软内部建立一个“内部的OpenAI竞争者”。 谈谈微软为什么要再复刻它在OpenAI有的资源。策略是什么？
Mustafa Suleyman：你看，这不是关于复刻。我认为更多的是对微软来说有一个真正理解公司技术的合作伙伴。因为为了真正有效地使用这项新技术，需要一定水平的科学技术，而这只能通过经验来获得。所以我们非常看重他们，视其为合作伙伴，而非竞争对手。我对他们所做的事情非常尊重。
Kara Swisher：他们刚刚发布了一个新的推理模型，叫做o1 preview或Strawberry。你能否解释一下它和其他模型之间的区别？它似乎具有一种独特的能力，会“撒谎”，也就是假装遵循规则，这听起来问题有点大，甚至比幻觉更糟。你并不想要一个会“撒谎”的朋友。谈谈这个吧。
Mustafa Suleyman：你知道，它特别擅长的是，在面对复杂的推理挑战时，它能够批判自己的答案并进行迭代，以找到正确的答案，然后再给你最终答案。这也是为什么它目前有点慢，它需要大约10到30秒才能给出答案。实际上这很有用，因为它会在给出最终输出之前获取反馈并进行校准和迭代。事实证明，这非常有价值。我们人类其实都是这样做的。我们在脑海中反复思考，试图在给出冲动回答之前推理出一个问题。现在这些模型一旦给出冲动答案，它们只是给出第一个冒出来的答案，对吧？
Kara Swisher：对，你刚才说过，幻觉会消失，它们会低于某个阈值，使AI变得更实用，对吧？
Mustafa Suleyman：对，现在如果你使用最好的模型，它们已经相当不错，但它们仍然会出现一些基本错误。我认为那些基本错误会减少到一个可以接受的水平。
Kara Swisher：而且那些垂直领域的模型将会在非常清晰准确的数据集上进行训练，对吧？
Mustafa Suleyman：对，尤其是如果你想将它们集中在某个专业领域，比如法律领域、财务会计、深入了解你公司的知识，或者医学领域，确实是这样。
Kara Swisher：对，而且必须如此。它不能在这个过程中“撒谎”或出现幻觉。
Mustafa Suleyman：在医疗领域，不能“撒谎”，绝对不行。
六、对竞争对手们的看法：xAI、DeepMind、亚马逊、meta
Kara Swisher：说到竞争，来谈谈Elon Musk吧。《Semaphore》的记者Reed Alberghetti最近宣布，Elon在AI竞赛中领先。Elon在孟菲斯为xAI建了一个数据中心，显然打破了不少规则。他说大约10万个H100 GPU已经在运行，还有另外10万美元的设备。他是在竞争“谁更厉害”。就在一年前，Flexion AI声称它建立了世界上最大的GPU集群，拥有22000个GPU。你能谈谈“谁更厉害”这个问题吗？如果我必须问的话。
Mustafa Suleyman：我的天哪。
Mustafa Suleyman：天哪，我是说，Elon是个挺厉害的人，我能说什么呢？这是一个很大的GPU集群。我认为其他人训练的规模大致相当。所以从零开始，到现在拥有一个能与微软、OpenAI和谷歌等公司竞争的GPU集群，确实很了不起。你相信他说的是真的吗？我不知道。我真的不知道。如果他在这么短的时间内做到了，那将非常令人印象深刻。我觉得这不太可能，但我真的不知道。
Mustafa Suleyman：是的，是的。还有人形机器人……我想，我们需要那种愿景。我喜欢它。
Kara Swisher：五年前他告诉我他要去火星，我希望他能去。祝他好运。不过，话又说回来，谈谈这种竞争。从你的角度来看，谁是主要竞争者？
Mustafa Suleyman：我认为DeepMind是世界上领先的实验室之一，和OpenAI并驾齐驱。毫无疑问，他们是一个卓越的团队。现在拥有惊人的资源，TPU芯片非常出色。
Kara Swisher：亚马逊和meta呢？
Mustafa Suleyman：我会说，亚马逊在他们的新芯片Tranium方面表现不错，这个芯片看起来相当便宜，表现也很好，最近用于训练Claude的AI，所以他们的表现真的很出色。而meta，我认为在AI领域是黑马，对吧？
Kara Swisher：很多人这样认为。
Mustafa Suleyman：是的，他们成功地转型过来，成为了一家以AI为主的公司。
Kara Swisher：等等，你是说元宇宙不是未来的发展方向吗？
Mustafa Suleyman：似乎不是。谁会想到呢？我不知道。我是这样想的。你也是吗？
Kara Swisher：是的，我是。我觉得这真是太荒谬了。我一直在想，他们只是不想某一天会死。这就是他们想在数字世界中复制自己的原因。但无论如何，你怎么看待他们的……
Mustafa Suleyman：他们是开源的，对吧？看到他们以这种方式运作其实挺有趣的，因为他们一直在落后。我觉得他们的理念是，“来吧，试着团结起来”。我认为这对他们来说会很成功，因为这样他们就能拥有大量开源开发者在他们的基础设施上进行开发。
七、未来将努力发展可再生能源
Kara Swisher：对了，你对“芯片是新的石油或黄金”这一观点表示反对，而大多数人现在都这样认为。昨天微软和贝莱德宣布他们计划建立一个300亿美元的基金，来开发用于AI的数据中心和发电厂。微软预测今年将在资本支出上花费500亿美元用于数据中心。之前就已经很高了，但这还是令人震惊。这确实感觉像是一场淘金热。《卫报》刚刚发布了一项分析，指出官方数据与实际排放之间存在显著差距。例如，微软内部数据中心的排放量至少比公司报告的高出21倍。你知道，这可能会造成气候灾难。现在，包括Sam Altman在内的许多人都在努力寻找其他可替代的能源。核裂变专家Larry Ellison最近也讨论了建立核电站的事。那么，让我们来谈谈这个问题。
Mustafa Suleyman：我确实认为指出这一点很重要，微软正在朝着完全可再生能源的方向发展。对，他们承诺……
Kara Swisher：碳中和。对吧？
Mustafa Suleyman：对，实际上，它将在未来几年内实现碳中和，甚至实现净负排放。我每周参加一些会议，看到微软在全面可再生能源上进行了大量投资。所以我认为这个承诺是有效的。
Kara Swisher：所以你们都必须进入能源行业或可再生能源行业。
Mustafa Suleyman：在某种程度上，公司的确已经在基础设施行业。这涉及到购买大量土地，建造巨大的数据中心。
Kara Swisher：谷歌也做了类似的事情，涉及热能以及各种项目。我记得曾有很多奇怪的计划，但在服务器农场的能源方面也有一些非常聪明的方案，对吧？有没有一种能源是你们更关注的？
Mustafa Suleyman：我认为核聚变还有一段距离。微软确实在核聚变领域有多项投资。但我认为在很长一段时间内，我们将使用水能和太阳能。核能可能会有一些。
Kara Swisher：你知道，有个叫比尔·盖茨的人告诉我，可再生能源是不够的。在一次采访中，他谈到了这个想法。他是个坚定的核能支持者。
Mustafa Suleyman：我认为太阳能在过去十年里成本已经呈指数下降。当成本降低时，技术自然会在市场上普及。
Kara Swisher：政府在这里需要做些什么来推动这一进程？
Mustafa Suleyman：对中国征收关税不会带来好处。现实情况是，中国以极具竞争力的价格生产了全球大多数的太阳能光伏电池。我们不应考虑对这些产品征收关税，因为我们希望它们能够在全球范围内得到广泛应用。
Kara Swisher：是的，我有些消息要告诉你。一个候选人想对所有东西征收关税。
Mustafa Suleyman：太疯狂了。
Kara Swisher：你认为这会阻碍经济增长吗？
Mustafa Suleyman：我毫不怀疑。这没有任何意义。
Mustafa Suleyman：我认为，他们已经做出了重大承诺。石油公司已经做出了转型的重要承诺，他们需要对我们和其他所有人负责。我们是他们未来的利益相关者。我希望看到他们能更快地推进，当然。他们应该像我们一样，承诺100%使用可再生能源。
八、支持政府对AI发展的干涉
Kara Swisher：好了，还有几个问题。联邦贸易委员会已经启动了一项反垄断调查。政府在进行很多调查，不只是微软。谷歌刚刚输了官司。显然，还有另一场官司正在进行。不过关于这笔交易，让我看看我是否理解正确。你和Inflection的联合创始人Karen Simonyan，Inflection的首席科学家，两人都去了微软。你们Inflection的70名员工中有60人和你们一起离开。微软向Inflection支付了6.5亿美元作为技术许可的一部分。微软声称这不是收购，而我的合作伙伴Scott Gallery则认为这是收购。联邦贸易委员会正在调查。谈谈这个问题吧。这难道不是收购吗？
Mustafa Suleyman：我之前提到过，我们到了一个阶段，这时我们无法赢得消费者市场的竞争。对，但公司方面，Reid Hoffman，我们的第三位联合创始人，他仍然在运营 Inflection，主要面向B2B市场。他们现在正在使用其他开源的预训练模型，对它们进行微调，以满足很多其他企业的需求。我不是 B2B 类型的人，我不想做这个，这就是为什么我们接受微软的提议。我还想补充的是，英国的监管机构 CMA 和欧洲的监管机构都审过了这个案例，并且不会进一步追踪。
Mustafa Suleyman：我觉得他们的进展稍微慢一些，但欧洲和英国的监管机构已经得出了这样的结论。
Kara Swisher：所以其他公司也在这样做……？Character AI 与谷歌合作，Adept AI 与亚马逊达成协议，这些都没有获得 FTC 的批准。权力的整合正在发生，这是我第一次看到监管机构，包括一些保守派人士的参与。你觉得政府关注这个问题是好事吗？我觉得很好。
Mustafa Suleyman：我认为这非常好。我一直认为我们需要一批对技术有深刻理解的监管者，他们与公司保持密切联系，真正了解我们的运营方式，以便让我们所有人承担责任。我们需要这种健康的对话和反馈，我总是欢迎这种对话。每当我出差时，我总会腾出时间去见监管者和政治家。
Kara Swisher：你觉得全球范围内的政府对这些问题的关注更加强烈了吗？因为他们确实错过了互联网的第一轮，没有对其进行任何监管。你感受到政府的态度发生了变化吗？比如在法国逮捕了Pavel Durov。虽然这些事情不尽相同，但它们都是政府对科技持激进立场的表现。
Mustafa Suleyman：我认为我们必须承认，政府有时会犯错，监管者也会出错。这并不意味着他们应该放慢脚步。我们也应该对他们宽容，就像我们对公司和其他任何组织宽容一样。因为我们需要的是监管者能够进行更多的快速实践，而不是要求他们每次都必须完全正确。那只会导致停滞不前，最终他们处理这些案件的速度会慢太多。欧洲的许多监管案件，像税务问题或垄断市场问题，往往要花费十年时间。这些问题非常复杂，因此确实需要时间，但同时我们也希望他们能迅速行动。现在是一个技术快速变化的时刻，我们希望大家都参与这个过程。
Kara Swisher：所以你欢迎各州的参与吗？比如加州的行动非常激进，Gavin Newsom刚刚签署了一系列法案。
Mustafa Suleyman：我认为几年前签署的隐私法案中有很多合理的条款。我认为各州也应该发挥同样的作用，积极参与，服务公众利益。
Kara Swisher：最后，我想聊一下未来的AI。你曾倡导提升透明度，支持由独立的第三方团队对AI进行伦理审查，这是一个非常好的建议。通过这种方式可以防止AI进行递归式的自我改进，确保它们不会从自身的行为中学习，从而避免潜在的风险。你认为这些都是必不可少的吗？为了确保我们不在这场变革的浪潮中迷失方向，在短期内你认为最重要的事情是什么？你觉得应该做什么？在短期内政府和公司最重要的任务是什么？
Mustafa Suleyman：目前英国AI安全研究所已经开始派人到公司内部，跟踪大模型的规模、能力以及发展路线图。是的，这些人在公司内部工作，所以这四五家大公司与安全研究所之间有着大量的详细互动。这个研究所也得到了拜登政府的支持，去年在白宫的大型会议上有过背书。所以，我认为这正在朝着正确的方向发展。这是在没有任何实质性危害发生之前就已经进行的前所未有的审查和合作，大家都在汲取Web 2.0、烟草游说团体和石油行业的教训。我认为大家都有诚意想要做对的事情。当然，这并不意味着我们不会犯错，但我确实觉得这次的情况有所不同。政府的反应更为积极主动，尽管现在很多事情尚未完全良好地运转。我们已经看到AI在此次选举中产生了影响，虽然有时会以一种奇怪的方式出现。
九、AI将为人类创造其他技术无法带来的情感体验
Kara Swisher：泰勒·斯威夫特在特朗普发布一张AI生成的她支持他的图片后，发文支持副总统卡玛拉·哈里斯。你怎么看待这个事情？因为她特意指出了这一点。很多人现在谈论的都是AI对选举带来的负面影响。不过现在看起来，可能没有人们最初担心的那么严重。作为一名公民，同时也作为一名技术开发者，你在这方面最大的担忧是什么？
Kara Swisher：你觉得这些生成技术最可怕的场景是什么？最好的场景又是什么？
Mustafa Suleyman：最可怕的场景是事情发展得太快，超出我们的掌控。有时候，后果需要一段时间才能显现，我们才能真正观察到。如果你看看我们的车辆监管体系，花了80年或100年才建立起一个稳固的体系，从驾驶员培训、安全带、气囊到街道照明和车辆排放标准。但乐观的一面是，每个人都会拥有一个不可思议的个性化导师在口袋里。
Kara Swisher：我知道你对科技的乐观多过悲观。你在四月曾说，AI可以被视为一种新的数字物种。从你的角度看，如果这个数字物种代表了我们最好的一面，而不是最坏的，那会是什么样子？
Mustafa Suleyman：它将拥有自主性、创造力和记忆力。这样，我们就能探讨它的潜在弱点和优势。这些模型不必受到我们人类局限性的约束。它们不会感到内疚，也不会有羞耻感，除非我们在编程时赋予它们这些情感；它们不会有自我意识或焦虑感。当然，有些人可能会选择将这些特质编程进去。一旦我们克服了它们的某些弱点，比如记忆力和幻觉，它们确实有可能成为人类最好一面的代表。我认为我们面临的挑战是，作为“性格工程师”， 这个新领域让我们有机会赋予这些情感智能AI善良、同情和敏感性。这是一个全新的工程实验，而我们现在才刚刚开始。我觉得这是一个了不起的愿景：如果我们能创造出充满爱与善良的AI代理人或助手，那将是对人类社会的伟大贡献。
Kara Swisher：好的，那我的最后一个问题是，如果真是这样，”性格工程师”他们自己似乎并不如此充满爱与善良。
Mustafa Suleyman：完全同意，是的，他们并不这样。硅谷几十年来一直有这个问题，技术人员往往是些书呆子型的白人男性，他们创造的技术带有他们自己的盲点，因为他们是在为自己解决问题。现在，我们正要改变这种局面，因为这些技术现在可以被任何人编程，并且开始进入情感智能的领域，而不仅仅是功能性技术。以前，软件的重点是更高效地做事，比如完成支付、连接市场中的人。而现在，我们在创造体验，情感体验，这些是持久的、有意义的关系。所以，这是一个重新决定谁能参与这些技术的时刻。
Kara Swisher：好的。嗯，原谅我不能全然相信你的话。Mustafa Suleyman，谢谢你，感谢大家的收听。
