微软的交易不是排他性的,视频即将到来,更多来自 OpenAI 首席执行官山姆奥特曼

OpenAI联合创始人兼首席执行官 Sam Altman 上周晚些时候坐下来接受了这位编辑的广泛采访,回答了有关他最雄心勃勃的一些个人投资以及 OpenAI 未来的问题。

有很多东西要讨论。自发布 ChatGPT(一种像真人一样回答问题的聊天机器人)以来的两个月里,这家成立 8 年的公司主导了全国对话。 OpenAI 的产品不仅让用户大吃一惊;据报道,该公司正在谈判监督以 290 亿美元的估值向新投资者出售现有股票,尽管其收入相对名义上

奥特曼拒绝谈论公司目前的业务往来,在我们坐下时被问及相关问题时发出了一些警告。

不过,他确实透露了一些公司未来的计划。一方面,除了 ChatGPT 和该机构流行的数字艺术生成器 DALL-E 之外,Altman 还确认视频模型也即将推出,尽管他说他“不想对何时做出有效的预测,”补充道那“可能很快;这是一个合法的研究项目。这可能需要一段时间。”

Altman 明确表示,OpenAI 与微软不断发展的合作伙伴关系——微软于 2019 年首次投资 OpenA,并于今天早些时候确认计划将 ChatGPT 等人工智能工具整合到其所有产品中——并非独家协议。

此外,Altman 证实 OpenAI 除了将其技术授权给其他公司外,还可以构建自己的软件产品和服务。业界观察家们想知道 OpenAI 是否有朝一日会通过自己的搜索引擎与谷歌直接竞争,这一点值得注意。 (当被问及这种情况时,奥特曼说:“每当有人谈论一项技术是其他大公司的终结时,这通常是错误的。人们忘记了他们可以在这里采取反击行动,而且他们非常聪明,非常有能力。 ”)

至于 OpenAI 计划何时发布第四版 GPT,即 ChatGPT 所基于的复杂语言模型,Altman 只会说这个备受期待的产品将“在我们有信心 [release] 的某个时候推出”以安全和负责任的方式进行。”他还试图缓和对 GPT-4 的期望,称“我们没有真正的 AGI”,意思是人工通用智能,或具有自身涌现智能的技术,与 OpenAI 目前解决问题和识别模式的深度学习模型相比通过反复试验。

他说:“我认为 [AGI] 是对我们的期望”,而 GPT-4 将“让”有这种期望的人“失望”。

与此同时,被问及 Altman 预计何时会出现通用人工智能时,他认为它比人们想象的更接近,而且向“AGI”的转变不会像某些人预期的那样突然。 “我们越接近 [AGI],我就越难回答,因为我认为它会比人们想象的更加模糊和渐进过渡,”他说。

自然地,在我们总结之前,我们花时间讨论了安全问题,包括社会是否为 OpenAI 已经向世界发布的技术设置了足够的防护栏。许多批评者认为我们没有,包括忧心忡忡的教育工作者,他们越来越多地阻止访问 ChatGPT,因为担心学生会用它来作弊。 (值得注意的是,据报道,谷歌一直不愿发布自己的人工智能聊天机器人 LaMDA,原因是担心其“ 声誉风险”。)

Altman 在这里说,OpenAI 确实有“一个内部流程,我们试图打破事物并研究影响。我们使用外部审计师。我们有外部红队。我们与其他实验室合作,并让安全组织检查相关内容。”

他说,与此同时,这项技术来自 OpenAI 和其他地方,人们需要开始弄清楚如何使用它,他建议道。 “ChatGPT 将要或正在引起社会变革。现在正在进行的一件大事是关于它对教育和学术诚信的影响,所有这些。”不过,他认为,“现在开始这些 [产品发布] [有意义],因为风险仍然相对较低,而不是仅仅推出几年后整个行业将拥有的产品,而没有时间让社会进行更新。”

事实上,教育工作者——也许还有父母——应该明白,没有把精灵放回瓶子里。虽然 Altman 表示 OpenAI 和其他 AI 机构“将试验”水印技术和其他验证技术,以帮助评估学生是否试图将 AI 生成的副本据为己有,但他也暗示过分关注这种特殊情况是徒劳的。

“我们可能有一些方法可以帮助教师更有可能检测到类似 GPT 系统的输出,但老实说,一个有决心的人会绕过他们,我认为社会无法做到这一点还是应该长期依赖。”

他补充说,这不会是人们第一次成功适应重大转变。观察到计算器“改变了我们在数学课上测试的内容”,而谷歌让记忆事实的需求变得不那么重要,奥特曼说,深度学习模型代表了这两种发展的“更极端的版本”。但他认为“好处也更加极端。我们听到老师们对这对家庭作业的影响感到非常紧张,这是可以理解的。我们也听到很多老师说,‘哇,这对每个孩子来说都是一位令人难以置信的私人导师。’”

关于 OpenAI 和 Altman 对 AI 商品化、法规的不断演变的观点的完整对话,以及为什么 AI 正朝着五到七年前许多人想象的“完全相反的方向”发展,值得查看下面的剪辑。

当谈到 AI 的前景和风险时,您还会听到 Altman 解决最好和最坏的情况。短版? “好的案例是如此的好,以至于你听起来像一个真正疯狂的人开始谈论它,”他说。 “而糟糕的情况——我认为这很重要——就像我们所有人都熄灯一样。”

Tags:
分享到:

最新文章