最先进的封闭模型将继续以显著优势胜过最先进的开放模型

最先进的封闭模型将继续以显著优势胜过最先进的开放模型

当今人工智能讨论中的一个重要话题是围绕开源和闭源人工智能模型的辩论。虽然大多数尖端人工智能模型开发者——如OpenAI、Google DeepMind、Anthropic、Cohere等——保留其最先进的模型的专有权,但包括Meta和备受关注的新创企业Mistral在内的少数公司选择公开其最先进的模型权重。

如今,性能最优秀的基础模型(例如OpenAI的GPT-4)是闭源的。但许多开源倡导者认为,闭源和开源模型之间的性能差距正在缩小,开源模型有望在性能上超越闭源模型,也许在明年之前。(最近这张图表广为流传。)

我们不同意。我们预测,最好的封闭模型将在2024年(以及以后)继续显著优于最好的开放模型。

基于基础模型性能的最新技术是一个快速发展的前沿。Mistral最近宣称将在2024年某个时候开源一个GPT-4级别的模型,这一说法在开源社区引起了激动。但OpenAI在2023年初就发布了GPT-4。等Mistral推出这个新模型时,很可能已经落后了一年以上。届时,OpenAI很可能已经发布了GPT-4.5甚至GPT-5,开创了全新的性能前沿。(有传言称GPT-4.5甚至可能在2023年年底之前发布。)

在许多其他领域一样,跟随者在另一组人定义了前沿之后追赶前沿要比在任何人展示可能之前建立新的前沿更容易实现。例如,OpenAI在此前未有人展示这种规模下的专家混合架构可行之前构建GPT-4是相当冒险、具有挑战性和昂贵的,而Mistral在几个月后跟随OpenAI的步伐使用自己的专家混合模型要容易得多。

有一个基本的结构性原因让人怀疑开放模型在2024年会超越封闭模型的性能。开发一个推动技术前沿的新模型所需的投资是巨大的,并且随着模型能力的每一次跨越式增长,这种投资只会不断膨胀。一些行业观察者估计OpenAI将花费大约20亿美元来开发GPT-5。

Meta是一家上市公司,最终要对股东负责。该公司似乎并不指望从其开源模型发布中获得直接收入。据报道,Llama 2的建造成本约为2000万美元;即使没有任何相关的收入增长,这种投资水平也可能是合理的,考虑到战略利益。但Meta真的会投入近20亿美元来建立一个超越现有任何其他模型的人工智能模型,然后开源它,而不指望有任何具体的投资回报吗?

像Mistral这样的新兴公司面临着类似的困境。开源基金会模式没有明确的收入模式(正如Stability AI已经吃过苦头)。例如,为托管开源模型收费最终会变成价格战,就像我们最近在Mistral的新Mixtral模型中看到的那样。因此,即使Mistral有数十亿美元来构建一个超越OpenAI的新模型,它真的会选择把该模型免费提供吗?

我们隐约感觉到,随着像Mistral这样的公司投入越来越多的资金来构建更强大的人工智能模型,他们可能会放松对开源的立场,将他们最先进的模型保留为专有,以便收费。

要明确一点:这并不是反对开源人工智能的优点的论点。这也不是说开源人工智能在未来的人工智能世界中不重要。相反,我们预计开源模型将在未来几年中在人工智能的普及中发挥关键作用。然而:我们预测,最先进的人工智能系统,那些推动人工智能可能性边界的系统,将继续是专有的。

原创文章,作者:校长,如若转载,请注明出处:https://www.yundongfang.com/Yun271941.html

(0)
打赏 微信扫一扫不于多少! 微信扫一扫不于多少! 支付宝扫一扫礼轻情意重 支付宝扫一扫礼轻情意重
上一篇 2023年12月30日
下一篇 2023年12月30日

相关推荐

  • 这就是为什么大多数人还没有进入人工智能的原因

    人工智能是一个加载的术语。对一些人来说,它象征着未来的道路;对其他人来说,这是一种颠覆性的技术,可以让他们摆脱工作。尽管仍处于早期阶段,但大型科技公司正在对聊天机器人和虚拟助手等支…

    工具软件 2024年6月16日
  • AI 将在 Nothing Phone 3 中无处不在!

    在最近的一段视频帖子中,Nothing 首席执行官 Carl Pei 在 X(前身为 Twitter)上谈论了该公司为我们准备的一些重大新闻和发展。 在智能手机业务中,Nothin…

    工具软件 2024年6月16日
  • Google Gemini 登陆 Opera,以下是使用方法

    像Microsoft和谷歌这样的大型科技公司正在全力以赴地整合各自的人工智能模型。根据最近的发展,Opera 的 Aria AI 现在可以访问 Google Cloud 的 Gem…

    谷歌Google 2024年5月30日
  • 谷歌正在测试人工智能概述中的广告

    在最近的一篇博客中,谷歌证实,它正在测试在人工智能生成的查询结果中投放广告的方式。 “在早期测试中,我们听说人们发现广告在人工智能生成的概述上方和下方消失很有帮助。很快,我们将开始…

    2024年5月29日
  • Google I/O 发布会的内容

    Google I/O 发布会的内容 Google 紧随 Open AI 开了今年的 I/O 发布会,一个字概括就是全。模型层面所有的指标都在卷,同时也发布了所有现在主流的模型类型。…

    2024年5月20日
  • 关于GPT-4o 模型更新

    关于GPT-4o 模型更新 它可以接受任意组合的文本、音频和图像作为输入,并生成任意组合的文本、音频和图像输出。 它可以在 232 毫秒内响应音频输入,平均为 320 毫秒,这与人…

    工具软件 2024年5月20日
  • Krea AI 发布 AI 视频生成功能

    Krea AI 发布 AI 视频生成功能 是可以定义首位帧的,而且每张图片对应的提示词都可以自定义。看起来像是之前发过的基于 ipadapter 的 Animatediff 的工作…

    2024年5月20日
  • DeepSeek 发布 DeepSeek-V2 模型

    DeepSeek 发布 DeepSeek-V2 模型 DeepSeeK 上周发布了DeepSeek-V2模型,将现在优秀 LLM 的价格战又抬上了一个新的高度,百万 Token 输…

    2024年5月20日
  • Indigo关于发布会预测的整理

    Indigo关于发布会预测的整理 GPT-4 的新版应该会按照参数规模不同分化成多个版本,这个和 Claude 还有 Gemini 多版本的逻辑一样; 前两周出现在 llmsys …

    工具软件 2024年5月20日
  • Frame:开源的 AI 眼镜

    Frame:开源的 AI 眼镜 由一个开源的AI硬件 ,Frame AI 眼镜。 你可以通过语音和 Frame 进行沟通,它的回复会显示在眼镜屏幕上,而且会有小图标表示现在的情绪。…

    工具软件 2024年5月10日
  • Simulon:混合现实 3D 模型软件

    Simulon:混合现实 3D 模型软件 只需要下载app扫描周围环境,然后选择对应的模型。之后等几分钟就会渲染好跟现实环境融合的MR视频。没有官网只有申请测试的表单。 &nbsp…

    工具软件 2024年5月10日
  • Synthesia:EXPRESS-1 模型驱动的数字人

    Synthesia:EXPRESS-1 模型驱动的数字人 EXPRESS-1 模型驱动,以实现逼真的头像表现。通过训练模型理解我们说什么以及我们如何说的微妙关系,表达力化头像现在可…

    工具软件 2024年5月10日
  • Friend:开源的语音对话AI 硬件

    Friend:开源的语音对话AI 硬件 轻松捕捉对话。只需将其连接到移动设备,无论您走到哪里,都会自动保存会议、聊天和语音备忘录的高质量转录。 获取即时摘要、重点亮点、思维导图、待…

    工具软件 2024年5月10日
  • 生数科技发布Vidu 视频生成模型

    生数科技发布Vidu 视频生成模型 生数科技不声不响整了个大活。发布 Vidu 视频生成模型,支持长达 16 秒 1080P 视频直接生成。 从演示视频来看一致性、运动幅度都达到了…

    2024年5月10日
  • Adobe 发布 Firefly Image 3 模型及对应新功能

    Adobe 发布 Firefly Image 3 模型及对应新功能 Adobe 发布了Firefly Image 3模型,Photoshop(测试版)也大规模更新了很多功能。包括文…

    2024年5月10日
  • 微软发布 phi-3-mini 微型模型

    微软发布 phi-3-mini 微型模型 微软发布 phi-3-mini 模型,4 位量化之后可以部署在 iPhone 14 上,只占用 1.8G 内存,每秒输出 12 个 Tok…

    2024年5月10日
  • Bestever:创意人工智能广告工具

    Bestever:创意人工智能广告工具 Bestever 是一个专门为品牌定制图像和视频广告的平台。它提供多种工具,让用户能轻松地将品牌的标志、颜色和字体整合到广告创意中。这些创意…

    工具软件 2024年5月10日
  • Mixtral8X22B 模型开源

    Mixtral8X22B 模型开源 Mixtral8X22B在只公布了一个磁力链接之后,又正式发布了模型的技术报告: Mixtral 8x22B是一个稀疏混合专家(SMoE)模型,…

    2024年5月10日
  • Meta 正式发布 Llama3 8B 、 70B 模型

    Meta 正式发布 Llama3 8B 、 70B 模型 Meta 在上周终于发布了 Llama3,目前先发布的是 8B 以及 70B 两个模型,还有多模态以及一个 400B 规模…

    工具软件 2024年5月10日
  • Perplexity-Inspired LLM Answer Engine:开源的 AI 搜索应用

    Perplexity-Inspired LLM Answer Engine:开源的 AI 搜索应用 一个开源的类似 Perplexity 的 AI 搜索应用,含构建复杂答案引擎所需…

    工具软件 2024年5月10日
  • Reader:jina开源的网页内容爬取工具

    Reader:jina开源的网页内容爬取工具 将网络信息灌输到大语言模型(LLM)中是实现信息实体化的关键步骤,但这一过程充满挑战。最直接的方法是直接抓取网页内容并提取其 HTML…

    工具软件 2024年5月10日
  • AI画图应用Ideogram发布模型更新

    AI画图应用Ideogram发布模型更新 Ideogram 发布了一大波更新,模型能力再次增强,平时做海报和普通图片挺好用的。 主要升级内容有: 增强的文字渲染和照片写实效果:减少…

    2024年5月10日
  • 谷歌发布了一堆AI能力和升级

    谷歌发布了一堆AI能力和升级 Google Next 2024上周放出了不少狠货,这次 Open AI 没能够压下去热度。 首先是 Gemini Pro 1.5 进行了一大波升级,…

    2024年5月10日
  • RAG Flow:新的RAG开源框架

    RAG Flow:新的RAG开源框架 InfiniFlow开源的项目叫RAG Flow,有下面这些特点: RAGFlow的核心功能是文档的智能解析和管理,支持多种格式,并允许用户使…

    工具软件 2024年5月10日
  • Cohere推出了大型语言模型Command R+

    Cohere推出了大型语言模型Command R+ 专为企业级工作负载设计,优化了高级检索增强生成(RAG)功能,以减少错误生成,并支持10种关键语言的多语言覆盖。 详细信息: 在…

    2024年5月10日