OctoML宣布推出OctoAI，这是其最新产品，将公司的服务提升到一个新的水平。虽然不是一个完整的支点，但OctoAI代表了重点从优化模型转向帮助企业利用现有的开源模型并根据其特定需求对其进行定制。
该平台旨在简化构建和部署基于 ML 的应用程序的过程，而无需管理底层基础设施。
使用 OctoAI 简化 AI 计算
OctoAI背后的核心思想是为AI提供自我优化的计算服务。通过利用OctoAI，企业可以构建基于ML的应用程序并将其投入生产，而无需担心ML基础设施的复杂性。
该平台提供托管计算服务，可根据用户优先级自动选择硬件，无论是优先考虑低延迟还是成本效率。OctoAI还可以自动优化模型，从而节省成本并提高性能。
多种模式，单一目标
虽然OctoAI提供自动优化，但它也使用户可以灵活地设置自己的参数并选择最适合其要求的硬件。然而，OctoML预计大多数用户会发现允许OctoAI管理这些任务的价值，使他们能够专注于他们的核心ML应用程序。
此外，OctoML还提供流行基础模型的加速版本，如Dolly 2，Whisper，FILM，FLAN-UL2和Stable Diffusion。这些预加速模型开箱即用，可节省企业实施它们的时间和精力。
该程序现在处于抢先体验阶段，但您可以通过此处的链接注册.
值得注意的是，OctoML 取得了令人印象深刻的改进，包括Stable Diffusion模型，与原始模型相比，速度提高了三倍，成本降低了五倍。
原创文章，作者：校长，如若转载，请注明出处：https://www.yundongfang.com/Yun233420.html
微信扫一扫不于多少！ 
支付宝扫一扫礼轻情意重 