AI NEWS.cc
Modal
Modal 是面向生产环境 AI 应用的云基础设施平台，专为开发、训练与大规模部署 AI 应用的团队设计。它提供容器化基础设施，不锁定技术栈，支持从单 GPU 微调到多节点强化学习训练，以及高并发、低延迟的大模型推理服务；具备弹性扩缩容能力，可按秒计费 GPU/CPU 资源，支持百万级沙盒并发运行与亚秒级大镜像启动。
翻訳準備中のため原文を表示しています
Modal 是面向生产环境 AI 应用的云基础设施平台，专为开发、训练与大规模部署 AI 应用的团队设计。它提供容器化基础设施，不锁定技术栈，支持从单 GPU 微调到多节点强化学习训练，以及高并发、低延迟的大模型推理服务；具备弹性扩缩容能力，可按秒计费 GPU/CPU 资源，支持百万级沙盒并发运行与亚秒级大镜像启动。
Modal 提供三大核心原语：Functions 实现任意代码的无服务器并行计算；Sandboxes 为代理类长时任务（如 RL rollout、交互式编码）提供安全、可扩展的运行环境；Servers 支持低延迟大语言模型推理。配套 CDN 式分布式文件系统，可全带宽加载模型权重与数据集；自研容器运行时专为大镜像与 GPU 调度优化。
主な機能
支持 OpenAI 兼容接口的推理端点，开箱即用高性能，可部署优化模型、按流量特征调优端点、接入完整自定义推理栈
提供 Modal Dojo 库，内置强化学习训练所需构建模块、预调优默认配置与可观测性工具，加速 LLM 生产级训练落地
利用シーン
构建和扩展AI推理应用，支持自定义模型栈与流量调优
大规模强化学习与微调训练，从单卡微调到多节点分布式训练
为AI智能体（如编码代理、RL rollout）创建安全、可扩展的沙盒环境
使い方
注册Modal账户并创建项目
使用Modal SDK定义函数、沙盒或推理服务
部署代码至Modal云基础设施
通过HTTPS端点或SDK调用运行服务
料金
按实际运行时长计费：GPU按秒计费，CPU与内存采用主动资源定价（active-resource pricing），支持基线预留与峰值突发；仅在代码运行时计费，空闲时费用为零。
アクセスデータ
第三者の推計値です。月・デバイス・情報源を分けて表示します。
検証可能なアクセスデータはありません