Amazon SageMaker推出训练会话API:用户可编写自定义大模型训练循环,无需管理GPU
Amazon SageMaker发布训练会话(Training Sessions)API,支持用户以纯Python脚本实现SFT、RLHF、GRPO、KTO等自定义大模型训练逻辑,GPU资源调度、容错、分布式执行及检查点管理均由服务托管。









从发现前沿资讯,到找到趁手的工具。
Claude通用助手与搜索Claude 是 Anthropic 推出的 AI 助手,可通过对话协助写作、阅读资料、分析数据和编程,并将部分任务整理为可继续编辑的文档、表格或演示文件。适合希望把想法、资料和初稿衔接起来的个人与团队。
GGemini 是 Google 的 AI 助手,可通过对话协助写作、规划、整理资料和分析上传文件,也可用 Deep Research 围绕一个主题检索资料并生成研究报告。
MMidjourney 是从文字和参考图片生成视觉作品的 AI 创作工具。可在网页 Create 页面输入提示,比较生成版本,再使用变体、编辑、放大或图像转视频等功能继续创作。
KKrea 是 AI 视觉创作工作空间,可从文字或参考图生成图片,比较不同模型与变体,再进行编辑、细节增强和放大,也提供视频及其他创意工具入口。
RRunway 是集视频生成、视觉编辑和创作流程于一体的 AI 平台。可从文字、图片或已有片段开始,生成或修改镜头,再进行延长、放大和导出,服务于概念短片、广告及其他视觉制作。
SSuno 是通过文字描述、歌词和参考素材创作歌曲的 AI 音乐平台。用户可生成带人声的歌曲或音乐,再使用编辑、重混与音轨分离等功能继续制作和分享。
EElevenLabs 是提供 AI 语音生成、音频创作和语音智能体的平台。创作者可以制作配音、有声书、播客及本地化内容,开发者则可通过 API 接入语音生成、转录和对话能力。
N
Notion AI办公与效率Notion AI 是集成在 Notion 工作空间中的 AI 助手,用于查找团队知识、生成和编辑页面、处理数据库及整理会议内容。它结合工作空间和已连接应用的上下文,帮助把资料查询、内容整理和后续任务放在同一工作环境中完成。
GGamma 是用 AI 协助制作演示文稿、文档、网页和视觉内容的产品,可从目标、提纲或已有资料开始生成内容,再通过对话、布局与自由编辑调整成品。
CCursor 是围绕软件开发任务工作的 AI 编程产品,可在代码上下文中协助规划、修改、测试和审查代码,并提供桌面、命令行及云端智能体等使用方式。
Amazon SageMaker发布训练会话(Training Sessions)API,支持用户以纯Python脚本实现SFT、RLHF、GRPO、KTO等自定义大模型训练逻辑,GPU资源调度、容错、分布式执行及检查点管理均由服务托管。
Elastic GPUs, sandbox growth, and the economics of the agent cloud
译文排队中,当前为原文 · enElastic GPUs, sandbox growth, and the economics of the agent cloud
译文排队中,当前为原文 · en欧洲零售商正依托NVIDIA加速的开放大模型与物理AI技术,在数字商品发现、智能仓储仿真、虚拟试穿及研发加速等场景实现规模化落地。Shopify、Zooplus、L’Oréal、Otto Group等企业通过Nemotron系列模型、Omniverse数字孪生、ALCHEMI分子模拟等工具,显著降低推理成本、提升搜索准确率、缩短研发周期,并验证了转化率与销售增长效果。
黑石AI业务负责人贾斯·卡伊拉在TechCrunch Disrupt大会上表示,市场对AI基础设施领域巨额债务的恐慌被过度放大;其核心论据是:债务主要由高信用等级客户(如微软、Meta)的长期合同支撑,且底层资产(GPU等)具备强抵押价值,风险结构与2008年银行体系有本质区别。
美国联邦法官裁定,特朗普政府无权授意环保署(EPA)单方面撤销针对SpaceXAI在孟菲斯运营未许可燃气轮机所引发的空气污染诉讼;NAACP提起的诉讼将继续推进。
NVIDIA于2026年10月26日(UTC)宣布cuDSS库进入通用可用(GA)阶段,该CUDA-X库专为在GPU上高效求解大规模稀疏线性系统而设计,显著提升芯片、航空、工业系统等领域的仿真吞吐量与迭代效率。
Dharma-AI提出VocabX方法,针对特定任务(如葡萄牙语作文自动评分)重构语言模型词汇表,以生成代价而非词频为优化目标,在不修改模型结构、参数或训练流程的前提下,实测推理成本下降77%,同时评估质量(bench score)从0.703提升至0.810。
本文为Hugging Face与Amazon联合发布的技术博客系列首篇,系统介绍如何在AWS Trainium AI加速芯片上使用TorchNeuron进行PyTorch模型推理性能分析,涵盖Neuron后端集成原理、torch.profiler配置方法、NeuronConfig与NeuronProfiler工具使用、Neuron Explorer可视化追踪,并以RMSNorm为例对比三种实现(朴素PyTorch、torch.rms_norm内置融合、torch.compile自动融合)的设备耗时差异。
i14推出30.28亿参数的Laplace 3B模型,采用门控线性注意力(GLA)替代Softmax注意力,其推理时每序列递归状态恒为29.5 MB,与上下文长度无关;该模型在单台AWS trn2.48xlarge(16颗Trainium2芯片)上完成训练与服务验证,训练吞吐达12万token/秒,服务吞吐11544 output token/秒(1280并发序列),所有性能数据均为i14与AWS GenAIIC团队内部实测结果。
SF Compute由Evan Conrad创立,致力于打造中立、可编程、支持物理交割的GPU算力交易基础设施;其模式拒绝抽象化FLOPS商品,强调硬件异构性、真实交付与实时约束(如中断容忍、InfiniBand拓扑、固件版本等),已实现数百亿美元交易量,并推出动态InfiniBand子网划分等底层能力。
SF Compute由Evan Conrad创立,聚焦于实现GPU算力的可编程、物理交割式交易;其不拥有数据中心,而是通过全栈技术协同第三方设施共建‘主权算力云’,强调市场中立性与基础设施可控性,已实现数亿美元交易额并落地InfiniBand动态切分等关键能力。
为应对生成式AI爆发带来的高带宽内存芯片需求激增,三星在韩国平泽建设占地相当于纽约中央公园的半导体制造集群,目前已投运三座晶圆厂,第四座即将投产,第五座在2024年因需求下滑暂停后已重启建设;现场呈现高强度、高安全标准的建设节奏与劳动力生态。
Hugging Face 发布 TorchTPU,为 PyTorch 提供原生 TPU 后端支持,使 Transformers、Diffusers 等库可直接在 TPU 上运行,无需依赖 torch_xla 或迁移到 JAX。
Hugging Face正式发布AnyLanguageModel 1.0,提供与Apple Foundation Models API完全兼容的开源Swift框架,支持本地(MLX、llama.cpp、Core ML)及托管(OpenAI、Anthropic、Gemini、Hugging Face Inference Providers等)模型无缝切换,并新增图像输入、工具调用、引导式生成、推理块自动适配等特性。
Hugging Face联合AWS推出TorchNeuron——PyTorch原生Trainium后端,自2026年10月20日起开放公测。该技术使Transformers、Diffusers等主流库无需修改即可直接运行于Trainium芯片,显著提升文本生成与图像生成模型的易用性与兼容性。
Differential acceleration of cyber, math, and AI
译文排队中,当前为原文 · en让好奇心有方向,让每一天的阅读更有价值。