JD広告とHuawei Kunpengは共同で、UnifiedBusによる相互接続技術を活用し、従来の4層キャッシュを2層に圧縮して300TBの共有メモリプールを構築するとともに、RPC通信アーキテクチャを再構築することで、生成型広告推薦システムのエンドツーエンド推論遅延を15%短縮したことを発表しました。この成果は、2026年のJD 618大セールにおける主要な広告シーンで、オンライントラフィックの5%を対象に継続的に検証されており、システムの安定性、スループット、低遅延性能のいずれも予定目標を達成しています。
技術的ブレークスルーは主に三つの側面に集中しています。第一に、Lingquプロトコルに基づく4KノードのScaleUpネットワーク構築により、単一のスーパーノードが150万以上のvCPUと3.2Tbの相互接続帯域幅をサポートし、層間帯域幅収束のボトルネックを解消しました。第二に、KVキャッシュはオンチップメモリとDDRの二段階構造を採用し、キャッシュ間の遅延を3桁低減。8MBの同時並行リクエストにおけるTP99遅延は85%以上短縮され、64MBのシーケンス長におけるTP99遅延は従来の1/16にまで低下しました。第三に、RPC通信ではSocket/TCP/IPスタックを経由せず、UBによるURMA直接接続へ切り替えました。1MBのデータパケットあたりの遅延は84%低減され、P99全体の性能最適化は40%以上を実現。通信に使用するメモリ量も100倍削減されました。
今回の協業は、広告事業から検索や推薦といった検索・推奨の各シーンへと拡大しており、SuperCache(L2/L3の拡張および通算型AI計算の統一接続)、Agent高密度サンドボックス(秒単位で10万規模の同時実行、リソースの5倍オーバーコミット)、多モーダル融合検索などの新たな取り組みの探求も開始しています。両社は、アジェンティックAI時代においてCPUへの依存度が大幅に高まり、CPUとNPUの比率が1:4からさらに高い水準へとシフトする可能性があると指摘しています。また、基盤となる計算能力の土台については、OS、スケジューリング、ミドルウェアが連携して再構築される必要があるとしています。
報道には、出典が「钛媒体APP」であることが明示されています(https://www.tmtpost.com/8181692.html),发布于2026-10-26T12:19:13.000Z,属时效性强、细节翔实的技术进展类新闻。文中所有技术指标、验证方式、演进路径均严格依据材料原文提取,未引入外部知识、未推测未声明的商业影响或未发生的未来事件。