本文へ移動
AI NEWS JOURNAL
ONE EVENT. MANY PERSPECTIVES.

ホットネスを超えて:ARM SPEを用いた階層型メモリにおけるクラウドおよびLLMワークロードの高解像度メモリ特性評価

arXiv:2610.32711v1 発表タイプ:新規 要旨:データ分析および大規模言語モデル(LLM)ワークロードによるメモリ需要は急速に増加しており、クラウドやデータセンターにおけるメモリコストの上昇を招いている。マルチティアメモリは、性能とコストのバランスを取る有望な解決策として台頭している。しかし、これを効果的に活用するには、ワークロードのメモリ動作特性を深く理解することが不可欠である。本研究では、ワークロード固有のマルチティアメモリ活用機会を分析するための高解像度メモリ特性評価手法を提案する。データセンターにおけるARMベースプロセッサの導入拡大を受け、我々は最新のARM向け統計的プロファイリング拡張機能(SPE)を用いて当該手法を実装した。CloudSuiteおよびLLMアプリケーションから抽出した8つのメモリ集約型ワークロードを対象に特性評価を行うことで、領域特有のアクセスパターンを特定した。

1 件の独立した情報源 · 1 件の報道古い順 ↕
公開日時順

ホットネスを超えて:ARM SPEを用いた階層型メモリにおけるクラウドおよびLLMワークロードの高解像度メモリ特性評価

arXiv:2610.32711v1 発表タイプ:新規 要旨:データ分析および大規模言語モデル(LLM)ワークロードによるメモリ需要は急速に増加しており、クラウドやデータセンターにおけるメモリコストの上昇を招いている。マルチティアメモリは、性能とコストのバランスを取る有望な解決策として台頭している。しかし、これを効果的に活用するには、ワークロードのメモリ動作特性を深く理解することが不可欠である。本研究では、ワークロード固有のマルチティアメモリ活用機会を分析するための高解像度メモリ特性評価手法を提案する。データセンターにおけるARMベースプロセッサの導入拡大を受け、我々は最新のARM向け統計的プロファイリング拡張機能(SPE)を用いて当該手法を実装した。CloudSuiteおよびLLMアプリケーションから抽出した8つのメモリ集約型ワークロードを対象に特性評価を行うことで、領域特有のアクセスパターンを特定した。

Beyond Hotness: High-Resolution Memory Characterization of Cloud and LLM Workloads for Tiered Memory with ARM SPE
経緯と関連報道