AI 自動翻訳
あるAIデモは、小さな産業オペレーションを点滅するカーソルに凝縮しています。そのカーソルの背後では、アクセラレーターがトークンを生成し、CPUがプログラムを実行し、ストレージが昨日の記憶を保持し、そして何人かの不運なエンジニアが、エージェントが生産データベースを知らない相手にメールで送信しないように監視しています。称賛を受けるのはモデルだけ。他の全員は呼び出されます。
先週は、その見えない仕組みをじっくりと見学する良い機会でした。DeepSeekはDeepInferをリリースし、GoogleはAgent Compute Engineを発表し、NVIDIAはGTCベルリンでエージェント向けのインフラストラクチャを拡充しました。私の解釈では、AIにおける次なる有用な進歩は、モデルをいかに効率的に運用し、その動作環境を維持し、行動を制御できるかにますます依存していくでしょう。
これらの発表は、同じ問題の異なる側面に取り組んでいます。知能は、繰り返し実行でき、かつその動作環境を信頼できる場合に初めて製品として成立します。では、その内部構造を詳しく見てみましょう。
DeepSeekが推論エンジンの仕組みを明らかにする
続きを読む