Gateアプリをダウンロードするにはスキャンしてください
qrCode
その他のダウンロードオプション
今日はこれ以上表示しない

AIはより多くのストレージを必要とし、より多くの計算能力を必要としない

robot
概要作成中

天風証券の最近の分析は興味深い視点を提供しています:AIの真のボトルネックは処理能力ではなく、ストレージです。

何が起こっているのですか?

業界は「もっと計算する」から「もっと賢く保存する」へと移行しています。超高価なDRAMやHBM (メモリをさらに増やすのではなく、KVCacheのようなベクトルデータは大容量のSSDに移行します。基本的には高価なメモリの代わりに安価なストレージを使用するということです。

なぜ重要なのか

この移行には3つの主要な利点があります:

  • 最初のトークンのレイテンシが最も低い → より迅速なAI応答
  • 優れた推論性能 → 同時に処理されるクエリが増加
  • 推論コストが大幅に削減されました → スケールでAIをよりアクセスしやすくする

言い換えれば、AIはより速く、はるかに安価に運用されるようになります。

マーケットチャンス

これは、SSDの需要が歴史的な予測を大きく上回ることを引き起こします。ストレージの生産者がこの技術の変化の真の勝者になる可能性が高く、必ずしもチップメーカーがそうなるわけではありません。

要約: 次のAI成長の波はGPUからではなく、ストレージから来ます。

原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
0/400
コメントなし
  • ピン