Отсканируйте, чтобы загрузить приложение Gate
qrCode
Больше вариантов загрузки
Не напоминай мне больше сегодня.

ИИ нуждается в большем объеме памяти, а не в большей вычислительной мощности

robot
Генерация тезисов в процессе

Недавний анализ Tianfeng Securities предлагает интересную перспективу: настоящим узким местом ИИ является не вычислительная мощность, а хранение.

Что происходит?

Индустрия переходит от “больше вычислений” к “умному хранению”. Вместо того чтобы продолжать увеличивать DRAM и HBM (ультрадорогие )памяти, векторные данные, такие как KVCache, будут перемещены на SSD большой емкости. Это по сути использование дешевого хранилища для замены дорогой памяти.

Почему это важно

Этот переход приносит три ключевых преимущества:

  • Самая низкая задержка первого токена → более быстрые ответы ИИ
  • Высокая производительность вывода → больше запросов обрабатывается одновременно
  • Снижение затрат на вывод значительно → сделать ИИ более доступным в масштабе

Другими словами: ИИ будет быстрее и намного дешевле в эксплуатации.

Рыночная возможность

Это вызывает спрос на SSD значительно выше исторических прогнозов. Производители хранилищ могут стать настоящими победителями этого технологического изменения, а не обязательно производители чипов.

Резюме: Следующая волна роста в ИИ не приходит от GPU, она приходит от хранения.

Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
0/400
Нет комментариев
  • Закрепить