2,8 трильйона параметрів Kimi K3 і розгортання на 64 чипах можуть підвищити попит на графічні процесори Nvidia та HBM

NVDA-2,32%
За даними SemiAnalysis, Kimi K3 із понад 2,8 трильйонами параметрів потребує 64-чипової архітектури розгортання та понад 1,5 ТБ потужності HBM. На противагу ринковим побоюванням, що механізми лінійної уваги послаблюють попит на висококласне AI-обладнання, дослідницька компанія заявила, що масштаб K3 та архітектура для інференсу, навпаки, можуть підвищити попит на GPU Nvidia, HBM і обладнання для інтерконекту. SemiAnalysis зазначила, що навіть за обмеженої кількості користувачів одночасно KV-кеш потребує значного вивантаження в пам’ять CPU DDR5 і сховище NVMe, залишаючи обмежений запас по HBM. Компанія вважає, що більш ефективні архітектури моделей знижують витрати на AI-інференс, що стимулює ширше впровадження застосунків і довгостроковий попит на GPU, HBM, DRAM та мережеву інфраструктуру.
Застереження: інформація на цій сторінці може походити зі сторонніх джерел і надається виключно для ознайомлення. Вона не відображає позицію чи думку Gate і не є фінансовою, інвестиційною чи юридичною консультацією. Торгівля віртуальними активами пов’язана з високим ризиком. Будь ласка, не покладайтеся лише на інформацію з цієї сторінки під час прийняття рішень. Детальніше дивіться у Застереженні.
Прокоментувати
0/400
Немає коментарів