Os 2,8 biliões de parâmetros do Kimi K3 e a implementação com 64 chips em maio podem reforçar a procura por GPUs da Nvidia e por HBM

NVDA-2,32%
De acordo com a SemiAnalysis, o Kimi K3, com mais de 2,8 mil milhões de parâmetros, requer uma arquitetura de implementação com 64 chips e mais de 1,5 TB de capacidade HBM. Em contradição com as preocupações do mercado de que os mecanismos de atenção linear enfraquecem a procura por hardware de IA topo de gama, a empresa de investigação afirmou que a escala e a arquitetura de inferência do K3 poderão, na realidade, reforçar a procura por GPUs Nvidia, HBM e equipamento de interconexão. A SemiAnalysis salientou que, mesmo com uma concorrência de utilizadores limitada, a cache KV exige um offloading significativo para memória CPU DDR5 e armazenamento NVMe, deixando pouco espaço livre em HBM. A empresa acredita que arquiteturas de modelos mais eficientes reduzem os custos de inferência de IA, impulsionando uma adoção mais alargada de aplicações e uma procura de longo prazo por GPU, HBM, DRAM e infraestruturas de rede.
Aviso legal: As informações contidas nesta página podem provir de fontes externas e têm caráter meramente informativo. Não refletem os pontos de vista nem as opiniões da Gate e não constituem qualquer tipo de aconselhamento financeiro, de investimento ou jurídico. A negociação de ativos virtuais envolve um risco elevado. Não se baseie exclusivamente nas informações contidas nesta página ao tomar decisões. Para mais detalhes, consulte o Aviso legal.
Comentar
0/400
Nenhum comentário