Os GPU Nvidia Blackwell custam o dobro, mas o custo da inferência por token desce 35x face ao Hopper

De acordo com a análise mais recente no blog da Nvidia, as GPUs Blackwell custam quase o dobro por hora em comparação com a geração Hopper, mas entregam custos de inferência por token 35 vezes mais baixos. Usando o modelo de teste DeepSeek-R1, a Blackwell (GB300 NVL72) é alugada a 2,65 USD por GPU por hora, face aos 1,41 USD da Hopper, mas o throughput de um único GPU salta de 90 para 6.000 tokens por segundo. Este ganho de throughput de 65x reduz os custos por milhão de tokens de 4,20 USD para 0,12 USD.

O valor de 0,12 USD assume optimização total de software, incluindo inferência com baixa precisão FP4 e previsão multi-token (MTP). Sem MTP activado, os custos por milhão de tokens atingem aproximadamente 2,35 USD, descendo para 0,11 USD com ele ativo, demonstrando um impacto de optimização de 21x apenas com essa funcionalidade.

Isenção de responsabilidade: As informações contidas nesta página podem ser provenientes de terceiros e não representam os pontos de vista ou opiniões da Gate. O conteúdo apresentado nesta página é apenas para referência e não constitui qualquer aconselhamento financeiro, de investimento ou jurídico. A Gate não garante a exatidão ou o carácter exaustivo das informações e não poderá ser responsabilizada por quaisquer perdas resultantes da utilização destas informações. Os investimentos em ativos virtuais implicam riscos elevados e estão sujeitos a uma volatilidade de preços significativa. Pode perder todo o seu capital investido. Compreenda plenamente os riscos relevantes e tome decisões prudentes com base na sua própria situação financeira e tolerância ao risco. Para mais informações, consulte a Isenção de responsabilidade.

Related Articles

66,3% dos trabalhadores americanos com rendimentos elevados utilizam ferramentas de IA no trabalho, mostra um inquérito da Reserva Federal

De acordo com um inquérito da Reserva Federal, 66,3% dos trabalhadores nos EUA com rendimentos superiores a 200.000 USD anuais já utilizaram ferramentas de IA no trabalho nos últimos 12 meses, à data de 1 de maio. Entre os escalões de rendimentos mais baixos, as taxas de utilização diminuem significativamente: 51,6% para os que auferem entre 100.000 USD e 200.000 USD, 40,2% para os que ganham entre 50.000 USD e 100.000 USD,

GateNews19m atrás

xAI lança a API do Grok 4.3 com uma janela de contexto de 1 milhão de tokens a 1,25 dólares por milhão de tokens de entrada

De acordo com a BlockBeats, a xAI lançou a API do Grok 4.3 a 1 de maio. O novo modelo suporta uma janela de contexto de 1 milhão de tokens e oferece funcionalidades de entrada/saída de texto, capacidades multimodais e chamadas de ferramentas. A API do Grok 4.3 tem um preço de $1,25 por milhão de entradas

GateNews31m atrás

As gigantes tecnológicas dos EUA vão gastar $700B em infraestruturas de IA em 2026, muito acima dos 105 mil milhões de dólares da China

De acordo com o South China Morning Post, as gigantes tecnológicas dos EUA estão preparadas para gastar mais de 700 mil milhões de dólares em infraestruturas de IA este ano, muito acima dos seus pares chineses. Google, Microsoft, Meta e Amazon respondem pela maior parte desse total, enquanto a Morgan Stanley estimou que os fornecedores de cloud chineses iriam gastar cerca de 105 mil milhões de dólares

GateNews37m atrás

A Huawei prevê que a receita dos seus chips de IA em 2026 atinja 12 mil milhões de dólares, acima 60% face a 2025

De acordo com a Reuters, a Huawei espera que as receitas dos seus chips de IA para 2026 atinjam aproximadamente 12 mil milhões de dólares, representando um aumento de pelo menos 60% face aos 7,5 mil milhões de dólares em 2025. A maior parte das encomendas deste ano é para o processador Ascend 950PR, que entrou em produção em massa em março. A empresa planeia lançar um

GateNews1h atrás

A Nvidia investe na nova empresa de tecnologia jurídica em IA da Suécia, a Legora, com Jude Law como embaixador global da marca

A Nvidia fez um investimento de ampliação da Série D na Legora no valor de 50 milhões de dólares, elevando o total angariado da Legora para 600 milhões de dólares, com uma avaliação de 5,6 mil milhões de dólares. A Atlassian, Adams Street Partners e Insight Partners participaram. A Legora foca-se em tecnologia jurídica de IA, disponibilizando ferramentas como revisão automatizada, análise de contratos e pesquisa jurídica. O ARR ultrapassa 100 milhões de dólares e o número de colaboradores cresceu de 40 para 400. Jude Law tornou-se embaixador de marca global e o slogan publicitário é “Law just got more attractive”.

ChainNewsAbmedia1h atrás
Comentar
0/400
Nenhum comentário