NVIDIA открывает исходный код архитектуры TwoTower, достигает ускорения генерации текста в 2,42 раза

2026-07-02 08:57:32

Согласно Beating, NVIDIA опубликовала с открытым исходным кодом Nemotron-Labs-TwoTower — дискретную архитектуру текстового диффузионного моделирования, предназначенную для ускорения генерации текста большими языковыми моделями. Двухбашенная конструкция разделяет замороженную авторегрессионную модель, сохраняющую способность к рассуждению, и обучаемую башню шумоподавления, генерирующую текст параллельно. Используя всего 1/12 базовых данных предварительного обучения на модели смеси экспертов Mamba-Transformer с 30 миллиардами параметров, TwoTower сохранил 98,7% базового качества, увеличив скорость генерации в 2,42 раза без дополнительных затрат памяти.

Посмотреть источник

Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.

Связанные новости

4ч назад

Nvidia запускает модель сотрудничества в области ИИ-инфраструктуры 2 июля

4ч назад

SoftBank запускает облачный сервис ИИ в США, нацеливаясь на мощность в 10 гигаватт к 2030 году.

7ч назад

Nvidia запускает модель сотрудничества по инфраструктуре ИИ с разделением доходов, 1 июля

8ч назад

Nvidia запускает партнерство в области AI-вычислений, чтобы гарантировать обратный выкуп избыточных мощностей GPU для стартап-облачных провайдеров

06-30 02:39

Meituan выпускает модель LongCat-2.0 с триллионом параметров, обученную на 30 триллионах токенов, 30 июня.

Детальный анализ