Tether запустила платформу обучения AI для смартфонов и потребительских GPU

Tether недавно объявила о новом фреймворке для обучения ИИ, который позволяет настраивать крупные языковые модели прямо на потребительских устройствах, таких как смартфоны и GPU, не принадлежащих Nvidia. Эта система, входящая в платформу QVAC, использует архитектуру BitNet от Microsoft в сочетании с техникой LoRA, что значительно снижает требования к памяти и вычислительным затратам.

По словам Tether, данный фреймворк поддерживает мультиплатформенность и совместим с чипами AMD, Intel, Apple Silicon и мобильными GPU Qualcomm. Инженеры могут донастраивать модели до 1 миллиарда параметров на смартфоне за менее чем два часа, а также расширять до 13 миллиардов параметров на мобильных устройствах.

Технология BitNet позволяет снизить использование VRAM до 77,8% по сравнению с 16-битной моделью и ускоряет вывод на мобильных GPU. Tether также подчеркивает потенциал применения, такого как федеративное обучение, снижение зависимости от облака.

Этот шаг отражает тенденцию расширения криптовалютных компаний в области ИИ и вычислительной инфраструктуры, параллельно с развитием AI-агентов в отрасли.