Компании в сфере ИИ смещают фокус конкуренции с размеров моделей на экономичные системы маршрутизации, поскольку предприятия переходят от тестирования к производственному внедрению. Генеральный директор Perplexity Аравинд Шринивас (Aravind Srinivas) рассказал CNBC, что сама модель больше не является продуктом, подчеркнув системы оркестрации, которые объединяют модели с инструментами для конкретных задач. Этот сдвиг отражает то, что в корпоративной Америке ужесточаются расходы на ИИ: компании ищут модели, подходящие под задачи, а не постоянно используют самые дорогие варианты.
Perplexity анонсирует систему Previews для компьютера на базе китайской открытой модели
На этой неделе Perplexity представила новый модуль для своего продукта, ориентированного на использование на компьютере, построенный вокруг GLM 5.2 — открытой модели от китайской Z.ai. Система предназначена для того, чтобы более дешевая модель выполняла большую часть работы, а более мощную подключали только по необходимости.
«Модель сама по себе больше не является продуктом», — сказал Шринивас CNBC. «Это система оркестрации, которая помещает модель в очень способную “оснастку” и подбирает модель вместе с множеством инструментов».
ИИ-продукты становятся системами, которые решают, какую модель использовать, когда её применять и какие внешние инструменты или источники данных компании для этого нужны. Задача службы поддержки клиентов может не требовать самой дорогой модели, тогда как сложная задача по программированию — может. Рутинный внутренний рабочий процесс может выполняться на более доступной открытой модели, а более сложные шаги — передаваться на более мощные.
Партнёр Benchmark прогнозирует доминирование токенов с открытыми весами
Модели с открытыми весами, которые можно скачивать, донастраивать и запускать силами самих компаний, становятся более способными и дешевле в эксплуатации, чем премиальные проприетарные модели крупнейших ИИ-лабораторий.
Партнёр Benchmark, генеральный партнер Питер Фентон (Peter Fenton), рассказал CNBC, что он ожидает, будто более 90 % создаваемых токенов будут исходить из моделей с открытыми весами в ближайшие 18–24 месяца, возможно, даже к концу года. Токены — это единицы данных, которые ИИ-модели обрабатывают и генерируют.
«Маржинальность на инференсе, которую генерируют компании “на переднем крае”, я думаю, окажется под давлением, когда вы сможете запускать такие модели без наценки, которую они добавляют, и когда появятся достаточно хорошие модели из открытых весов», — сказал Фентон.
По словам Фентона, переход к открытым моделям — это не только экономия. В некоторых случаях более компактные модели, донастроенные под конкретную задачу, могут работать быстрее и показывать лучшие результаты, чем более крупные универсальные модели.
Ollama: компания сообщает о включении в список Fortune 500
Benchmark инвестировал в Ollama — компанию, которая упрощает разработчикам и предприятиям скачивание, запуск и управление открытыми моделями.
Генеральный директор Ollama, Джефф Морган (Jeff Morgan), заявил, что компания вошла более чем в 85 % компаний Fortune 500, включая организации в регулируемых отраслях — таких как авиация, страхование и здравоохранение.
«Один момент — откуда взята модель и где она была создана и обучена», — сказал Морган. «Но более важное для компаний, с которыми мы общаемся, — где она запускается и как она запускается».
Морган отметил, что многие компании начинают с более компактных моделей, которые работают рядом со своими данными, а затем расширяются до более крупных открытых моделей, когда чувствуют себя увереннее.
Китайские лаборатории создают стратегическую конкуренцию в области открытых моделей
Рост открытых моделей создает для США стратегический вызов. Многие наиболее конкурентоспособные модели с открытыми весами поступают из китайских лабораторий — включая Z.ai и DeepSeek. Это сделало открытый ИИ вопросом бизнеса, политики и национальной конкурентоспособности.
Шринивас отметил, что США должны поддерживать открытые модели, потому что они делают ИИ более доступным и дешевым.
«Если вы хотите, чтобы преимущества ИИ широко распространялись среди малых бизнесов в Америке и странах-союзниках США, то вам действительно нужно, чтобы ИИ был намного более доступным», — сказал Шринивас. «А открытый исходный код — единственный способ это обеспечить».
Перекос также может повлиять на масштабное строительство дата-центров, которое продолжается по всей технологической индустрии. Текущий ИИ-бум основан на предположении, что спрос будет продолжать расти и перетекать в крупные облачные дата-центры, заполненные высокопроизводительными чипами. Шринивас говорит, что часть ИИ-работы в конечном итоге может выполняться локально — на устройствах потребителей или предприятий.
Это не исключит потребность в дата-центрах, но может создать более гибридную систему ИИ: рутинные задачи будут выполняться локально, а самые сложные — передаваться на более мощную модель в облаке.
FAQ
Что Perplexity показала на этой неделе в части ИИ-моделей?
На этой неделе Perplexity представила новый модуль для своего продукта, ориентированного на использование на компьютере, построенный вокруг GLM 5.2 — открытой модели от китайской Z.ai. Система предназначена для того, чтобы более дешевая модель выполняла большую часть работы, а более мощную подключали только по необходимости.
Почему компании переходят от использования самых больших ИИ-моделей к системам маршрутизации?
Поскольку компании переходят от тестирования ИИ к его использованию в реальных продуктах и рабочих процессах, им нужно получать доступ к моделям, лучше всего подходящим для конкретных задач, по правильной цене, а не всегда использовать самые дорогие модели. Корпоративная Америка также ужесточает расходы на ИИ, делая экономическую эффективность приоритетом.
Сколько компаний из Fortune 500 внедрили Ollama?
Генеральный директор Ollama, Джефф Морган, заявил, что компания вошла более чем в 85 % компаний Fortune 500, включая организации в регулируемых отраслях — таких как авиация, страхование и здравоохранение.
