Генеральный директор Anthropic отрицает, что выступал за запрет моделей ИИ с открытыми весами, CEO

Генеральный директор Anthropic Дарио Амодей опубликовал в понедельник пост в блоге, заявив, что его компания никогда не выступала за запрет моделей ИИ с открытыми весами, отвечая на критику, звучавшую по всей технологической отрасли. Заявление появилось после того, как в конце прошлой недели коалиция технологических компаний, включая Nvidia, Microsoft, Meta и Palantir, выпустила письмо, призывающее политиков не вводить преждевременные ограничения на модели с открытыми весами — модели, которые пользователи могут скачать, модифицировать и запускать на собственной инфраструктуре. Дискуссия сосредоточена на том, должны ли китайские модели с открытыми весами, которые сейчас доминируют на рынке, столкнуться с ограничениями в США, на фоне того что некоторые чиновники оценивают возможность запретов.

Технологическая коалиция призывает не вводить ограничения для моделей с открытыми весами

Коалиция технологических компаний в конце прошлой недели выпустила письмо с призывом к политикам не вводить преждевременные ограничения на модели с открытыми весами. Среди подписантов были Nvidia, Microsoft, Meta и Palantir. OpenAI подписала письмо после его публикации, а Anthropic — не подписала. В письме говорится, что опасения по поводу незаконной дистилляции следует решать через точечные правовые и коммерческие механизмы.

Амодей излагает позицию Anthropic по управлению ИИ-моделями

В посте в блоге в понедельник Амодей написал, что Anthropic не выступала и не выступает за запрет моделей с открытыми весами как категории. Он заявил, что акцент должен быть сделан на том, чтобы мощные чипы не попадали в руки авторитарных режимов, остановить дистилляцию в промышленном масштабе и требовать тестирование безопасности для всех достаточно способных моделей — как открытых, так и закрытых. Амодей написал, что протекционистские запреты не решат его самые серьезные проблемы национальной безопасности. Anthropic в первую очередь известна тем, что разрабатывает линейку запатентованных моделей под названием Claude, которые она продаёт компаниям.

Anthropic утверждает, что Alibaba провела атаку с дистилляцией

В прошлом месяце Anthropic направила письмо в Комитет Сената США по банковским вопросам, жилищному строительству и городским делам, заявив, что китайская Alibaba, разработчик семейства моделей Qwen, осуществила против Anthropic крупнейшую из известных на тот момент атаку с дистилляцией. Дистилляция — это метод обучения ИИ, при котором более маленькую и менее способную модель создают, используя выходные данные более крупной модели, уже присутствующей на рынке. В понедельник Амодей заявил, что он согласен: опасения по поводу незаконной дистилляции следует решать через точечные правовые и коммерческие механизмы.

Амодей обозначает области согласия и несогласия с письмом коалиции

АмоДей заявил, что согласен с частями письма коалиции — в частности, что модели с открытыми весами дают клиентам больший контроль, расширяют доступ к ИИ-экономике и усиливают конкуренцию в некоторых сценариях использования. Он заявил, что не согласен с идеей, что модели с открытыми весами помогают киберзащитникам больше, чем атакующим, или что они упрощают пользователям разработку защитных мер.

Часто задаваемые вопросы

Что генеральный директор Anthropic Дарио Амодей сказал о запрете моделей ИИ с открытыми весами в понедельник?

Дарио Амодей опубликовал в понедельник пост в блоге, заявив, что Anthropic никогда не выступала за запрет моделей с открытыми весами как категории. Он написал, что вместо этого акцент должен быть сделан на том, чтобы мощные чипы не попадали в руки авторитарных режимов, остановить дистилляцию в промышленном масштабе и требовать тестирование безопасности для всех достаточно способных моделей.

Почему технологические компании выпустили письмо о моделях ИИ с открытыми весами в конце прошлой недели?

Коалиция, включающая Nvidia, Microsoft, Meta и Palantir, выпустила письмо в конце прошлой недели с призывом к политикам не вводить преждевременные ограничения на модели с открытыми весами. Письмо появилось на фоне дискуссии о том, должны ли китайские модели с открытыми весами, которые сейчас доминируют на рынке, столкнуться с ограничениями в США.

Какое обвинение в дистилляции Anthropic выдвинула против Alibaba в прошлом месяце?

В прошлом месяце Anthropic направила письмо в Комитет Сената США по банковским вопросам, жилищному строительству и городским делам, заявив, что китайская Alibaba, разработчик семейства моделей Qwen, провела против Anthropic крупнейшую из известных на тот момент атаку с дистилляцией.