Генеральний директор Anthropic заперечує, що виступає за заборону моделей ШІ з відкритими вагами

Гендиректор Anthropic Даріо Амодеї опублікував у понеділок допис у блозі, де заявив, що його компанія ніколи не виступала за заборону моделей із відкритими вагами ШІ, реагуючи на критику в технічній індустрії. Заява з’явилася після того, як наприкінці минулого тижня коаліція технологічних компаній, зокрема Nvidia, Microsoft, Meta та Palantir, оприлюднила лист, закликаючи політиків не вводити поспішні обмеження для моделей із відкритими вагами — моделей, які користувачі можуть завантажувати, модифікувати та запускати у власній інфраструктурі. Дискусія стосується того, чи мають підлягати обмеженням у США китайські розроблені моделі із відкритими вагами, які нині домінують на ринку, і деякі посадовці оцінюють можливість заборон.

Технічна коаліція закликає не запроваджувати обмеження для моделей із відкритими вагами

Коаліція технологічних компаній наприкінці минулого тижня оприлюднила лист із закликом до політиків уникати поспішних обмежень для моделей із відкритими вагами. Серед підписантів були Nvidia, Microsoft, Meta та Palantir. OpenAI підписав лист після його публікації, тоді як Anthropic не підписав. У листі зазначалося, що занепокоєння щодо незаконної дистиляції слід вирішувати через точкові правові та комерційні рамки.

Амодеї викладає позицію Anthropic щодо управління моделями ШІ

У дописі в блозі в понеділок Амодеї написав, що Anthropic не виступає і не виступатиме за заборону моделей із відкритими вагами як за категорію. Він заявив, що фокус має бути не на цьому: натомість потрібно не допускати, щоб потужні чипи потрапляли до рук авторитарних режимів, зупинити дистиляцію промислового масштабу та вимагати тестування безпеки для всіх достатньо спроможних моделей — як відкритих, так і закритих. Амодеї написав, що протекціоністські заборони не усунуть його найсерйозніші занепокоєння щодо національної безпеки. Найкраще відомо, що Anthropic розробляє сімейство власницьких моделей під назвою Claude, які вона продає бізнесам.

Anthropic стверджує, що Alibaba здійснила атаку з дистиляцією

Минулого місяця Anthropic надіслав лист до Комітету Сенату США з питань банківської справи, житлового будівництва та міського розвитку, в якому звинуватив Китайську Alibaba, розробника сімейства моделей Qwen, у тому, що вона здійснила проти Anthropic найбільшу з відомих на той час атак із дистиляцією. Дистиляція — це метод тренування ШІ, за якого меншу й менш спроможну модель створюють, використовуючи результати роботи більшої моделі, яка вже доступна на ринку. У понеділок Амодеї заявив, що він погоджується: занепокоєння щодо незаконної дистиляції слід вирішувати через точкові правові та комерційні рамки.

Амодеї визначає сфери згоди та незгоди з листом коаліції

Амо-деї сказав, що він погоджується з частинами листа коаліції, зокрема з тим, що моделі із відкритими вагами надають клієнтам більше контролю, розширюють доступ до економіки ШІ та посилюють конкуренцію в деяких сценаріях використання. Він заявив, що не погоджується з ідеєю, ніби моделі із відкритими вагами надають перевагу кіберзахисникам над атакувальниками або що вони полегшують користувачам розроблення запобіжників.

Поширені запитання

Що гендиректор Anthropic Даріо Амодеї сказав у понеділок про заборону моделей ШІ із відкритими вагами?

Даріо Амодеї опублікував у понеділок допис у блозі, в якому заявив, що Anthropic ніколи не виступала за заборону моделей із відкритими вагами як за категорію. Він написав, що фокус має бути не на цьому: натомість потрібно не допускати, щоб потужні чипи потрапляли до рук авторитарних режимів, зупинити дистиляцію промислового масштабу та вимагати тестування безпеки для всіх достатньо спроможних моделей.

Чому наприкінці минулого тижня технологічні компанії оприлюднили лист щодо моделей ШІ із відкритими вагами?

Коаліція, до якої входили Nvidia, Microsoft, Meta та Palantir, наприкінці минулого тижня оприлюднила лист із закликом до політиків уникати поспішних обмежень для моделей із відкритими вагами. Лист з’явився на тлі дискусії щодо того, чи мають обмеження стосуватися китайських розроблених моделей із відкритими вагами, які нині домінують на ринку, у США.

Яке звинувачення в дистиляції Anthropic висунув Alibaba минулого місяця?

Минулого місяця Anthropic надіслав лист до Комітету Сенату США з питань банківської справи, житлового будівництва та міського розвитку, в якому звинуватив Китайську Alibaba, розробника сімейства моделей Qwen, у тому, що вона здійснила проти Anthropic найбільшу з відомих атак із дистиляції на той час.