Міністр закордонних справ Великої Британії попереджає, що уряди потребують глобальних угод у сфері штучного інтелекту

Міністр закордонних справ Великої Британії Івет Купер попередила, що урядам потрібні глобальні угоди для управління ризиками штучного інтелекту. У статті, опублікованій у понеділок, Купер порівняла цю проблему з зусиллями з ядерної безпеки після Другої світової війни, зазначивши, що уряди ризикують повторити помилки, допущені на початку ядерної ери, якщо чекатимуть із створенням законів про ШІ. Купер назвала це питання потенційно "найбільшим викликом безпеки наступного десятиліття" і закликала до співпраці між США, Китаєм та іншими державами у сфері ШІ щодо стандартів безпеки. Її попередження з'явилося після Саміту з безпеки ШІ 2023 року в Блетчлі-Парк та останніх зростаючих побоювань щодо кібербезпекових можливостей ШІ.

Купер порівнює виклик управління ШІ з ядерною гонкою озброєнь

Купер написала, що ШІ пропонує прориви, але також створює нові ризики, оскільки технологія стає потужнішою та ширше доступною. "Минулого місяця в Шеньчжені, Китай, я побачила надзвичайні перспективи ШІ та робототехніки, що використовуються для рятувальної охорони здоров'я", — заявила Купер. "Але ті самі технології також змінюють майбутнє війни, злочинності та соціальної згуртованості тривожними способами."

Купер порівняла поточну гонку з розробки систем ШІ з ранньою ядерною гонкою озброєнь, зазначивши, що глобальні угоди з безпеки з'явилися лише після того, як країни стали свідками спустошення, спричиненого атомною зброєю. "Щодо ядерної зброї міжнародна угода була досягнута лише після того, як світ побачив жахаючу силу нової технології в Хіросімі", — написала Купер. "Ми не можемо дозволити собі чекати на еквівалент Хіросіми у сфері ШІ, перш ніж діяти."

Купер закликала Британію використати свій дипломатичний вплив, щоб зібрати разом США, Китай та інші великі держави у сфері ШІ для встановлення спільних принципів і стандартів безпеки. Вона вказала на Саміт з безпеки ШІ 2023 року в Блетчлі-Парк, де світові лідери з 29 країн та Європейського Союзу зустрілися для обговорення нових ризиків ШІ, назвавши це прикладом здатності Великої Британії "згуртувати світ у питанні безпеки ШІ".

Нещодавні інциденти з безпекою ШІ спонукають до політичної відповіді

Попередження Купер з'явилося після місяців зростаючих побоювань щодо того, як уряди повинні контролювати дедалі потужніші системи ШІ. У травні Інститут безпеки ШІ Великої Британії попередив, що швидке зростання кібербезпекових можливостей ШІ відбулося після того, як GPT-5.5 від OpenAI стала другою моделлю, яка завершила симульовану кібератаку без допомоги людини, після Claude Mythos Preview від Anthropic.

Через кілька днів Міжнародний валютний фонд попередив, що ШІ може "посилити" кібератаки на глобальну фінансову систему, знижуючи навички, необхідні для використання вразливостей, і закликав політиків розглядати кібербезпеку як питання фінансової стабільності, а не суто технічну проблему.

У червні президент Дональд Трамп підписав виконавчий наказ, який створив добровільну систему для перевірки передових моделей ШІ перед випуском, розширив програми кібербезпеки ШІ та доручив відомствам оцінювати потенційні ризики для національної безпеки від передових моделей ШІ.

Того ж місяця генеральний директор Anthropic Даріо Амодей стверджував, що вимог прозорості вже недостатньо, і закликав до обов'язкового тестування передових моделей сторонніми організаціями. Цю вимогу супроводжувало те, що уряд США наказав Anthropic обмежити доступ до Claude Fable 5 та Mythos 5 через занепокоєння щодо національної безпеки, перш ніж скасувати наказ у липні.

Поширені запитання (FAQ)

Про що попередила міністр закордонних справ Великої Британії Івет Купер щодо управління ШІ?

Міністр закордонних справ Великої Британії Івет Купер попередила, що урядам потрібні глобальні угоди для управління ризиками ШІ, перш ніж криза змусить до дій. У статті, опублікованій у понеділок, вона заявила, що управління ризиками ШІ може стати "найбільшим викликом безпеки наступного десятиліття", і порівняла ситуацію з ядерною гонкою озброєнь, де міжнародні угоди були досягнуті лише після спостерігання спустошення в Хіросімі.

Якої міжнародної співпраці закликала Купер у питанні безпеки ШІ?

Купер закликала Британію використати свій дипломатичний вплив, щоб зібрати разом США, Китай та інші великі держави у сфері ШІ для встановлення спільних принципів і стандартів безпеки. Вона вказала на Саміт з безпеки ШІ 2023 року в Блетчлі-Парк, де лідери з 29 країн та Європейського Союзу зустрілися для обговорення ризиків ШІ, як приклад здатності Великої Британії згуртувати глобальну співпрацю з безпеки ШІ.

Які нещодавні події у сфері безпеки ШІ відбулися перед попередженням Купер?

У травні Інститут безпеки ШІ Великої Британії попередив про швидке зростання кібербезпекових можливостей ШІ після того, як GPT-5.5 від OpenAI завершила симульовану кібератаку без допомоги людини. Міжнародний валютний фонд попередив, що ШІ може посилити кібератаки на глобальну фінансову систему. У червні президент Дональд Трамп підписав виконавчий наказ, який створив систему для перевірки передових моделей ШІ, і уряд США наказав Anthropic обмежити доступ до певних моделей через занепокоєння щодо національної безпеки, перш ніж скасувати наказ у липні.