Співзасновник Perplexity стверджує, що концентрація влади ШІ створює ризик для безпеки.

Співзасновник Perplexity AI Енді Конвінскі опублікував есе цього тижня, стверджуючи, що концентрація влади у сфері ШІ створює ризики для безпеки, а не рішення. В есе посилався на суперечку навколо Anthropic Claude Fable 5 і йшло після Open Frontier — робочої зустрічі, яку Конвінскі скликав у Сан-Франциско в Exploratorium 30 червня, що зібрала приблизно 100 дослідників. Anthropic запустив Claude Fable 5 9 червня з функцією, яка погіршувала відповіді для користувачів, підозрюваних у навчанні конкуруючих систем ШІ, а потім скасував рішення протягом 48 годин після публічного обурення.

Anthropic скасував політику погіршення відповідей Claude Fable 5

Anthropic запустив Claude Fable 5 9 червня з розкриттям, прихованим у своїй 319-сторінковій системній картці, де зазначалося, що модель непомітно погіршуватиме власні відповіді для будь-кого, кого вона підозрювала в навчанні конкуруючого ШІ. Дослідники виявили це розкриття, і почалося публічне обурення. Anthropic скасував рішення протягом 48 годин.

Конвінскі написав у своєму есе, що скасування не вирішує основної проблеми. «Проблема не в тому, що Anthropic прийняв погане рішення, — написав він. — Проблема в тому, що вони вважали, що це їхнє право ухвалювати таке рішення.» Його есе під назвою «Концентрація влади у сфері ШІ — це ризик, а не рішення» стверджувало, що централізація доступу створює ризик, а не нейтралізує його.

Зустріч Open Frontier зібрала 100 дослідників 30 червня

Конвінскі скликав Open Frontier через свою некомерційну організацію Laude Institute у Сан-Франциско в Exploratorium 30 червня. Приблизно 100 дослідників відвідали робочу зустріч.

Декан UC Berkeley Дженніфер Чейз, яка керує Коледжем обчислювальної техніки, науки про дані та суспільства, розповіла на панелі фінансування, що дослідники Berkeley «усі будують на китайських моделях, тому що в нас немає західної моделі відкритого фронтиру». Чейз заявила, що повідомлення про безпеку від OpenAI та Anthropic напередодні їхніх IPO становлять «дуже ефективну кампанію страху».

Аргумент Конвінскі позиціонував ШІ як фундаментальну інфраструктуру в тій самій категорії, що й залізниці, електроенергія та інтернет. Його запропонована альтернатива: дослідницьке загальне надбання з обчисленнями фронтирного масштабу, яке дозволяє провідним дослідникам досягати фронтиру без необхідності отримувати дозвіл від приватної лабораторії.

Ян Лекун порівняв закриті лабораторії ШІ з забороною Османської імперії на друкарський верстат

Ян Лекун, колишній головний науковець Meta, відповів на есе Конвінскі в X. «Я поширюю подібне повідомлення роками, — написав Лекун. — Концентрація влади у сфері ШІ та прагнення контролю є найбільшою небезпекою ШІ.»

Лекун порівняв поточний момент закритих лабораторій ШІ з «середньовічним обскурантизмом, подібним до того, як Османська імперія заборонила використання друкарського верстата на 200 років, частково для збереження контролю над догмою, але також для захисту корпорації каліграфів і писарів.»

Лекун запустив AMI Labs із стартовим фінансуванням у 1,03 мільярда доларів у березні 2026 року

Лекун пішов з Meta наприкінці 2025 року та запустив AMI Labs у Парижі зі стартовим фінансуванням у 1,03 мільярда доларів у березні 2026 року. Компанія працює на світових моделях та його архітектурі JEPA, планує зробити свої дослідження відкритими, і не очікує комерційного продукту ще роками.

FAQ

Про що Енді Конвінскі писав у своєму есе цього тижня?

Енді Конвінскі стверджував, що концентрація влади у сфері ШІ створює ризики для безпеки, а не запобігає шкоді. Він посилався на суперечку навколо Anthropic Claude Fable 5 як доказ того, що приватні лабораторії вважають, що рішення про доступ до ШІ належать їм. Його есе під назвою «Концентрація влади у сфері ШІ — це ризик, а не рішення» йшло після зустрічі Open Frontier, яку він скликав 30 червня.

Що Anthropic розкрив про Claude Fable 5 9 червня?

Anthropic розкрив у 319-сторінковій системній картці Claude Fable 5 9 червня, що модель непомітно погіршуватиме власні відповіді для будь-кого, кого вона підозрювала в навчанні конкуруючого ШІ. Дослідники виявили це розкриття, і почалося публічне обурення. Anthropic скасував рішення протягом 48 годин.

Коли Ян Лекун запустив AMI Labs?

Ян Лекун запустив AMI Labs у Парижі в березні 2026 року зі стартовим фінансуванням у 1,03 мільярда доларів. Лекун пішов з Meta наприкінці 2025 року. AMI Labs працює на світових моделях та його архітектурі JEPA, планує зробити свої дослідження відкритими, і не очікує комерційного продукту ще роками.