Дослідження MIT та Університету Квінсленду показує 12% ризику того, що ШІ для біозброї спричинить катастрофічну шкоду до 2030 року

За даними Axios, спільне дослідження MIT FutureTech і Університету Квінсленду, опубліковане сьогодні, показує, що 272 дослідники, які оцінювали 24 ризики ШІ, виявили 12% імовірності того, що можливості ШІ можуть призвести до катастрофічних наслідків — визначених як понад 1 мільйон смертей або понад $100 млрд збитків — до 2030 року за наявності поточних заходів із зменшення ризиків. Та сама ймовірність стосується ШІ-здатної зброї та масової шкоди. Без заходів із зменшення ризиків цей показник перевищує 20%. Дослідження віднесло допомогу ШІ у створенні хімічної та біологічної зброї до категорій із найвищим ризиком.

Кілька керівників провідних компаній у сфері ШІ також опублікували спільного листа з публічним попередженням про ризики біозброї, створеної за допомогою ШІ, закликаючи посилити аудит можливостей моделей і запобіжники безпеки, зокрема щодо потенційного зловживання відкритими моделями з відкритим кодом.