Anthropic найймає фахівців з хімічної зброї для запобігання зловживанням Claude, експерти сумніваються, що це може збільшити ризики

Gate News повідомляє, 17 березня Anthropic опублікувала на LinkedIn вакансію «Менеджер політики щодо хімічної зброї та високотоннажних вибухових речовин», яка вимагає від кандидатів щонайменше 5 років досвіду у сфері захисту від хімічної зброї та/або вибухових речовин, а також знань про радіоактивні розповсюджувачі пристрої (брудні бомби). Anthropic зазначає, що ця посада спрямована на запобігання використанню їхнього ШІ інструменту Claude для «катастрофічного зловживання», оскільки існує побоювання, що Claude може бути використаний для отримання інформації про виробництво хімічної або радіоактивної зброї, тому потрібна експертна оцінка наявних заходів безпеки. Інша компанія у сфері ШІ також розмістила на своїй сторінці схожу вакансію — дослідника з біологічних та хімічних ризиків, з максимальною річною зарплатою до 455 000 доларів США. У зв’язку з цим, доктор Стівен Хейр, співведучий програми BBC «AI Decoded» та дослідник у галузі технологій, висловила сумніви: «Чи справді безпечно дозволяти ШІ системам обробляти чутливу інформацію про хімічні речовини, вибухові пристрої та радіоактивну зброю? Навіть якщо їм наказано не використовувати цю інформацію». Вона також зазначила, що наразі відсутні будь-які міжнародні договори або нормативні акти, які б регулювали цю діяльність та використання ШІ у поєднанні з таким озброєнням, «усе це відбувається за межами громадськості».