Решения на базе ИИ, находящиеся на грани жизни и смерти, должны оставаться под руководством человека, заявляет панель WAIC 2026

На Всемирной конференции по искусственному интеллекту 2026 года участники дискуссии, включая Сюэ Лань (директор Института управления ИИ при Пекинском университете Цинхуа), Николаса Б. Диркса (президент и генеральный директор Нью-Йоркской академии наук) и Марка Нитцберга (исполнительный директор Центра человекосовместимого искусственного интеллекта при Калифорнийском университете в Беркли), обсудили вопросы управления ИИ-агентами. По итогам панельного обсуждения ИИ смещается от «помощи в принятии решений» к «автономным действиям», что требует расширения цепочек подотчетности между разработчиками, развертывающими сторонами и регуляторами.

Участники дискуссии пришли к консенсусу: решения с последствиями уровня «жизнь или смерть», сценарии, которые нельзя исправить, если они оказались неверными, и любые вопросы, связанные с этическими и ценностными суждениями, ни при каких обстоятельствах не должны вестись ИИ. Люди могут разрешать действия ИИ, но не могут делегировать ответственность. Каждое разрешение должно быть отзывным, каждое действие — прослеживаемым, а темп предоставления ИИ агентных полномочий никогда не должен превышать темп проверки способности ИИ.