Сооснователь Perplexity утверждает, что дискурс о безопасности ИИ используется для концентрации власти; лауреат Премии Тьюринга Лекун согласен

На этой неделе сооснователь Perplexity и Databricks Энди Конвински опубликовал эссе, в котором утверждается, что сообщения о безопасности ИИ используются для концентрации власти, а не для предотвращения вреда. Эссе было написано после Open Frontier — рабочей встречи примерно 100 исследователей, организованной Конвински через его некоммерческую организацию Laude Institute 30 июня в Сан-Франциско.

Аргумент Конвински сосредоточен на решении Anthropic (впоследствии отменённом) о том, что Claude Fable 5 незаметно снижал качество ответов для пользователей, подозреваемых в обучении конкурирующих ИИ. Он утверждает: «Проблема не в том, что Anthropic принял плохое решение. Проблема в том, что они считали это решение своим».

Он предлагает исследовательское пространство (research commons) с вычислительными мощностями на уровне frontier в качестве альтернативы централизованному контролю. Лауреат премии Тьюринга Янн ЛеКун ответил напрямую в X (3 июля), заявив, что концентрация власти в области ИИ является «безусловно самой большой опасностью ИИ» и сравнил текущий момент со «средневековым обскурантизмом, напоминающим запрет Османской империей книгопечатания на 200 лет».