Генеральный директор Microsoft: компании, которые передают контроль над данными ИИ, прекратят своё существование

Генеральный директор Microsoft Сатья Наделла заявил, что любая компания, которая уступает контроль над данными своей ИИ, не сможет остаться компанией. Эти замечания развивают июльский 12-й пост в блоге, где Наделла описал обратный информационный парадокс, утверждая, что компании платят за интеллект дважды: сначала деньгами, а затем собственной проприетарной информацией. В интервью CNN Фариду Закарии Наделла предупредил, что бизнес сталкивается с экзистенциальным риском, когда поставщики ИИ учатся на пользовательских запросах и исправлениях, создавая однонаправленный поток знаний, который работает в пользу вендоров за счет покупателей.

Наделла объясняет обратный информационный парадокс в сделках с ИИ

Наделла ограничил свое предупреждение бизнесом, отделив его позицию от потребителей, которые обменивают данные на бесплатные услуги в рамках рекламной модели. По его словам, компаниям приходится принимать иное решение, потому что организация, создающая знания, нуждается в том, чтобы эти знания оставались внутри фирмы.

Наделла рассказал CNN, что теперь компании держат «токеновый капитал» наряду с человеческим капиталом. Этот термин описывает ИИ-возможности и модели, которые фирма создает и которыми владеет. Он изложил эту идею в июне.

Пост от 12 июля подробно раскрывает механизм этого предупреждения. Поставщики, как написал Наделла, обучаются на пользовательских запросах, исправлениях и активности агентів, при этом обучение идет в одном направлении.

«ИИ создает обратную проблему. В эпоху ИИ покупатель рискует отдать знания — просто чтобы использовать то, что он купил», — отметил руководитель.

Генеральный директор Microsoft предписывает три меры контроля данных для компаний

Наделла сказал Закарии, что компаниям следует сохранять метаданные из каждого взаимодействия с любой моделью. Эти данные, по его словам, позже можно будет использовать для обучения собственных весов или модели компании.

Он также призвал к изменениям в правовом поле. Патенты, авторские права и товарные знаки, как он отметил, защищают продавцов. По его мнению, ИИ — первый случай, когда покупателям нужны собственные защитные права.

Если не принимать новый закон, он предложил технический путь. Компании должны держать «устройство/оснастку», контекст и память отдельно от любой конкретной модели. Такая структура позволяет фирмам использовать несколько моделей и сохранять контроль, даже если одна исчезнет.

Для компаний, у которых нет такого контроля, Наделла сформулировал ставки как экзистенциальные.

«(А) фирма, у которой нет такого контроля, — утверждаю я, — не останется фирмой, потому что вы фактически передали вовне свое мышление», — сказал он.

Закария отметил, что аргумент идет на пользу Microsoft, чья бизнес-модель опирается на превращение пространства моделей в товар. Наделла ответил, что проблема не привязана к конкретной фирме, поскольку любой компании, лишенной такого контроля, грозит тот же исход.

FAQ

Что гендиректор Microsoft Сатья Наделла сказал о контроле ИИ-данных у компаний?

Сатья Наделла заявил, что любая компания, которая отдает контроль над данными своей ИИ, не сможет остаться компанией; он предупредил, что бизнес рискует передать вовне свое мышление, когда поставщики ИИ учатся на пользовательских взаимодействиях в однонаправленном потоке знаний.

Какие решения Наделла предложил компаниям, использующим ИИ?

Наделла сказал Фариду Закарии, что компаниям следует сохранять метаданные из каждого взаимодействия с моделью, чтобы обучать собственные веса, добиваться правовой защиты для покупателей ИИ и держать инфраструктуру моделей модульной, разделяя оснастку, контекст и память от любой конкретной модели.

Что такое обратный информационный парадокс, который описал Наделла?

В блоге от 12 июля Наделла описал обратный информационный парадокс как ситуацию, когда компании платят за интеллект дважды — сначала деньгами, а затем проприетарными знаниями — потому что поставщики ИИ учатся на пользовательских запросах и исправлениях, создавая однонаправленную передачу знаний, которая выгодна вендорам.