Этика ИИ: почему важно сейчас работать над этичным ИИ

Откройте для себя лучшие новости и события в финтехе!

Подписывайтесь на рассылку FinTech Weekly

Читают руководители JP Morgan, Coinbase, Blackrock, Klarna и других компаний

Этика искусственного интеллекта — одна из главных забот инвесторов и аналитиков, особенно с момента появления ChatGPT от OpenAI, которая стала самым быстрорастущим приложением.

Этика необходима, если мы хотим, чтобы искусственный интеллект не становился опасным и использовался правильно — особенно в финтех-индустрии, поскольку неправильное использование не обученного AI в финансах может быть особенно опасным.

Почему этика AI становится в центре внимания

Этика в области искусственного интеллекта привлекает внимание как положительными, так и отрицательными новостями.

В то время как Microsoft недавно сократила свой отдел AI & Society — оставив всего 7 человек во время одной из волн сокращений, затронувших компанию, многие аналитики и организации пытаются задуматься над этой темой и размышляют о том, почему этика важна.

Это также включает международные организации и политику, что, возможно, поможет обычным пользователям — возможно, еще слишком неосведомленным о прогрессе искусственного интеллекта — убедиться, что AI — это не только бизнес-тема.

23 ноября 2021 года ЮНЕСКО выпустило документ «Рекомендации по этике искусственного интеллекта», который затем был принят 193 государствами-членами.

Рекомендации начинаются с фразы: «Принимая полностью во внимание, что быстрое развитие технологий AI ставит под угрозу их этическую реализацию и управление, а также уважение и защиту культурного разнообразия, и имеет потенциал нарушить местные и региональные этические стандарты и ценности».

Упоминание мультикультурализма важно в контексте AI.

Как мы увидим чуть позже, важно учитывать, что не все умеют управлять и использовать AI, и если он останется прерогативой технологических профессионалов и предприятий, некоторым культурам и сегментам населения может быть трудно получить доступ к этой важной технологии.

Есть ли у нас осознанный AI?

Пока что — нет, по крайней мере, не существует осознанного AI.

До сих пор инструменты на базе AI обучаются людьми и данными. С одной стороны, это означает, что AI пока нельзя считать слишком опасным, с другой — если люди предоставляют предвзятые данные, то и ответы AI будут предвзяты.

То же самое касается случаев, когда данные и обучение предоставляются только определенными специалистами и в определенных странах.

Как сообщает MIT, разрыв между мужчинами и женщинами в STEM (наука, технологии, инженерия и математика) по-прежнему очень значителен, и женщины, работающие в этих областях по специальности, составляют всего 28%.

Отчет IDC (International Data Corporation), «Глобальный гид по расходам на искусственный интеллект», показывает, что инвестиции в AI в 2023 году достигнут 154 миллиардов долларов. Но в каких странах сосредоточены эти инвестиции?

По данным InvestGlass, основные инвестиции концентрируются в США и Китае. Также Япония, Канада и Южная Корея увеличивают вложения и стратегии, связанные с AI. Европейский союз не является лидером в области искусственного интеллекта — хотя такие страны, как Германия и Франция, развивают интересную среду для AI.

Все эти данные показывают, что не все участвуют в этой революции, а это, конечно, может негативно сказаться на этическом и ценностном развитии AI.

Если AI останется слишком сосредоточенным в определенных сферах и странах, данные, которые он будет производить, обязательно будут предвзятыми.

Если мультикультурализм еще не полностью учтен, инвесторы уже ищут технологии, которые могут быть социально ответственными и этичными.

Что думают инвесторы об AI?

За последние годы возросла общая осведомленность о социальной ответственности, что привело к тому, что инвесторы предпочитают бизнесы, не наносящие вред обществу.

В случае с искусственным интеллектом трудно не только создать глобальные рамки для регулирования технологии, но и полностью понять, что на самом деле является этичным в контексте AI.

AI относительно нов и его правильное использование усложняется тем, что он постоянно меняется.

Именно поэтому инвесторы используют различные методы для оценки возможных будущих разработок AI-бизнеса, а также его этики со временем и по мере внесения изменений.

Как сообщает TechCrunch, кажется, что инвесторам может быть полезнее оценивать характеристики и качества владельца проекта, чтобы лучше понять, как он или она может реагировать на новые рамки и как они хотят управлять AI-проектом несмотря на постоянные изменения.

Так что, даже говоря об AI, последнее слово все равно за человеком — и чем более этичны люди, использующие AI, тем более этичным будет AI в будущем.

Заключительные мысли

Этика AI — сложная тема, и трудно определить, как AI может быть этичным.

AI не обладает сознанием, у него нет души — независимо от того, как можно определить душу.

Несмотря на это, сейчас крайне важно работать над этикой AI, чтобы избежать как можно большего количества опасностей в будущем.

Если хотите больше узнать о новостях, событиях и аналитике в финтехе, подпишитесь на рассылку FinTech Weekly!