Виталик: безопасность и пользовательский опыт — не отдельные области, минимизация целей и отклонений в поведении системы

ETH-0,39%

Foresight News сообщает, что Виталик Бутерин в своем посте на Farcaster заявил, что целью безопасности является минимизация отклонений между пользовательским намерением и фактическим поведением системы. «Пользовательский опыт» также можно определить таким образом, поэтому безопасность и пользовательский опыт не являются отдельными областями; безопасность больше сосредоточена на краевых рисках (высокая стоимость отклонений) и на противодействии поведению, вызывающему такие риски. Идеальная безопасность невозможна, поскольку «пользовательское намерение» само по себе чрезвычайно сложно, пользователи трудно четко его выразить (например, в случае «отправить 1 ETH Бобу» — Боб не может быть математически определен). Более сложные цели, такие как «защита конфиденциальности», также трудно определить (утечка метаданных значительно превосходит шифрование). Это похоже на ранние проблемы безопасности ИИ: цели трудно надежно задать.

Отличные решения по безопасности должны включать следующие характеристики: пользователь выражает свои намерения множественными, перекрывающимися способами, а система выполняет их только при согласовании с нескольких сторон. Примеры включают типовые системы в программировании, формальную верификацию, моделирование транзакций, пост-транзакционные утверждения, мультиподписи / социальное восстановление, лимиты расходов и подтверждение аномалий — все это снижает риски за счет избыточности. Кроме того, LLM могут использоваться для моделирования намерений (универсальные LLM приближают человеческий здравый смысл, пользователь донастраивает LLM для приближения к своему собственному мышлению), но не должны самостоятельно определять намерения, а лишь дополнять их с разных точек зрения, повышая эффективность избыточности.

Посмотреть Оригинал
Отказ от ответственности: Информация на этой странице может поступать от третьих лиц и не отражает взгляды или мнения Gate. Содержание, представленное на этой странице, предназначено исключительно для справки и не является финансовой, инвестиционной или юридической консультацией. Gate не гарантирует точность или полноту информации и не несет ответственности за любые убытки, возникшие от использования этой информации. Инвестиции в виртуальные активы несут высокие риски и подвержены значительной ценовой волатильности. Вы можете потерять весь инвестированный капитал. Пожалуйста, полностью понимайте соответствующие риски и принимайте разумные решения, исходя из собственного финансового положения и толерантности к риску. Для получения подробностей, пожалуйста, обратитесь к Отказу от ответственности.

Связанные статьи

Claude AI прогнозирует цену Биткоина и Эфириума в случае эскалации конфликта на Ближнем Востоке

Криптовалютный рынок в настоящее время находится в сложной фазе. Произошла серия ралли, за которыми последовало снижение темпов роста цен. Это привело к изменению настроений на рынке. Трейдеры сейчас задаются вопросом, достигнута ли дна или цены продолжат падать. The rall

CaptainAltcoin33м назад

Соучредитель ETH Jeffrey Wilcke перевёл почти 80 000 ETH, стоимостью 157 миллионов долларов

Gate News сообщение, 7 марта, аналитик на блокчейне Ai 姨 обнаружил, что соучредитель ETH Jeffrey Wilcke за 5 минут перевел через 4 адреса на некоторую CEX 79258.61 ETH, что составляет 1.57 миллиарда долларов. Этот адрес впервые за 7 месяцев снова активен. В настоящее время на этом адресе в блокчейне все еще находится 27421.73 ETH, общая стоимость составляет 54.37 миллиона долларов.

GateNews3ч назад

Американский спотовый ETF по Ethereum за эту неделю зафиксировал чистый отток в размере 23,5 миллиона долларов

Gate News сообщение, 7 марта, согласно данным мониторинга Farside, за текущую неделю американский спотовый ETF на Ethereum зафиксировал чистый отток в размере 23,5 миллиона долларов.

GateNews4ч назад

Citibank продвигает «банкизацию биткоина»: стремится запустить в этом году «корпоративное хранение» и «кросс-активное залоговое обеспечение» услуги

Группа Citigroup продвигает банковскую интеграцию биткоина, планируя глубоко интегрировать его в традиционную финансовую систему и запустить институциональные крипто-кастодиальные услуги к 2026 году. Упростив процесс транзакций с биткоином и снизив операционные барьеры, Citigroup надеется привлечь больше институтов к дальнейшему использованию цифровых активов. Кроме того, банк исследует применение стейблкоинов и депозитных токенов на блокчейне, надеясь предоставить традиционным финансовым учреждениям удобные способы капиталовложений.

区块客5ч назад
комментарий
0/400
Нет комментариев