Віталік: Безпека та досвід користувача не є незалежними сферами, ціль мінімізації намірів та відхилень у поведінці системи

Foresight News повідомляє, що Віталік Бутерін у своєму дописі на Farcaster зазначив, що мета безпеки — мінімізувати відхилення між намірами користувача та фактичною поведінкою системи. «Користувацький досвід» також можна так визначити, тому безпека і користувацький досвід не є незалежними сферами; безпека більше зосереджена на крайових ризиках (великі витрати на відхилення) та на протидії поведінковим ризикам. Ідеальна безпека неможлива, оскільки «намір користувача» сам по собі надзвичайно складний, і користувачам важко чітко його висловити (наприклад, у випадку «відправити 1 ETH Бобу», де Бобу важко математично визначити). Більш складні цілі, такі як «захист приватності», також важко визначити (метадані витікають значно більше, ніж шифрування). Це схоже на ранні проблеми безпеки ШІ: цілі важко стабільно визначити.

Відмінні рішення з безпеки повинні мати такі характеристики: користувачі виражають наміри у кілька способів, що перекриваються, і система виконує їх лише при узгодженні з кількох точок зору. Приклади включають типові системи у програмуванні, формальну верифікацію, симуляцію транзакцій, постфактумні твердження, мультипідпис / соціальне відновлення, обмеження витрат і підтвердження аномалій — все це через надмірність зменшує ризик. Крім того, LLM може використовуватися для моделювання намірів (загальні LLM наближають людський досвід, а тонке налаштування LLM — наближає його до користувача), але не може самостійно визначати наміри, а лише слугує додатковим засобом з різних точок зору для підвищення ефективності надмірності.