Виклики безпеки в умовах злиття AI та Web3

Нещодавно на заході Blockchain Week, який проходив в Стамбулі, експерти галузі провели глибокі обговорення щодо тенденцій інтеграції штучного інтелекту та Web3, зокрема звернувши увагу на нові виклики безпеки, що виникають у зв'язку з цією тенденцією.

Зі швидким розвитком великих мовних моделей та AI-агентів формується новий фінансовий режим, відомий як "DeFAI" (децентралізовані фінансові технології штучного інтелекту). Ця інновація, хоча і має великі перспективи, водночас приносить нові ризики безпеки та можливості для атак.

Експерти зазначають, що на відміну від традиційних смарт-контрактів, заснованих на фіксованій логіці, процес прийняття рішень AI-агентів підлягає впливу багатьох факторів, включаючи контекст, час і навіть історичні взаємодії. Ця непередбачуваність не лише збільшує ризики, але й надає можливості для потенційних нападників.

AI-агенти в основному є інтелектуальними сутностями, здатними самостійно приймати рішення та виконувати їх на основі AI-логіки, зазвичай уповноважені на роботу користувачами, протоколами або децентралізованими автономними організаціями. Серед них, AI-торгові роботи є найтиповішими представниками. На даний момент більшість AI-агентів все ще працюють на архітектурі Web2, покладаючись на централізовані сервери та API, що робить їх вразливими до різних атак, таких як атаки ін'єкцій, маніпуляції моделлю або підміна даних. Якщо AI-агент буде захоплений, це може призвести не лише до втрати коштів, але й вплинути на стабільність всього протоколу.

Експерти навели приклад типової атакуючої ситуації: коли AI-трейдинговий агент, що працює у користувача DeFi, моніторить повідомлення в соціальних мережах як торгові сигнали, зловмисник може опублікувати фальшивий сигнал тривоги, наприклад, стверджуючи, що певний протокол зазнав атаки. Це може спонукати AI-агента негайно розпочати термінову ліквідацію, що не тільки призведе до втрат активів користувача, але також може спричинити коливання ринку, які зловмисник може використати за допомогою методів, таких як фронтранінг.

Щодо цих ризиків, експерти одноголосно вважають, що безпека AI-агентів не повинна покладатися на один аспект, а потребує спільних зусиль користувачів, розробників та третіх осіб з безпеки.

Користувачі повинні чітко розуміти обсяг повноважень, наданих агенту, обережно надавати повноваження та звертати увагу на перевірку високоризикових дій AI-агента. Розробники повинні впроваджувати заходи безпеки вже на етапі проектування, такі як посилення запитів, ізоляція в пісочниці, обмеження швидкості та механізми відкату. Треті сторони безпеки повинні забезпечити незалежний аудит поведінки моделей AI-агентів, інфраструктури та способів інтеграції в блокчейн, а також співпрацювати з розробниками та користувачами для виявлення ризиків і пропозицій щодо їх пом'якшення.

Для розробників, які досліджують напрямок DeFAI, експерти радять розглядати AI-агентів як код, який може бути атакований, а не як "чорну скриньку". Тому, як і смарт-контракти, AI-агенти також потребують професійного аудиту безпеки та тестування на проникнення для забезпечення їхньої безпеки та надійності.

З розвитком глибокої інтеграції ШІ та Web3, виклики безпеки продовжать еволюціонувати. Експерти закликають усіх залишатися пильними та спільно працювати над створенням більш безпечної та надійної децентралізованої фінансової екосистеми штучного інтелекту.