Злиття AI та Web3: Нові виклики безпеки, спричинені виникненням DeFAI

Нещодавно на Стамбульському тижні блокчейну (IBW 2025) було зосереджено увагу на тенденціях інтеграції AI та Web3, що стало важливою платформою для обговорення безпеки Web3 цього року. Протягом двох днів заходу кілька експертів галузі провели глибокі обговорення про поточний стан застосування AI-технологій у DeFi та пов'язані з ними виклики безпеки.

Експерти зазначають, що з швидким розвитком великих мовних моделей (LLM) та AI-агентів поступово формується нова фінансова парадигма під назвою DeFAI (децентралізовані фінансові технології штучного інтелекту). Однак ця інновація також створює нові вектори атак та загрози безпеці.

Високопосадовець однієї з безпекових компаній заявив: "DeFAI має великі перспективи, але також змушує нас переглянути механізми довіри у децентралізованих системах. На відміну від смарт-контрактів, що базуються на фіксованій логіці, процес прийняття рішень AI-агентів підлягає впливу різних факторів, таких як контекст, час та історичні взаємодії. Ця непередбачуваність не лише підвищує ризики, але й створює можливості для потенційних зловмисників."

AI-агенти в основному є розумними одиницями, які здатні самостійно приймати рішення та виконувати їх на основі AI-логіки, зазвичай працюють за дозволом користувачів, протоколів або DAO. Серед них AI-торгові роботи є найтиповішими представниками. Наразі більшість AI-агентів все ще працює на основі архітектури Web2, покладаючись на централізовані сервери та API, що робить їх вразливими до атак ін'єкцій, маніпуляцій моделями або спотворення даних. Якщо їх захоплять, це може призвести не лише до втрати коштів, але й вплинути на стабільність всього протоколу.

Експерти також обговорили типовий сценарій атаки: коли AI-торговий агент, що працює для користувачів DeFi, моніторить повідомлення в соціальних мережах як торгові сигнали, зловмисник може опублікувати фальшиві попередження, наприклад, "якийсь протокол зазнає атаки", таким чином спонукаючи агента негайно запустити екстрене очищення активів. Ця операція не лише призведе до втрати активів користувача, але й може викликати коливання на ринку, які зловмисник потім зможе використати через переднє торгування (Front Running).

Щодо цих ризиків, учасники конференції одностайно визнали, що безпека AI-агентів не повинна покладатися на одну сторону, а є спільною відповідальністю користувачів, розробників та третіх сторін безпеки.

Користувачам слід чітко розуміти обсяг прав, які має агент, обережно надавати повноваження та уважно стежити за високими ризиками операцій AI-агента. Розробники повинні на етапі проектування впроваджувати заходи безпеки, такі як посилення підказок, ізоляція в пісочниці, обмеження швидкості та механізми резервного копіювання. Треті сторони безпеки повинні забезпечити незалежний аудит поведінки моделей AI-агента, інфраструктури та способів інтеграції в блокчейн, а також співпрацювати з розробниками та користувачами для виявлення ризиків та пропозиції заходів з їх пом'якшення.

Деякий експерт з безпеки попередив: "Якщо продовжувати розглядати AI-агентів як 'чорну скриньку', то в реальному світі безпекові інциденти - лише питання часу." Він порадив розробникам, які досліджують напрям DeFAI: "Як і у випадку зі смарт-контрактами, логіка поведінки AI-агентів також реалізується за допомогою коду. Оскільки це код, існує ймовірність атаки, тому потрібен професійний аудит безпеки та тестування на проникнення."

Як одна з найвпливовіших блокчейн-подій Європи, IBW залучила понад 15 тисяч розробників, представників проектів, інвесторів та регуляторів з усього світу. Цього року, з офіційним запуском комісією з капітальних ринків Туреччини (CMB) ліцензування блокчейн-проектів, позиція IBW в індустрії отримала подальше підвищення.