Слияние AI и Web3: новые вызовы безопасности, вызванные появлением DeFAI

Недавно в Стамбуле прошла Неделя блокчейна (IBW 2025), сосредоточившаяся на тенденциях融合 AI и Web3, став важной платформой для обсуждения безопасности Web3 в этом году. В ходе двухдневного мероприятия несколько отраслевых экспертов провели глубокое обсуждение текущего состояния применения технологий AI в DeFi и связанных с ними проблем безопасности.

Эксперты указывают на то, что с быстрым развитием больших языковых моделей (LLM) и AI-агентов постепенно формируется новая финансовая парадигма под названием DeFAI (децентрализованный искусственный интеллект в финансах). Однако эта инновация также приносит новые поверхности атаки и риски безопасности.

Некоторые высокопоставленные чиновники компании по безопасности заявили: "DeFAI имеет широкий потенциал, но также заставляет нас переосмыслить механизмы доверия в децентрализованных системах. В отличие от смарт-контрактов, основанных на фиксированной логике, процесс принятия решений AI-агентами подвержен влиянию множества факторов, таких как контекст, время и исторические взаимодействия. Эта непредсказуемость не только увеличивает риски, но и создает возможности для потенциальных злоумышленников."

AI-агенты по своей сути являются интеллектуальными системами, способными принимать самостоятельные решения и выполнять действия на основе логики ИИ, обычно действующими по поручению пользователя, протокола или DAO. Среди них AI-торговые роботы являются наиболее典型ным представителем. В настоящее время большинство AI-агентов все еще функционируют на основе архитектуры Web2, полагаясь на централизованные серверы и API, что делает их уязвимыми для инъекционных атак, манипуляций с моделями или подделки данных. Если они будут захвачены, это может привести не только к потерям средств, но и может повлиять на стабильность всего протокола.

Эксперты также обсудили典型ный сценарий атаки: когда AI-торговый агент, работающий у пользователей DeFi, мониторит сообщения в социальных сетях как торговые сигналы, злоумышленник может опубликовать ложное предупреждение, например, "определенный протокол подвергся атаке", что может побудить агента немедленно начать экстренную ликвидацию. Эта операция не только приведет к потерям активов пользователей, но также может вызвать колебания рынка, которые затем могут быть использованы злоумышленником с помощью фронт-раннинга.

В связи с этими рисками эксперты, присутствующие на встрече, единогласно пришли к выводу, что безопасность AI-агентов не должна лежать на одной стороне, а является совместной ответственностью пользователей, разработчиков и третьих сторон по обеспечению безопасности.

Пользователи должны ясно понимать объем полномочий, которыми обладает агент, осторожно предоставлять права и внимательно следить за высокорисковыми операциями AI-агента. Разработчики должны внедрять меры защиты уже на этапе проектирования, такие как усиление подсказок, изоляция в песочнице, ограничение скорости и логика отката. Третьи компании по безопасности должны проводить независимый аудит поведения моделей AI-агентов, инфраструктуры и методов интеграции в цепочку блоков, а также сотрудничать с разработчиками и пользователями для выявления рисков и предложения мер по их смягчению.

Некоторый эксперт по безопасности предупредил: "Если продолжать рассматривать AI-агентов как 'черный ящик', то инциденты безопасности в реальном мире — это лишь вопрос времени." Он посоветовал разработчикам, которые исследуют направление DeFAI: "Как и в случае со смарт-контрактами, логика поведения AI-агентов также реализована с помощью кода. Поскольку это код, существует возможность атак, поэтому требуется проводить профессиональный аудит безопасности и тестирование на проникновение."

Как одно из самых влиятельных блокчейн-событий в Европе, IBW привлекла более 15 000 разработчиков, проектов, инвесторов и регуляторов со всего мира. В этом году, с официальным запуском выдачи лицензий на блокчейн-проекты Комиссией по капиталовложениям Турции (CMB), статус IBW в отрасли получил дополнительное повышение.