Новые вызовы на стыке AI и Web3: проблемы безопасности DeFAI вызывают следование

Недавно в Стамбуле прошла Неделя блокчейна (IBW 2025), сосредоточенная на тенденциях слияния AI и Web3, став важной платформой для обсуждения безопасности Web3 в этом году. В течение двух дней мероприятия несколько экспертов отрасли провели глубокое обсуждение текущего состояния применения AI-технологий в области децентрализованных финансов (DeFi) и связанных с ними вызовов безопасности.

С быстрым развитием больших языковых моделей (LLM) и AI-агентов формируется новая финансовая парадигма — децентрализованное искусственное интеллектуальное финансирование (DeFAI). Однако эта инновация также принесла новые векторы атак и угрозы безопасности.

Некоторые руководители безопасности компании отметили: "Хотя DeFAI имеет большие перспективы, он также заставляет нас пересмотреть механизмы доверия в децентрализованных системах. В отличие от смарт-контрактов, основанных на фиксированной логике, процесс принятия решений AI-агента зависит от множества факторов, таких как контекст, время и даже исторические взаимодействия. Эта непредсказуемость не только увеличивает риски, но и создает возможности для злоумышленников."

AI-агенты по сути являются интеллектуальными системами, способными принимать автономные решения и выполнять их на основе логики ИИ, обычно работающими по разрешению пользователей, протоколов или DAO. Наиболее典型ный пример - это AI-торговые роботы. В настоящее время большинство AI-агентов все еще функционируют на архитектуре Web2, полагаясь на централизованные серверы и API, что делает их уязвимыми для инъекционных атак, манипуляций с моделями или изменения данных. В случае захвата это может привести не только к потере средств, но и существенно повлиять на стабильность всего протокола.

Эксперты также обсудили типичный сценарий атаки: когда AI-торговый агент, используемый DeFi-пользователями, мониторит сообщения в социальных сетях в качестве торговых сигналов, злоумышленник может опубликовать ложное предупреждение, например, "протокол подвергся атаке". Это может побудить AI-агента немедленно начать экстренную ликвидацию, что не только приведет к убыткам пользователей, но и может вызвать колебания на рынке, которые злоумышленник сможет использовать с помощью фронт-раннинга.

По мнению участников конференции, безопасность AI-агентов не должна быть единоличной ответственностью какой-либо стороны, а является общей ответственностью пользователей, разработчиков и сторонних организаций по безопасности.

Пользователи должны четко понимать объем полномочий, которыми обладает агент, осторожно предоставлять разрешения и внимательно проверять высокорисковые операции AI-агента. Разработчики должны внедрять меры защиты уже на этапе проектирования, такие как укрепление подсказок, изоляция в песочнице, ограничение скорости и механизмы отката. Третьи стороны безопасности должны проводить независимый аудит поведения модели AI-агента, инфраструктуры и способов интеграции в блокчейн, а также сотрудничать с разработчиками и пользователями для выявления рисков и предложения мер по их смягчению.

Некоторые эксперты по безопасности предупреждают: "Если продолжать рассматривать AI-агентов как 'черный ящик', то инциденты безопасности в реальном мире — это лишь вопрос времени." Он предложил разработчикам, которые исследуют направление DeFAI: "Как и в случае со смарт-контрактами, логика поведения AI-агентов также реализуется с помощью кода. Раз это код, то он может быть атакован, поэтому необходимо проводить профессиональный аудит безопасности и тестирование на проникновение."

Стоит отметить, что в этом году, с официальным запуском выдачи лицензий на блокчейн-проекты Комиссией по капитальным рынкам Турции (CMB), IBW, как одно из самых влиятельных блокчейн-событий в Европе, значительно укрепила свои позиции в отрасли. На данном мероприятии в общей сложности приняли участие более 15 000 разработчиков, участников проектов, инвесторов и регуляторов со всего мира, что наглядно демонстрирует высокий интерес отрасли к вопросам интеграции ИИ и Web3.