Nuevos desafíos en la ola de fusión de la IA y Web3: los problemas de Seguridad de la IA de DeFAI generan seguir

Recientemente, la Semana de Blockchain de Estambul (IBW 2025) se centró en la tendencia de fusión entre la IA y Web3, convirtiéndose en un importante escenario para las discusiones sobre la seguridad de Web3 este año. Durante el evento de dos días, varios expertos de la industria llevaron a cabo un profundo debate sobre el estado actual de la aplicación de la tecnología de IA en el ámbito de las finanzas descentralizadas (DeFi) y los desafíos de seguridad.

Con el rápido desarrollo de los modelos de lenguaje de gran tamaño (LLM) y los agentes de IA, está surgiendo un nuevo paradigma financiero: la Finanzas Descentralizadas de Inteligencia Artificial (DeFAI). Sin embargo, esta innovación también ha traído nuevas superficies de ataque y riesgos de seguridad.

Un alto ejecutivo de una empresa de seguridad señaló: "DeFAI, aunque tiene un gran potencial, también nos obliga a reconsiderar los mecanismos de confianza en los sistemas descentralizados. A diferencia de los contratos inteligentes basados en lógica fija, el proceso de toma de decisiones de los agentes de IA se ve influenciado por múltiples factores, como el contexto, el tiempo e incluso las interacciones históricas. Esta imprevisibilidad no solo agrava el riesgo, sino que también crea oportunidades para los atacantes."

Los agentes de IA son esencialmente entidades inteligentes que pueden tomar decisiones y ejecutar acciones de manera autónoma basándose en la lógica de la IA, y generalmente son autorizados para operar por usuarios, protocolos o DAOs. El ejemplo más típico son los robots de trading de IA. Actualmente, la mayoría de los agentes de IA todavía operan sobre una arquitectura Web2, dependiendo de servidores y API centralizados, lo que los hace vulnerables a amenazas como ataques de inyección, manipulación de modelos o alteración de datos. Una vez secuestrados, no solo pueden causar pérdidas de fondos, sino que también pueden afectar la estabilidad de todo el protocolo.

Los expertos también discutieron un escenario típico de ataque: cuando el agente de trading de IA que utilizan los usuarios de DeFi está monitoreando mensajes en redes sociales como señales de trading, un atacante podría publicar alertas falsas, como "cierto protocolo ha sido atacado". Esto podría inducir al agente de IA a iniciar inmediatamente una liquidación de emergencia, lo que no solo causaría pérdidas de activos para los usuarios, sino que también podría provocar fluctuaciones en el mercado, que el atacante podría aprovechar a través de operaciones anticipadas (Front Running).

En respuesta a estos riesgos, los expertos presentes coincidieron en que la seguridad de los agentes de IA no debe ser asumida exclusivamente por una sola parte, sino que es una responsabilidad compartida entre los usuarios, los desarrolladores y las agencias de seguridad de terceros.

Los usuarios deben entender claramente el alcance de los permisos que poseen los agentes, autorizar con precaución y tener en cuenta la revisión de las operaciones de alto riesgo de los agentes de IA. Los desarrolladores deben implementar medidas de defensa desde la fase de diseño, como la consolidación de las indicaciones, el aislamiento en sandbox, la limitación de velocidad y la lógica de retroceso, entre otros mecanismos. Las empresas de seguridad de terceros deben proporcionar una revisión independiente del comportamiento del modelo de los agentes de IA, la infraestructura y la forma de integración en la cadena, y colaborar con desarrolladores y usuarios para identificar riesgos y proponer medidas de mitigación.

Un experto en seguridad advirtió: "Si seguimos tratando a los agentes de IA como una 'caja negra', los accidentes de seguridad en el mundo real son solo cuestión de tiempo." Sugirió a los desarrolladores que están explorando la dirección de DeFAI: "Al igual que los contratos inteligentes, la lógica de comportamiento de los agentes de IA también se implementa mediante código. Dado que es código, hay posibilidad de ser atacado, por lo que se necesita realizar auditorías de seguridad profesionales y pruebas de penetración."

Cabe destacar que, este año, con el lanzamiento oficial de la emisión de licencias para proyectos de blockchain por parte de la Comisión del Mercado de Capitales de Turquía (CMB), IBW, como uno de los eventos de blockchain más influyentes de Europa, ha visto su posición en la industria fortalecida aún más. Este evento atrajo a más de 15,000 participantes de desarrolladores, promotores de proyectos, inversores y reguladores de todo el mundo, lo que demuestra el alto interés de la industria en la fusión de la IA y Web3.