Figura mitológica griega, Prometeo, encadenado a una roca en el Cáucaso donde es constantemente presa ... Más de un águila. Obra original: Litografía después del dibujo de Lavigne. (Foto de Hulton Archive/Getty Images)
Getty ImagesSi tuviste la suerte de estudiar griego antiguo, o estás lo suficientemente interesado en la historia como para aprender de sus errores, estarás familiarizado con la historia de Prometeo. Antes de que el fuego pudiera calentar hogares, cocinar alimentos y forjar herramientas, la leyenda dice que el fuego era un privilegio de los dioses que lo mantenían egoístamente para sí mismos. Prometeo, un Titán, subió a la cima del Monte Olimpo para robarlo para los humanos. Zeus, furioso porque a los humanos se les había dado algo poderoso sin permiso, encadenó a Prometeo a una roca donde un águila le comería el hígado todos los días.
La comparación de la IA como el fuego prometéico moderno es particularmente relevante para las criptomonedas. La IA tiene un problema de confianza fundamental que la tecnología blockchain está en una posición única para resolver. Mientras que la mayoría de las empresas de criptomonedas aún están utilizando la IA para aplicaciones ligeras, el potencial para una integración más profunda es masivo. Y sin embargo, a medida que la industria de las criptomonedas crece cada vez más ansiosa por fusionar estas tecnologías, algunas aplicaciones tienen perfecto sentido mientras que otras amenazan con quemar los mismos cimientos de seguridad sobre los cuales se construyó la criptografía.
La mayoría de las empresas de criptomonedas que se dirigen a los usuarios hoy en día están utilizando IA de maneras relativamente inofensivas. Por ejemplo, ChainGPT, Eternal AI y Virtuals Protocol implementan chatbots sociales para responder preguntas de los usuarios, crear interfaces en lenguaje natural para tableros complejos, o dar a los productos un carácter divertido en redes sociales con el que los usuarios pueden interactuar.
Estas aplicaciones tratan a la IA como lo que fundamentalmente es, un sofisticado sistema de coincidencia de patrones que destaca en entender y generar lenguaje humano. Los modelos de lenguaje grandes son notables para entender el contexto y generar respuestas útiles, pero aún siguen siendo fundamentalmente impredecibles.
La Tentación de la Integración Profunda de IA
Donde las empresas de criptomonedas comienzan a jugar con fuego es cuando otorgan a los sistemas de IA acceso directo a operaciones sensibles. Algunas startups están experimentando con agentes autónomos que pueden mover fondos de usuarios, ejecutar llamadas a contratos inteligentes y acceder a recursos externos utilizando nuevas herramientas como el Protocolo de Contexto de Modelos, todo sin supervisión humana.
MÁS PARA TI Los modelos de IA no razonan a través de problemas de la manera en que lo hacen los humanos. Predicen lo que viene a continuación basado en patrones aprendidos de datos de entrenamiento. Esto los hace vulnerables a ataques que no existen en sistemas de software tradicionales. Los ataques de inyección de solicitudes pueden engañar a una IA para que ignore sus instrucciones. Las inyecciones de datos y los jailbreaks no son riesgos hipotéticos; ya están ocurriendo. Freysa se lanzó como un desafío de jailbreak, un agente autónomo que retiene fondos que no deben ser liberados bajo ninguna circunstancia. Un usuario logró engañar al agente para que ignorara su aviso del sistema al introducir una "nueva sesión", reinterpretó las definiciones de approveTransfer y rejectTransfer, luego ofreció una transferencia “entrante” de $100 que, debido a la lógica retorcida, activó la liberación de todo el premio acumulado ( alrededor de 13.19 ETH, ~$47, 000).
Los verdaderos problemas comienzan cuando las empresas otorgan a estos modelos acceso profundo, incluyendo herramientas internas, datos sensibles e incluso autoridad de firma en cadena. Eso es una señal de alerta masiva. Cuando le das a un sistema de IA la capacidad de firmar transacciones o acceder a datos financieros, creas una superficie de ataque fundamentalmente nueva. La industria cripto aprendió de la manera difícil que "el código es ley" solo funciona cuando la salida es predecible y determinista.
El Camino Estratégico Hacia la Innovación en IA
Idealmente, deberíamos evitar combinar sistemas de IA y blockchain por completo. En cambio, debemos ser quirúrgicos sobre lo que se coloca en la cadena. Cuanto menos haya en la cadena, mejor. Las criptomonedas no necesitan alojar software de IA, solo necesitan asegurar y gobernar la IA. Las blockchains deberían manejar solo las partes que realmente necesitan ser sin confianza: pagos, identidad, gestión de acceso y gobernanza. El cálculo real de IA debería ocurrir fuera de la cadena.
Este enfoque pragmático desbloquea un enorme potencial. Los agentes pueden ser gobernados por políticas en la cadena, volverse más autónomos a través de los rieles de pago de blockchain y construir una reputación vinculada a las direcciones de billetera. El tema más candente en cualquier conferencia de criptomonedas hoy en día es la comunicación, negociación y colaboración entre agentes. Imagínate agentes de IA con sus propias direcciones de billetera, haciendo que sus acciones sean auditables y revocables.
La computación AI no estará en la cadena por un tiempo, y necesitamos formas de permitir que la computación no determinista se interfiera con el mundo determinista en la cadena. Afortunadamente, hay múltiples métodos criptográficos para lograr computación confidencial y verificable: entornos de ejecución confiables, pruebas de conocimiento cero y computación multipartita. Los sistemas de reputación basados en blockchain pueden rastrear el comportamiento de los agentes de AI a lo largo del tiempo, creando mecanismos de rendición de cuentas muy necesarios.
Este enfoque resuelve el problema fundamental de confianza de la IA. En lugar de una fusión forzada de tecnologías, obtenemos una solución más elegante donde los agentes tienen billeteras para identidad, permisos y pagos. El resultado podrían ser agentes sin confianza que se convierten en parte de nuestra vida cotidiana sin preocupaciones por fraudes, invasión de la privacidad o problemas de seguridad.
El único ámbito donde la integración de cripto y IA muestra una verdadera promesa es en las redes de computación descentralizadas. Los proyectos que utilizan incentivos token para coordinar recursos de GPU distribuidos abordan un verdadero cuello de botella en el desarrollo de IA. El paisaje actual de la IA está dominado por un puñado de proveedores de nube que controlan el acceso a los enormes recursos de computación requeridos para entrenar y ejecutar grandes modelos. Esto no se trata de poner la IA en la cadena de bloques, sino más bien de usar mecanismos de cadena de bloques para coordinar e incentivar un nuevo tipo de capa de infraestructura.
La comparación entre la IA y Prometeo está más que un poco exagerada. La IA es un logro verdaderamente notable que viene con su propio potencial para crecer y evolucionar por sí misma. Algo de lo que deberíamos estar emocionados.
El desafío no es ser como Prometeo, sino evitar ser como Zeus. La IA debe aplicarse liberalmente pero con precaución. Una mala aplicación en cripto podría no dejarnos con nuestro hígado siendo devorado por la eternidad, pero podría poner en riesgo lo único que la industria ha construido a lo largo de los años: sistemas sin confianza. Eso alejaría a los creadores y usuarios para siempre. Al menos, los sistemas sin confianza siguen siendo algo que vale la pena proteger.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
Cómo las empresas de Cripto deberían usar la IA, y cómo no deberían hacerlo
Getty ImagesSi tuviste la suerte de estudiar griego antiguo, o estás lo suficientemente interesado en la historia como para aprender de sus errores, estarás familiarizado con la historia de Prometeo. Antes de que el fuego pudiera calentar hogares, cocinar alimentos y forjar herramientas, la leyenda dice que el fuego era un privilegio de los dioses que lo mantenían egoístamente para sí mismos. Prometeo, un Titán, subió a la cima del Monte Olimpo para robarlo para los humanos. Zeus, furioso porque a los humanos se les había dado algo poderoso sin permiso, encadenó a Prometeo a una roca donde un águila le comería el hígado todos los días.
La comparación de la IA como el fuego prometéico moderno es particularmente relevante para las criptomonedas. La IA tiene un problema de confianza fundamental que la tecnología blockchain está en una posición única para resolver. Mientras que la mayoría de las empresas de criptomonedas aún están utilizando la IA para aplicaciones ligeras, el potencial para una integración más profunda es masivo. Y sin embargo, a medida que la industria de las criptomonedas crece cada vez más ansiosa por fusionar estas tecnologías, algunas aplicaciones tienen perfecto sentido mientras que otras amenazan con quemar los mismos cimientos de seguridad sobre los cuales se construyó la criptografía.
La mayoría de las empresas de criptomonedas que se dirigen a los usuarios hoy en día están utilizando IA de maneras relativamente inofensivas. Por ejemplo, ChainGPT, Eternal AI y Virtuals Protocol implementan chatbots sociales para responder preguntas de los usuarios, crear interfaces en lenguaje natural para tableros complejos, o dar a los productos un carácter divertido en redes sociales con el que los usuarios pueden interactuar.
Estas aplicaciones tratan a la IA como lo que fundamentalmente es, un sofisticado sistema de coincidencia de patrones que destaca en entender y generar lenguaje humano. Los modelos de lenguaje grandes son notables para entender el contexto y generar respuestas útiles, pero aún siguen siendo fundamentalmente impredecibles.
La Tentación de la Integración Profunda de IA
Donde las empresas de criptomonedas comienzan a jugar con fuego es cuando otorgan a los sistemas de IA acceso directo a operaciones sensibles. Algunas startups están experimentando con agentes autónomos que pueden mover fondos de usuarios, ejecutar llamadas a contratos inteligentes y acceder a recursos externos utilizando nuevas herramientas como el Protocolo de Contexto de Modelos, todo sin supervisión humana.
MÁS PARA TI Los modelos de IA no razonan a través de problemas de la manera en que lo hacen los humanos. Predicen lo que viene a continuación basado en patrones aprendidos de datos de entrenamiento. Esto los hace vulnerables a ataques que no existen en sistemas de software tradicionales. Los ataques de inyección de solicitudes pueden engañar a una IA para que ignore sus instrucciones. Las inyecciones de datos y los jailbreaks no son riesgos hipotéticos; ya están ocurriendo. Freysa se lanzó como un desafío de jailbreak, un agente autónomo que retiene fondos que no deben ser liberados bajo ninguna circunstancia. Un usuario logró engañar al agente para que ignorara su aviso del sistema al introducir una "nueva sesión", reinterpretó las definiciones de approveTransfer y rejectTransfer, luego ofreció una transferencia “entrante” de $100 que, debido a la lógica retorcida, activó la liberación de todo el premio acumulado ( alrededor de 13.19 ETH, ~$47, 000).
Los verdaderos problemas comienzan cuando las empresas otorgan a estos modelos acceso profundo, incluyendo herramientas internas, datos sensibles e incluso autoridad de firma en cadena. Eso es una señal de alerta masiva. Cuando le das a un sistema de IA la capacidad de firmar transacciones o acceder a datos financieros, creas una superficie de ataque fundamentalmente nueva. La industria cripto aprendió de la manera difícil que "el código es ley" solo funciona cuando la salida es predecible y determinista.
El Camino Estratégico Hacia la Innovación en IA
Idealmente, deberíamos evitar combinar sistemas de IA y blockchain por completo. En cambio, debemos ser quirúrgicos sobre lo que se coloca en la cadena. Cuanto menos haya en la cadena, mejor. Las criptomonedas no necesitan alojar software de IA, solo necesitan asegurar y gobernar la IA. Las blockchains deberían manejar solo las partes que realmente necesitan ser sin confianza: pagos, identidad, gestión de acceso y gobernanza. El cálculo real de IA debería ocurrir fuera de la cadena.
Este enfoque pragmático desbloquea un enorme potencial. Los agentes pueden ser gobernados por políticas en la cadena, volverse más autónomos a través de los rieles de pago de blockchain y construir una reputación vinculada a las direcciones de billetera. El tema más candente en cualquier conferencia de criptomonedas hoy en día es la comunicación, negociación y colaboración entre agentes. Imagínate agentes de IA con sus propias direcciones de billetera, haciendo que sus acciones sean auditables y revocables.
La computación AI no estará en la cadena por un tiempo, y necesitamos formas de permitir que la computación no determinista se interfiera con el mundo determinista en la cadena. Afortunadamente, hay múltiples métodos criptográficos para lograr computación confidencial y verificable: entornos de ejecución confiables, pruebas de conocimiento cero y computación multipartita. Los sistemas de reputación basados en blockchain pueden rastrear el comportamiento de los agentes de AI a lo largo del tiempo, creando mecanismos de rendición de cuentas muy necesarios.
Este enfoque resuelve el problema fundamental de confianza de la IA. En lugar de una fusión forzada de tecnologías, obtenemos una solución más elegante donde los agentes tienen billeteras para identidad, permisos y pagos. El resultado podrían ser agentes sin confianza que se convierten en parte de nuestra vida cotidiana sin preocupaciones por fraudes, invasión de la privacidad o problemas de seguridad.
El único ámbito donde la integración de cripto y IA muestra una verdadera promesa es en las redes de computación descentralizadas. Los proyectos que utilizan incentivos token para coordinar recursos de GPU distribuidos abordan un verdadero cuello de botella en el desarrollo de IA. El paisaje actual de la IA está dominado por un puñado de proveedores de nube que controlan el acceso a los enormes recursos de computación requeridos para entrenar y ejecutar grandes modelos. Esto no se trata de poner la IA en la cadena de bloques, sino más bien de usar mecanismos de cadena de bloques para coordinar e incentivar un nuevo tipo de capa de infraestructura.
La comparación entre la IA y Prometeo está más que un poco exagerada. La IA es un logro verdaderamente notable que viene con su propio potencial para crecer y evolucionar por sí misma. Algo de lo que deberíamos estar emocionados.
El desafío no es ser como Prometeo, sino evitar ser como Zeus. La IA debe aplicarse liberalmente pero con precaución. Una mala aplicación en cripto podría no dejarnos con nuestro hígado siendo devorado por la eternidad, pero podría poner en riesgo lo único que la industria ha construido a lo largo de los años: sistemas sin confianza. Eso alejaría a los creadores y usuarios para siempre. Al menos, los sistemas sin confianza siguen siendo algo que vale la pena proteger.