La caja de Pandora se abre: la amenaza de modelos de AI sin restricciones para la industria de la encriptación

Con el rápido desarrollo de la tecnología de inteligencia artificial, modelos avanzados como la serie GPT y Gemini están cambiando profundamente nuestra forma de trabajar y vivir. Sin embargo, el progreso tecnológico también ha traído riesgos potenciales: la aparición de modelos de lenguaje a gran escala sin restricciones o maliciosos.

Los llamados modelos de lenguaje sin restricciones se refieren a aquellos sistemas de IA que han sido diseñados, modificados o "jailbreakeados" intencionadamente para eludir los mecanismos de seguridad y las restricciones éticas incorporadas en los modelos convencionales. Aunque los desarrolladores de IA convencionales invierten grandes recursos para prevenir el abuso de los modelos, algunas personas u organizaciones, con fines ilegales, han comenzado a buscar o desarrollar modelos sin restricciones. Este artículo explorará casos típicos de este tipo de modelos de IA sin restricciones, las amenazas potenciales en la industria de la encriptación y los desafíos de seguridad relacionados, así como las estrategias de respuesta.

La amenaza de modelos de IA sin restricciones

La aparición de este tipo de modelos ha reducido significativamente la barrera de entrada para el crimen cibernético. Tareas que antes requerían habilidades especializadas, como escribir código malicioso, crear correos electrónicos de phishing, planificar estafas, etc., ahora, con la ayuda de la inteligencia artificial sin restricciones, incluso los principiantes en tecnología pueden comenzar fácilmente. Los atacantes solo necesitan obtener los pesos y el código fuente del modelo de código abierto, y luego afinarlo con un conjunto de datos que contenga contenido malicioso o instrucciones ilegales para crear herramientas de ataque personalizadas.

Este modo conlleva múltiples riesgos:

1. Los atacantes pueden personalizar modelos según objetivos específicos, generando contenido más engañoso que elude la revisión de contenido de la IA convencional.
2. El modelo puede ser utilizado para generar rápidamente variantes de código de sitios web de phishing, o para personalizar textos de fraude para diferentes plataformas.
3. La disponibilidad de modelos de código abierto ha fomentado la formación de un ecosistema de IA subterránea, proporcionando un caldo de cultivo para el comercio y desarrollo ilegales.

Modelos de IA típicos ilimitados y sus amenazas

WormGPT: versión oscura de GPT

WormGPT es un modelo de IA malicioso que se vende públicamente en foros clandestinos, afirmando no tener ninguna restricción ética. Está basado en modelos de código abierto como GPT-J 6B y ha sido entrenado con una gran cantidad de datos relacionados con malware. Los usuarios solo necesitan 189 dólares para obtener un mes de acceso.

En el campo de la encriptación, WormGPT podría ser mal utilizado para:

• Generar correos electrónicos de phishing altamente realistas para inducir a los usuarios a hacer clic en enlaces maliciosos o revelar claves privadas.
• Ayudar a atacantes con un nivel técnico más bajo a escribir código malicioso para robar archivos de billetera, monitorear el portapapeles, etc.
• Impulsar la encriptación automatizada, responder automáticamente a las posibles víctimas, guiarlas para participar en proyectos falsos.

DarkBERT: una espada de doble filo para el contenido de la dark web

DarkBERT es un modelo de lenguaje preentrenado en datos de la dark web, originalmente diseñado para ayudar a investigadores y agencias de aplicación de la ley a comprender la ecología de la dark web. Sin embargo, si es obtenido o imitado por elementos delictivos, puede representar serios riesgos.

Las amenazas potenciales en el campo de la encriptación incluyen:

• Recopilar información de usuarios y equipos de proyectos, para fraudes de ingeniería social precisos.
• Copiar estrategias maduras de robo de monedas y lavado de dinero en la dark web.

FraudGPT: herramienta multifuncional para el fraude en línea

FraudGPT se autodenomina como la versión mejorada de WormGPT, con funciones más completas, principalmente vendiéndose en la dark web. En el campo de la encriptación podría ser mal utilizado para:

• Generar libros blancos, sitios web, etc. de proyectos de encriptación falsos y realistas, utilizados para llevar a cabo fraudes de ICO.
• Generar en masa páginas de phishing que imitan a exchanges de renombre.
• Fabricación masiva de comentarios falsos, promoción de tokens fraudulentos o difamación de proyectos competidores.
• Imitar el diálogo humano, establecer confianza con el usuario e inducir a la divulgación de información sensible.

GhostGPT: asistente de IA sin restricciones morales

GhostGPT se ha definido claramente como un chatbot de IA sin restricciones morales. Las amenazas potenciales en el campo de la encriptación incluyen:

• Generar correos electrónicos de phishing altamente realistas, haciéndose pasar por un intercambio para publicar notificaciones falsas.
• Generar rápidamente contratos inteligentes que contengan puertas traseras ocultas, para estafas de Rug Pull.
• Crear malware con capacidad de transformación continua para robar información de la billetera.
• Implementar bots de estafa en plataformas sociales utilizando discursos generados por AI.
• En combinación con otras herramientas de IA, generar voces falsas de los promotores del proyecto para llevar a cabo fraudes telefónicos.

Venice.ai: potencial riesgo de acceso sin censura

Venice.ai proporciona acceso a varios modelos de IA con pocas restricciones, aunque el propósito es explorar las capacidades de la IA, también puede ser mal utilizado. Los riesgos potenciales incluyen:

• Eludir la censura para generar contenido malicioso, como plantillas de phishing, propaganda falsa, etc.
• Reducir la barrera de entrada para las indicaciones, facilitando a los atacantes obtener salidas que originalmente estaban restringidas.
• Acelerar la iteración de los guiones de ataque, probar y optimizar rápidamente los guiones de fraude.

Estrategias de respuesta

La aparición de modelos de IA sin restricciones marca un nuevo paradigma de ataques en ciberseguridad que enfrenta desafíos más complejos, a gran escala y con capacidades de automatización. Esto no solo reduce la barrera de entrada para los ataques, sino que también trae amenazas nuevas más encubiertas y engañosas.

Para hacer frente a estos desafíos, todas las partes del ecosistema de seguridad necesitan colaborar.

1. Aumentar la inversión en tecnologías de detección, desarrollar sistemas que puedan identificar y interceptar contenido malicioso generado por IA, vulnerabilidades en contratos inteligentes y código malicioso.

2. Impulsar la construcción de la capacidad de defensa contra el jailbreak de modelos, explorar mecanismos de marca de agua y trazabilidad, para poder rastrear el origen del contenido malicioso en escenarios clave.

3. Establecer y mejorar las normas éticas de IA y los mecanismos de regulación, limitando desde la fuente el desarrollo y el abuso de modelos maliciosos.

4. Fortalecer la educación de los usuarios, aumentando la capacidad del público para identificar contenido generado por IA y la conciencia de seguridad.

5. Promover la cooperación industrial, establecer un mecanismo de intercambio de información y emitir alertas oportunas sobre las nuevas amenazas relacionadas con la IA.

Frente a este juego de ataque y defensa que sigue escalando, solo con la colaboración de múltiples partes y la innovación constante se podrá hacer frente eficazmente a los desafíos de seguridad de la era de la IA y garantizar el desarrollo saludable de la industria de encriptación.