Ouverture de la boîte de Pandore : La menace des modèles AI illimités pour l'industrie du chiffrement

Avec le développement rapide des technologies d'intelligence artificielle, des modèles avancés tels que la série GPT et Gemini transforment profondément notre façon de travailler et de vivre. Cependant, les avancées technologiques ont également entraîné des risques potentiels : l'émergence de modèles de langage de grande taille sans restrictions ou malveillants.

Le soi-disant modèle de langage illimité fait référence à ces systèmes d'IA qui ont été intentionnellement conçus, modifiés ou "débridés" pour contourner les mécanismes de sécurité et les restrictions éthiques intégrés dans les modèles traditionnels. Bien que les développeurs d'IA traditionnels investissent d'importantes ressources pour empêcher l'abus des modèles, certaines personnes ou organisations, pour des raisons illégales, commencent à chercher ou à développer des modèles non restreints. Cet article explorera des cas typiques de ces modèles IA illimités, les menaces potentielles dans le secteur du chiffrement et les défis de sécurité associés ainsi que les stratégies de réponse.

La menace des modèles d'IA sans restriction

L'émergence de ce type de modèle a considérablement abaissé le seuil d'entrée dans la cybercriminalité. Des tâches qui nécessitaient auparavant des compétences professionnelles, telles que l'écriture de code malveillant, la création de courriels de phishing ou la planification d'escroqueries, peuvent désormais être facilement réalisées, même par des novices en technologie, grâce à l'assistance de l'IA sans limites. Les attaquants n'ont qu'à obtenir les poids et le code source des modèles open source, puis à les ajuster avec un ensemble de données contenant du contenu malveillant ou des instructions illégales pour créer des outils d'attaque sur mesure.

Ce mode de fonctionnement présente de multiples risques :

1. Les attaquants peuvent personnaliser des modèles en fonction de cibles spécifiques pour générer un contenu plus trompeur et contourner les contrôles de contenu des IA conventionnelles.
2. Le modèle peut être utilisé pour générer rapidement des variantes de code de sites de phishing, ou pour adapter des textes de fraude à différentes plateformes.
3. La disponibilité des modèles open source a favorisé la formation d'un écosystème AI souterrain, créant un terreau pour les transactions et le développement illégaux.

Modèles d'IA typiques sans restriction et leurs menaces

WormGPT : version sombre de GPT

WormGPT est un modèle d'IA malveillant vendu publiquement sur des forums clandestins, prétendant n'avoir aucune limite morale. Il est basé sur des modèles open source comme GPT-J 6B et a été entraîné sur une grande quantité de données liées aux logiciels malveillants. Les utilisateurs n'ont qu'à payer 189 dollars pour obtenir un mois d'accès.

Dans le domaine du chiffrement, WormGPT pourrait être utilisé de manière abusive pour :

• Générer des e-mails de phishing très réalistes pour inciter les utilisateurs à cliquer sur des liens malveillants ou à divulguer leurs clés privées.
• Aider les attaquants ayant un niveau technique plus faible à écrire un code malveillant pour voler des fichiers de portefeuille, surveiller le presse-papiers, etc.
• Piloter l'automatisation de l'escroquerie, répondre automatiquement aux victimes potentielles et les guider à participer à des projets frauduleux.

DarkBERT : une épée à double tranchant pour le contenu du dark web

DarkBERT est un modèle de langue pré-entraîné sur des données du dark web, initialement destiné à aider les chercheurs et les agences d'application de la loi à comprendre l'écosystème du dark web. Mais s'il est acquis ou imité par des éléments criminels, cela pourrait engendrer de graves risques.

Dans le domaine du chiffrement, les menaces potentielles incluent :

• Collecter les informations des utilisateurs et des équipes de projet, pour des fraudes sociales précises.
• Copier les stratégies de vol et de blanchiment d'argent matures du dark web.

FraudGPT : un outil multifonction pour la fraude en ligne

FraudGPT se présente comme une version améliorée de WormGPT, avec des fonctionnalités plus complètes, principalement vendue sur le dark web. Dans le domaine du chiffrement, il pourrait être utilisé de manière abusive pour :

• Générer de faux livres blancs de projets de chiffrement réalistes, sites web, etc., pour mettre en œuvre des escroqueries ICO.
• Génération en masse de pages de phishing imitant des échanges connus.
• Fabrication massive de faux commentaires, promotion de jetons frauduleux ou diffamation de projets concurrents.
• Imiter les conversations humaines, établir la confiance avec les utilisateurs, et induire la divulgation d'informations sensibles.

GhostGPT : un assistant IA sans contraintes morales

GhostGPT est clairement positionné comme un robot de chat AI sans restrictions morales. Les menaces potentielles dans le domaine du chiffrement comprennent :

• Générer des e-mails de phishing très réalistes, se faisant passer pour des notifications frauduleuses publiées par des échanges.
• Générer rapidement des contrats intelligents contenant des portes dérobées cachées, utilisés pour des escroqueries de type Rug Pull.
• Créer des logiciels malveillants capables de se déformer en continu pour voler des informations de portefeuille.
• Déployer des robots de fraude sur les plateformes sociales en combinant des scripts générés par l'IA.
• En collaboration avec d'autres outils d'IA, générer des voix de faux porteurs de projets pour réaliser des escroqueries téléphoniques.

Venice.ai : risques potentiels d'accès sans censure

Venice.ai offre un accès à divers modèles d'IA avec peu de restrictions, bien que l'objectif soit d'explorer les capacités de l'IA, cela pourrait également être abusé. Les risques potentiels incluent :

• Contourner la censure pour générer du contenu malveillant, comme des modèles de phishing, de fausses publicités, etc.
• Réduire le seuil d'entrée pour les ingénieurs, facilitant ainsi l'accès des attaquants à des sorties auparavant limitées.
• Accélérer l'itération des discours d'attaque, tester rapidement et optimiser les scripts de fraude.

Stratégies d'adaptation

L'émergence de modèles d'IA sans restriction marque une nouvelle paradigm d'attaques en matière de cybersécurité, qui sont plus complexes, à plus grande échelle et dotées de capacités d'automatisation. Cela non seulement abaisse le seuil d'attaque, mais introduit également de nouvelles menaces plus insidieuses et trompeuses.

Pour faire face à ces défis, toutes les parties de l'écosystème de sécurité doivent collaborer.

1. Augmenter les investissements dans les technologies de détection, développer des systèmes capables d'identifier et d'intercepter les contenus malveillants générés par l'IA, les vulnérabilités de contrats intelligents et le code malveillant.

2. Promouvoir la construction des capacités de prévention du jailbreak des modèles, explorer les mécanismes de filigrane et de traçabilité, afin de suivre l'origine du contenu malveillant dans des scénarios clés.

3. Établir des normes éthiques et des mécanismes de régulation de l'IA pour limiter à la source le développement et l'abus de modèles malveillants.

4. Renforcer l'éducation des utilisateurs, améliorer la capacité du public à identifier le contenu généré par l'IA et la sensibilisation à la sécurité.

5. Promouvoir la coopération industrielle, établir un mécanisme de partage d'informations et alerter rapidement sur les nouvelles menaces liées à l'IA.

Face à cette escalade continue du jeu d'attaque et de défense, seule une coopération multi-sectorielle et une innovation constante peuvent répondre efficacement aux défis de sécurité à l'ère de l'IA, garantissant le développement sain de l'industrie du chiffrement.