Le côté sombre de l'intelligence artificielle : les défis de sécurité posés par des modèles de langage à grande échelle sans restriction

Avec le développement rapide de la technologie de l'intelligence artificielle, les grands modèles de langage transforment profondément notre mode de vie. Cependant, derrière cette lumière éclatante, une ombre inquiétante s'étend silencieusement - l'émergence de modèles de langage de grande taille illimités ou malveillants.

Les modèles de langage à grande échelle sans restriction sont ceux qui ont été intentionnellement conçus ou modifiés pour contourner les mécanismes de sécurité intégrés et les limitations éthiques des modèles conventionnels. Bien que les développeurs de modèles mainstream investissent d'importantes ressources pour prévenir l'abus des modèles, certains individus ou organisations malintentionnés commencent à rechercher ou à développer de manière autonome des modèles non contraints à des fins illégales. Cet article explorera des cas typiques de ce type de modèles sans restriction, leurs dangers potentiels dans l'industrie de la cryptographie, ainsi que les défis de sécurité connexes et les stratégies d'atténuation.

Les dangers des modèles de langage à grande échelle sans restriction

L'émergence de ce type de modèle a considérablement abaissé le seuil d'entrée dans la cybercriminalité. Des tâches qui nécessitaient auparavant des compétences professionnelles, comme l'écriture de code malveillant, la création de courriels de phishing ou la planification d'escroqueries, peuvent désormais être facilement réalisées par des personnes ordinaires, même sans expérience en programmation, grâce à l'assistance de modèles non restreints. Les attaquants n'ont qu'à obtenir les poids et le code source des modèles open source, puis à effectuer un ajustement fin avec des ensembles de données contenant du contenu malveillant ou des instructions illégales pour créer des outils d'attaque personnalisés.

Cette tendance entraîne des risques multiples : les attaquants peuvent personnaliser des modèles pour des cibles spécifiques, générer un contenu plus trompeur et contourner la modération de contenu des modèles classiques ; les modèles peuvent également générer rapidement des variantes de code pour des sites de phishing, ou créer des textes de fraude sur mesure pour différentes plateformes ; en même temps, l'accessibilité des modèles open source alimente également la formation d'un écosystème AI souterrain, fournissant un terreau pour les transactions illégales.

Modèles de langage à grande échelle typiques et leurs dangers potentiels

WormGPT : version sombre de GPT

WormGPT est un modèle malveillant vendu publiquement sur des forums souterrains, prétendant ne pas avoir de limites éthiques. Il est basé sur des modèles open source comme GPT-J 6B et a été entraîné sur une grande quantité de données liées aux logiciels malveillants. Les utilisateurs n'ont qu'à payer 189 dollars pour obtenir un mois d'accès. L'utilisation la plus notoire de WormGPT est la génération de courriels d'intrusion commerciaux et de courriels de phishing très réalistes.

Dans le domaine de la cryptographie, WormGPT pourrait être utilisé de manière abusive :

• Générer des e-mails de phishing : imiter des demandes de "vérification de compte" envoyées par des échanges ou des projets pour inciter les utilisateurs à divulguer leur clé privée.
• Écrire du code malveillant : aider les attaquants ayant un niveau technique inférieur à rédiger des programmes malveillants pour voler des fichiers de portefeuille.
• Automatisation de la fraude : répondre automatiquement aux victimes potentielles, les incitant à participer à de fausses airdrops ou projets d'investissement.

DarkBERT : une épée à double tranchant pour le contenu du dark web

DarkBERT est un modèle de langage pré-entraîné sur des données du dark web, initialement conçu pour fournir des outils aux chercheurs en sécurité et aux organismes d'application de la loi afin de mieux comprendre l'écosystème du dark web. Cependant, s'il est utilisé par des criminels ou imité pour entraîner des modèles sans restrictions, ses dangers potentiels incluent :

• Mise en œuvre d'escroqueries ciblées : collecter des informations sur les utilisateurs de crypto et les équipes de projet pour des fraudes par ingénierie sociale.
• Copier les méthodes criminelles : imiter les stratégies de vol de crypto-monnaie et de blanchiment d'argent éprouvées sur le dark web.

FraudGPT : le couteau suisse de la fraude en ligne

FraudGPT se dit être la version améliorée de WormGPT, avec des fonctionnalités plus complètes, principalement vendue sur le dark web et les forums de hackers. Dans le domaine de la cryptographie, il pourrait être détourné à des fins :

• Projets de cryptographie falsifiés : génération de livres blancs, de sites Web et de feuilles de route réalistes pour mettre en œuvre de faux ICO.
• Génération en masse de pages de phishing : création rapide de pages de connexion imitant les bourses célèbres.
• Activités de bots sur les réseaux sociaux : création massive de faux commentaires, promotion de jetons frauduleux ou dénigrement de projets concurrents.
• Attaque par ingénierie sociale : imiter les conversations humaines, établir une confiance avec l'utilisateur et inciter à divulguer des informations sensibles.

GhostGPT : un assistant IA sans contraintes morales

GhostGPT est un chatbot IA clairement positionné sans restrictions morales. Dans le domaine de la cryptographie, il pourrait être détourné pour :

• Attaque de phishing avancée : générer des e-mails de phishing très réalistes, se faisant passer pour des demandes de vérification KYC falsifiées émises par des échanges.
• Génération de code malveillant pour contrats intelligents : génération rapide de contrats intelligents contenant des portes dérobées cachées, utilisés pour des escroqueries de type Rug Pull.
• Outil de vol de cryptomonnaies polymorphe : génère des logiciels malveillants capables de se transformer pour voler des fichiers de portefeuille et des clés privées.
• Attaques d'ingénierie sociale : déployer des robots sur les plateformes sociales pour inciter les utilisateurs à participer à des mintings ou des airdrops de NFT frauduleux.
• Arnaque par deepfake : générer des voix de fondateurs de projets falsifiés ou de dirigeants d'échanges pour réaliser des escroqueries par téléphone.

Venice.ai : risques potentiels d'accès sans censure

Venice.ai offre un accès à divers modèles de langage avec peu de restrictions. Bien que son objectif soit d'explorer les capacités de l'IA en tant que plateforme ouverte, il pourrait également être détourné pour générer du contenu malveillant. Les risques potentiels incluent :

• Contourner la censure pour générer du contenu malveillant : utiliser des modèles avec moins de restrictions pour générer des modèles de phishing ou des idées d'attaque.
• Abaisser le seuil d'entrée pour les astuces : même sans compétences avancées, il est possible d'obtenir facilement des résultats auparavant limités.
• Itération rapide des discours d'attaque : tester rapidement la réaction de différents modèles aux instructions malveillantes, optimiser les scripts de fraude.

Conclusion

L'émergence de modèles de langage de grande taille sans restriction marque l'apparition d'un nouveau paradigme d'attaques en cybersécurité, plus complexe, à plus grande échelle et avec des capacités d'automatisation. Cela a non seulement abaissé le seuil d'entrée pour les attaques, mais a également introduit de nouvelles menaces plus sournoises et plus trompeuses.

Face à ce défi, les différentes parties prenantes de l'écosystème de la sécurité doivent travailler ensemble : augmenter les investissements dans les technologies de détection, développer des outils capables d'identifier et d'intercepter le contenu généré par des modèles malveillants ; promouvoir le renforcement des capacités de défense contre les jailbreaks de modèles, explorer les mécanismes de filigrane et de traçabilité ; établir des normes éthiques et des mécanismes de régulation solides afin de limiter dès la racine le développement et l'abus de modèles malveillants. Ce n'est qu'en adoptant une approche multifacette que nous pourrons garantir la sécurité et le développement sain de l'industrie de la cryptographie à l'ère de l'IA.