Menaces potentielles de l'intelligence artificielle : défis des modèles de langage à grande échelle non régulés pour le secteur du chiffrement

Avec le développement rapide des technologies d'intelligence artificielle, des modèles avancés tels que la série GPT et Gemini transforment profondément notre mode de vie. Cependant, cette avancée technologique a également soulevé une question préoccupante : l'émergence de modèles de langage de grande taille sans restrictions ou malveillants.

Les LLM sans restriction désignent des modèles de langage qui ont été intentionnellement conçus ou modifiés pour contourner les mécanismes de sécurité et les limites éthiques des modèles grand public. Bien que les développeurs de LLM grand public investissent d'importantes ressources pour empêcher l'abus des modèles, certaines personnes ou organisations, motivées par des intérêts inappropriés, commencent à rechercher ou à développer des modèles non contraints. Cet article examinera les menaces potentielles posées par ces modèles dans l'industrie du chiffrement, ainsi que les défis de sécurité associés et les stratégies de réponse.

La menace des LLM sans restrictions

L'émergence de ce type de modèle a considérablement réduit le seuil technique pour certains comportements malveillants. Même sans connaissances spécialisées, des personnes ordinaires peuvent les utiliser pour écrire du code malveillant, créer des emails de phishing ou planifier des escroqueries. Les attaquants n'ont qu'à obtenir un modèle open source et à le peaufiner avec un ensemble de données contenant du contenu malveillant pour créer des outils d'attaque personnalisés.

Cette tendance entraîne de multiples risques :

• Les attaquants peuvent personnaliser des modèles pour des cibles spécifiques, générant un contenu plus trompeur.
• Générer rapidement des variantes de code de site de phishing et des scénarios d'escroquerie personnalisés
• Favoriser la formation d'un écosystème AI souterrain, fournissant un terreau pour les activités illégales

Outils LLM typiques sans restriction

WormGPT : version sombre de GPT

WormGPT est un LLM malveillant vendu publiquement, prétendant ne pas avoir de limites morales. Il est basé sur un modèle open source et a été formé sur une grande quantité de données de logiciels malveillants. Ses usages typiques incluent :

• Générer des e-mails de phishing réalistes pour inciter les utilisateurs à divulguer des informations sensibles telles que leur clé privée.
• Aider à rédiger du code malveillant pour voler des fichiers de portefeuille.
• Piloter l'automatisation des arnaques, incitant les victimes à participer à des projets fictifs

DarkBERT : une épée à double tranchant pour le contenu du dark web

DarkBERT est un modèle entraîné sur des données du dark web, initialement utilisé pour la recherche en sécurité. Cependant, si les informations sensibles qu'il détient sont mal utilisées, cela pourrait entraîner :

• Mettre en œuvre des escroqueries ciblées, en utilisant les informations des utilisateurs collectées pour des fraudes d'ingénierie sociale
• Copier les méthodes matures de vol de cryptomonnaie et de blanchiment d'argent dans le dark web

FraudGPT : kit d'outils de fraude en ligne

FraudGPT est la version améliorée de WormGPT, avec des fonctionnalités plus complètes. Ses abus potentiels incluent :

• Projets de chiffrement falsifiés, génération de faux livres blancs et matériels marketing
• Génération en masse de pages de connexion contrefaites
• Fabrication à grande échelle de faux commentaires pour promouvoir des jetons frauduleux
• Mettre en œuvre des attaques d'ingénierie sociale pour inciter les utilisateurs à divulguer des informations sensibles

GhostGPT : un assistant AI sans contraintes morales

GhostGPT est clairement positionné comme un chatbot sans limites morales. Ses éventuelles utilisations abusives incluent :

• Générer des e-mails de phishing très réalistes
• Générer rapidement du code de contrat intelligent contenant une porte dérobée
• Créer des logiciels malveillants capables de se déformer pour voler des informations de portefeuille
• Déployer des robots de fraude pour inciter les utilisateurs à participer à des projets fictifs
• En collaboration avec d'autres outils d'IA pour générer des contenus de faux en profondeur, mettre en œuvre des escroqueries avancées

Venice.ai : risques potentiels d'accès sans censure

Venice.ai offre un accès à plusieurs LLM, y compris certains modèles avec moins de restrictions. Bien que l'orientation soit l'exploration ouverte, cela pourrait également être utilisé de manière abusive pour :

• Contourner la censure pour générer du contenu malveillant
• Abaisser le seuil d'entrée pour les ingénieurs, facilitant ainsi l'accès des attaquants aux sorties restreintes.
• Test rapide et optimisation des techniques d'attaque

Stratégie d'adaptation

L'émergence des LLM sans restriction marque un nouveau paradigme d'attaques plus complexes, à grande échelle et automatisées dans le domaine de la cybersécurité. Pour relever ce défi, toutes les parties prenantes de l'écosystème de sécurité doivent travailler ensemble :

1. Augmenter les investissements dans les technologies de détection, développer des outils capables d'identifier et d'intercepter le contenu généré par des LLM malveillants.
2. Améliorer la capacité du modèle à résister au jailbreaking, explorer les mécanismes de filigrane et de traçabilité du contenu.
3. Établir des normes éthiques et des mécanismes de réglementation solides pour limiter dès le départ le développement et l'abus de modèles malveillants.

Seule une collaboration entre plusieurs parties peut garantir la sécurité de l'industrie du chiffrement et de l'espace numérique plus large, tout en permettant le développement rapide des technologies IA.