Потенційні загрози штучного інтелекту: виклики, які безмежні великі мовні моделі ставлять перед індустрією шифрування

З розвитком технологій штучного інтелекту, від серії GPT до таких просунутих моделей, як Gemini, відбуваються глибокі зміни в нашому способі життя. Проте цей технологічний прогрес також призводить до питання, яке варто насторожитися: поява необмежених або зловмисних великих мовних моделей.

Безмежні LLM - це ті, що були навмисно спроектовані або модифіковані для обходу механізмів безпеки та етичних обмежень основних моделей. Хоча розробники основних LLM вкладають значні ресурси в запобігання зловживанню моделями, деякі особи чи організації з неналежними мотивами починають шукати або розробляти неконтрольовані моделі. У цій статті ми розглянемо потенційні загрози таких моделей у сфері шифрування, а також пов'язані виклики безпеки та стратегії реагування.

Загроза необмеженого LLM

Поява таких моделей значно знизила технічний бар'єр для деяких зловмисних дій. Навіть без спеціальних знань звичайні люди можуть за їх допомогою писати шкідливий код, створювати фішингові електронні листи або планувати шахрайство. Зловмисники лише повинні отримати відкриту модель і провести доопрацювання за допомогою набору даних, що містить шкідливий контент, щоб створити індивідуалізовані інструменти атаки.

Ця тенденція принесла численні ризики:

• Зловмисники можуть налаштувати модель для конкретної мети, генеруючи більш оманливий контент
• Швидке генерування варіантів коду фішингових сайтів та налаштування шахрайських текстів
• Сприяти формуванню підземної екосистеми ШІ, надаючи середовище для незаконної діяльності

Типові необмежені інструменти LLM

WormGPT：темна версія GPT

WormGPT є відкрито проданим шкідливим LLM, який стверджує, що не має моральних обмежень. Він базується на відкритій моделі та навчався на великій кількості даних шкідливого програмного забезпечення. Його типові застосування включають:

• Генерувати реалістичні фішингові електронні листи, спонукати користувачів розкривати приватні ключі та іншу чутливу інформацію
• Допомога у написанні шкідливого коду, такого як крадіжка файлів гаманця
• Керування автоматизованими шахрайствами, спрямування жертв до участі у фальшивих проектах

DarkBERT: двосічний меч контенту темної мережі

DarkBERT є моделлю, навченою на даних з темної мережі, спочатку призначеною для досліджень безпеки. Але якщо чутлива інформація, якою вона володіє, буде зловживана, це може призвести до:

• Реалізація точного шахрайства, використовуючи зібрану інформацію про користувачів для соціальної інженерії.
• Копіювати зрілі методи крадіжки криптовалюти та відмивання грошей у темній мережі

FraudGPT：інструмент для шахрайства в мережі

FraudGPT є вдосконаленою версією WormGPT з більш розширеними функціями. Його потенційне зловживання включає:

• Підробка шифрувальних проектів, створення фальшивих білих книг та маркетингових матеріалів
• Масове створення підроблених сторінок входу
• Масове створення фальшивих коментарів, просування шахрайських токенів
• Реалізація соціальної інженерії, що спонукає користувачів розкривати чутливу інформацію

GhostGPT: AI помічник без моральних обмежень

GhostGPT чітко позиціонується як чат-бот без моральних обмежень. Його можливі способи зловживання включають:

• Створення високоякісних фішингових електронних листів
• Швидке створення коду смарт-контракту з бекдором
• Створення шкідливого програмного забезпечення з можливістю трансформації для крадіжки інформації з гаманців
• Розгортання шахрайських роботів, які спонукають користувачів брати участь у фальшивих проектах
• У поєднанні з іншими AI-інструментами для створення глибокого підробленого контенту, здійснення висококласного шахрайства

Venice.ai: потенційний ризик безцензурного доступу

Venice.ai надає доступ до різних LLM, включаючи деякі моделі з меншими обмеженнями. Хоча позиціювання є відкритим дослідженням, це також може бути зловжито для:

• Обійти цензуру для створення шкідливого контенту
• Знизити поріг для підказок, щоб зловмисникам було легше отримувати обмежений вихід
• Швидке тестування та оптимізація методів атаки

Шлях подолання

Поява безмежних LLM знаменує нову парадигму атак у сфері кібербезпеки, що стикається з більш складними, масштабованими та автоматизованими загрозами. Щоб впоратися з цим викликом, всі учасники безпекової екосистеми повинні працювати спільно:

1. Збільшити інвестиції в технології тестування, розробити інструменти, які можуть розпізнавати та блокувати шкідливий контент, згенерований LLM.
2. Підвищення здатності моделі до захисту від джейлбрейку, дослідження механізмів водяного знака та відстеження походження контенту
3. Створити та вдосконалити етичні норми та механізми регулювання, щоб обмежити розробку та зловживання зловмисними моделями з самого початку.

Тільки за спільних зусиль можна забезпечити безпеку шифрування індустрії та ширшого кіберпростору на фоні швидкого розвитку технологій штучного інтелекту.