A potencial ameaça da inteligência artificial: os desafios dos grandes modelos de linguagem sem restrições para a indústria de encriptação

Com o rápido desenvolvimento da tecnologia de inteligência artificial, modelos avançados como a série GPT e o Gemini estão a mudar profundamente o nosso modo de vida. No entanto, este avanço tecnológico também trouxe uma questão que merece atenção: a emergência de modelos de linguagem de grande escala sem restrições ou maliciosos.

Modelos LLM sem restrições são aqueles que foram intencionalmente projetados ou modificados para contornar os mecanismos de segurança e as limitações éticas dos modelos mainstream. Embora os desenvolvedores de LLM mainstream invistam grandes recursos para evitar que os modelos sejam mal utilizados, algumas pessoas ou organizações, por motivos inadequados, começam a buscar ou desenvolver modelos não restritos. Este artigo irá explorar as potenciais ameaças desses modelos na indústria de encriptação, bem como os desafios de segurança relacionados e as estratégias de resposta.

A ameaça dos LLMs sem restrições

A aparição deste tipo de modelo reduziu significativamente a barreira técnica para certos comportamentos maliciosos. Mesmo sem conhecimento especializado, pessoas comuns podem usar esses modelos para escrever código malicioso, criar e-mails de phishing ou planejar fraudes. Os atacantes apenas precisam obter modelos de código aberto e ajustá-los com um conjunto de dados que contenha conteúdo malicioso, podendo assim criar ferramentas de ataque personalizadas.

Esta tendência trouxe múltiplos riscos:

• Os atacantes podem personalizar modelos para alvos específicos, gerando conteúdos mais enganosos.
• Geração rápida de variantes de código de sites de phishing e textos de fraude personalizados
• Fomentar a formação de ecossistemas de IA underground, proporcionando um ambiente propício para atividades ilegais

Ferramenta LLM típica e sem restrições

WormGPT：versão obscura do GPT

WormGPT é um LLM malicioso vendido publicamente, alegando não ter restrições morais. É baseado em um modelo de código aberto e treinado em grandes quantidades de dados de software malicioso. Seus usos típicos incluem:

• Gerar e-mails de phishing realistas, induzindo os usuários a revelarem chaves privadas e outras informações sensíveis.
• Ajudar a escrever código malicioso para roubar arquivos de carteira
• Impulsionar fraudes automatizadas, guiando as vítimas a participar em projetos falsos

DarkBERT: a espada de dois gumes do conteúdo da dark web

DarkBERT é um modelo treinado em dados da dark web, originalmente utilizado para pesquisa em segurança. No entanto, se as informações sensíveis que ele detém forem mal utilizadas, isso pode levar a:

• Implementar fraudes precisas, utilizando as informações dos usuários coletadas para fraudes de engenharia social
• Copiar métodos maduros de roubo de moedas e lavagem de dinheiro na dark web

FraudGPT: ferramenta de fraude na internet

FraudGPT é a versão melhorada do WormGPT, com funcionalidades mais abrangentes. Os potenciais abusos incluem:

• Projetos de encriptação falsificados, gerando white papers e materiais de marketing falsos
• Geração em massa de páginas de login falsas
• Fabricação em massa de comentários falsos para promover tokens de fraude
• Implementar ataques de engenharia social para induzir os usuários a divulgar informações sensíveis

GhostGPT: assistente de IA sem restrições morais

GhostGPT é claramente posicionado como um chatbot sem restrições morais. As suas possíveis formas de abuso incluem:

• Gerar e-mails de phishing altamente realistas
• Geração rápida de código de contrato inteligente com backdoor
• Criar malware com capacidade de metamorfose para roubar informações da carteira
• Implantar robôs de fraude, induzindo os usuários a participar de projetos falsos
• Colaborar com outras ferramentas de IA para gerar conteúdo profundamente falsificado, implementando fraudes avançadas

Venice.ai：risco potencial de acesso sem censura

A Venice.ai oferece acesso a vários LLM, incluindo alguns modelos com menos restrições. Embora o foco seja a exploração aberta, também pode ser mal utilizado para:

• Contornar a censura para gerar conteúdo malicioso
• Reduzir a barreira de entrada para engenharia de sugestão, facilitando o acesso dos atacantes a saídas restringidas
• Testes rápidos e otimização de técnicas de ataque

Caminho a seguir

A emergência de LLMs sem restrições marca um novo paradigma de ataques à segurança cibernética, mais complexos, escaláveis e automatizados. Para enfrentar esse desafio, todas as partes do ecossistema de segurança precisam colaborar:

1. Aumentar o investimento em tecnologia de detecção, desenvolvendo ferramentas que possam identificar e interceptar conteúdos gerados por LLM maliciosos.
2. Aumentar a capacidade do modelo de prevenir jailbreak, explorar marcas d'água de conteúdo e mecanismos de rastreamento.
3. Estabelecer normas éticas e mecanismos de regulamentação robustos, limitando desde a origem o desenvolvimento e abuso de modelos maliciosos.

Somente com a colaboração de várias partes é que podemos garantir a segurança da encriptação e do espaço cibernético mais amplo, enquanto a tecnologia de IA se desenvolve rapidamente.