O lado sombrio da inteligência artificial: desafios de segurança trazidos por modelos de linguagem de grande escala sem restrições

Com o rápido desenvolvimento da tecnologia de inteligência artificial, os grandes modelos de linguagem estão a mudar profundamente a nossa forma de viver. No entanto, por trás deste brilho, uma sombra inquietante está a ampliar-se silenciosamente - o surgimento de grandes modelos de linguagem sem limites ou maliciosos.

Modelos de linguagem ilimitados referem-se àqueles que foram deliberadamente projetados ou modificados para contornar os mecanismos de segurança e as restrições éticas embutidos nos modelos convencionais. Embora os desenvolvedores de modelos mainstream tenham investido muitos recursos para evitar que os modelos sejam abusados, algumas pessoas ou organizações mal-intencionadas, com objetivos ilegais, começaram a procurar ou desenvolver de forma independente modelos não restritos. Este artigo explorará casos típicos desses modelos ilimitados, seus potenciais danos na indústria de criptomoedas, bem como os desafios de segurança relacionados e estratégias de resposta.

Perigos dos Modelos de Linguagem de Grande Escala Sem Limites

A emergência deste tipo de modelo reduziu drasticamente a barreira de entrada para o cibercrime. Tarefas que anteriormente exigiam habilidades profissionais, como escrever código malicioso, criar e-mails de phishing e planejar fraudes, agora podem ser facilmente realizadas por pessoas comuns sem experiência em programação, com a ajuda de modelos não restritos. Os atacantes apenas precisam obter os pesos e o código-fonte do modelo de código aberto e, em seguida, ajustar com um conjunto de dados que contenha conteúdo malicioso ou instruções ilegais para criar ferramentas de ataque personalizadas.

Esta tendência trouxe múltiplos riscos: os atacantes podem personalizar modelos para alvos específicos, gerando conteúdos mais enganosos que conseguem contornar a revisão de conteúdo de modelos convencionais; os modelos também podem gerar rapidamente variantes de código para sites de phishing, ou criar textos de fraude adaptados a diferentes plataformas; ao mesmo tempo, a acessibilidade de modelos de código aberto está a fomentar a formação de um ecossistema de IA subterrâneo, proporcionando um terreno fértil para transações ilegais.

Modelos de linguagem grandes ilimitados típicos e seus perigos potenciais

WormGPT: versão sombria do GPT

WormGPT é um modelo malicioso vendido abertamente em fóruns underground, alegando não ter nenhuma limitação ética. É baseado em modelos de código aberto como o GPT-J 6B e foi treinado em uma grande quantidade de dados relacionados a malware. Os usuários precisam pagar 189 dólares para obter um mês de acesso. O uso mais infame do WormGPT é gerar e-mails de ataque de invasão comercial altamente realistas e e-mails de phishing.

No campo da criptomoeda, o WormGPT pode ser mal utilizado para:

• Gerar emails de phishing: imitar o pedido de "verificação de conta" enviado pela exchange ou pela parte do projeto, induzindo o usuário a revelar a sua chave privada.
• Escrever código malicioso: ajudar atacantes com habilidades técnicas mais baixas a escrever programas maliciosos para roubar arquivos de carteira.
• Automatização de fraudes: responder automaticamente a potenciais vítimas, orientando-as a participar em airdrops ou projetos de investimento fraudulentos.

DarkBERT: a espada de dois gumes do conteúdo da dark web

DarkBERT é um modelo de linguagem pré-treinado em dados da dark web, cujo objetivo inicial é fornecer ferramentas para pesquisadores de segurança e agências de aplicação da lei, a fim de entender melhor o ecossistema da dark web. No entanto, se for utilizado por criminosos ou se modelos irrestritos forem treinados por imitação, os perigos potenciais incluem:

• Implementar fraudes precisas: coletar informações de usuários de criptomoedas e equipes de projeto para fraudes sociais.
• Copiar métodos criminosos: imitar estratégias maduras de roubo e lavagem de dinheiro na dark web.

FraudGPT: a faca suíça para fraudes online

FraudGPT é considerado a versão melhorada do WormGPT, com funcionalidades mais abrangentes, sendo principalmente vendido na dark web e em fóruns de hackers. Na área das criptomoedas, pode ser mal utilizado para:

• Projetos de criptomoeda falsificados: gerar white papers, sites e roadmaps realistas para implementar ICOs fraudulentos.
• Geração em massa de páginas de phishing: crie rapidamente páginas de login que imitam as de bolsas de criptomoedas conhecidas.
• Atividades de bots em redes sociais: criação em massa de comentários falsos, promoção de tokens fraudulentos ou difamação de projetos concorrentes.
• Ataques de engenharia social: imitar diálogos humanos, estabelecer confiança com os usuários e induzir à divulgação de informações sensíveis.

GhostGPT: Assistente de IA sem restrições morais

GhostGPT é um chatbot de IA claramente posicionado como sem restrições morais. No campo das criptomoedas, pode ser mal utilizado para:

• Ataques de phishing avançados: gerar e-mails de phishing altamente realistas, fazendo-se passar por uma troca para enviar pedidos falsos de verificação KYC.
• Geração de código malicioso para contratos inteligentes: gera rapidamente contratos inteligentes com portas dos fundos ocultas, usados para esquemas de Rug Pull.
• Criptomoeda de roubo polimórfico: gera malware com capacidade de transformação para roubar arquivos de carteira e chaves privadas.
• Ataques de engenharia social: implantar robôs em plataformas sociais para induzir os usuários a participar de mintagem ou airdrops de NFT falsos.
• Fraude de deepfake: gerar vozes de fundadores de projetos falsificados ou executivos de exchanges para realizar fraudes telefónicas.

Venice.ai: potenciais riscos de acesso sem censura

A Venice.ai oferece acesso a vários modelos de linguagem com poucas restrições, embora o foco seja explorar as capacidades da IA como uma plataforma aberta, também pode ser mal utilizada para gerar conteúdo malicioso. Os riscos potenciais incluem:

• Ignorar a censura para gerar conteúdo malicioso: usar modelos com menos restrições para gerar templates de phishing ou ideias de ataque.
• Reduzir a barreira de entrada para dicas: mesmo sem habilidades avançadas, é possível obter facilmente saídas que antes estavam restritas.
• Acelerar a iteração do discurso de ataque: testar rapidamente diferentes modelos de resposta a comandos maliciosos, otimizando scripts de fraude.

Conclusão

A emergência de modelos de linguagem de grande escala sem restrições marca a entrada de um novo paradigma de ataques na segurança cibernética, que é mais complexo, mais escalável e com capacidades de automação. Isso não apenas reduz a barreira de entrada para ataques, mas também traz novas ameaças que são mais ocultas e enganosas.

Diante deste desafio, todas as partes do ecossistema de segurança precisam trabalhar em conjunto: aumentar o investimento em tecnologias de detecção, desenvolver ferramentas capazes de identificar e interceptar conteúdos gerados por modelos maliciosos; promover a construção de capacidades de prevenção de jailbreak em modelos, explorar mecanismos de marca d'água e rastreamento; estabelecer normas éticas e mecanismos regulatórios sólidos, para limitar desde a raiz o desenvolvimento e o abuso de modelos maliciosos. Somente com uma abordagem multifacetada, será possível garantir a segurança e o desenvolvimento saudável da indústria de criptomoedas na era da IA.