Pandora Kutusu: Sınırsız Büyük Modellerin Şifreleme Sektörüne Olası Tehditlerini Tartışmak

Yapay zeka teknolojisinin hızla gelişmesiyle birlikte, GPT serisinden Gemini'ye, çeşitli açık kaynak modellerine kadar, gelişmiş AI, iş ve yaşam tarzımızı derinden değiştiriyor. Ancak, teknolojik ilerlemenin yanı sıra, dikkat edilmesi gereken bir sorun da giderek ortaya çıkıyor - sınırsız veya kötü niyetli büyük dil modellerinin ortaya çıkışı ve bunların potansiyel riskleri.

Sınırsız LLM'ler, ana akım modellerin yerleşik güvenlik mekanizmalarını ve etik sınırlamalarını aşmak için özellikle tasarlanan, değiştirilmiş veya "jailbreak" edilmiş dil modellerini ifade eder. Ana akım LLM geliştiricileri genellikle, modellerinin nefret söylemi, yanlış bilgi, kötü niyetli kod üretimi veya yasadışı faaliyetlerle ilgili talimatlar sağlaması için büyük miktarda kaynak yatırımı yaparlar. Ancak son yıllarda, bazı bireyler veya kuruluşlar farklı motivasyonlarla sınırsız modeller aramaya veya kendileri geliştirmeye başladılar. Bu makalede, tipik sınırsız LLM araçları ele alınacak, bunların şifreleme sektöründeki potansiyel kötüye kullanım yolları analiz edilecek ve ilgili güvenlik zorlukları ile yanıt stratejileri tartışılacaktır.

Sınırsız LLM'nin Potansiyel Tehditleri

Geçmişte, kötü amaçlı kod yazma, oltalama e-postaları oluşturma, dolandırıcılık planlama gibi görevleri tamamlamak için uzmanlık becerilerine ihtiyaç vardı. Ancak şimdi, sınırsız LLM'nin yardımıyla, programlama deneyimi olmayan sıradan insanlar bile kolayca bu işe girebiliyor. Saldırganlar, yalnızca açık kaynaklı modelin ağırlıklarını ve kaynak kodunu elde etmeli, ardından kötü niyetli içerikler, önyargılı ifadeler veya yasadışı talimatlar içeren veri setlerinde ince ayar yaparak özelleştirilmiş saldırı araçları oluşturabiliyor.

Bu model birden fazla risk getiriyor: Saldırganlar belirli hedeflere "modifiye" edilmiş modellerle daha aldatıcı içerikler üretebilir, bu da geleneksel LLM'nin içerik denetimi ve güvenlik kısıtlamalarını aşmalarını sağlar; modeller hızlı bir şekilde phishing siteleri için kod varyantları oluşturmak veya farklı sosyal medya platformları için dolandırıcılık metinleri özelleştirmek için de kullanılabilir; aynı zamanda, açık kaynaklı modellerin erişilebilirliği ve değiştirilebilirliği yeraltı AI ekosisteminin oluşumunu ve yayılmasını teşvik ediyor, yasadışı ticaret ve geliştirme için bir zemin sağlıyor. İşte birkaç tipik sınırsız LLM ve potansiyel tehditleri:

WormGPT: Siyah versiyonu GPT

WormGPT, yer altı forumlarda açıkça satılan kötü niyetli bir LLM'dir ve geliştiricileri bunun herhangi bir etik kısıtlaması olmadığını açıkça belirtmektedir. GPT-J 6B gibi açık kaynak modellerine dayanmaktadır ve kötü amaçlı yazılımlarla ilgili geniş bir veri kümesi üzerinde eğitilmiştir. Kullanıcılar en az 189 dolar ödeyerek bir aylık kullanım izni alabilirler. WormGPT'nin en kötü şöhretli kullanımı, (BEC) saldırı e-postaları ve oltalama e-postaları için son derece gerçekçi ve ikna edici ticari e-postalar üretmektir. Şifreleme sahnesindeki tipik kötüye kullanım biçimleri şunlardır:

• Phishing e-postaları/bilgileri oluşturma: Kullanıcıları "hesap doğrulama" isteği ile yönlendiren, kripto para borsası, cüzdan veya tanınmış projeleri taklit eden kötü amaçlı bağlantılara tıklamaya ya da özel anahtar/mnemonik kelimeleri ifşa etmeye zorlamak.
• Kötü amaçlı kod yazma: Teknik düzeyi düşük olan saldırganlara cüzdan dosyalarını çalma, panoyu izleme, klavye kaydetme gibi işlevleri içeren kötü amaçlı kod yazmalarında yardımcı olmak.
• Otomatik dolandırıcılığı sürdürmek: Potansiyel mağdurlara otomatik yanıt vererek onları sahte airdrop veya yatırım projelerine katılmaya yönlendirmek.

DarkBERT: Karanlık ağ içeriğinin çift taraflı kılıcı

DarkBERT, Kore Bilim ve Teknoloji Enstitüsü (KAIST)'nden araştırmacılar ile S2W Inc. tarafından geliştirilen bir dil modelidir ve karanlık ağ verileri (forumlar, kara pazarlar, sızdırılmış belgeler gibi) üzerinde önceden eğitilmiştir. Amacı, siber güvenlik araştırmacıları ve kolluk kuvvetlerinin karanlık ağ ekosistemini daha iyi anlamaları, yasadışı faaliyetleri takip etmeleri, potansiyel tehditleri tanımlamaları ve tehdit istihbaratı elde etmeleridir.

DarkBERT'in tasarım amacının olumlu olmasına rağmen, karanlık ağda sahip olduğu veriler, saldırı yöntemleri, yasadışı ticaret stratejileri gibi hassas içerikler, kötü niyetli kişilerin eline geçerse veya benzer teknolojiler kullanılarak sınırsız büyük modeller eğitilirse, sonuçları korkunç olabilir. Şifreleme senaryosundaki potansiyel kötüye kullanım yolları şunları içerir:

• Hassas dolandırıcılığı uygulamak: Şifreleme kullanıcıları ve proje ekipleri hakkında bilgi toplamak, sosyal mühendislik dolandırıcılığı için.
• Suç yöntemlerini taklit etmek: Karanlık ağda olgun hırsızlık ve para aklama stratejilerini kopyalamak.

FraudGPT: Ağ dolandırıcılığı için İsviçre çakısı

FraudGPT, WormGPT'nin bir yükseltmesi olduğunu iddia ediyor, daha kapsamlı bir işlevselliğe sahip ve esas olarak karanlık ağ ve hacker forumlarında satılıyor, aylık ücretleri 200 dolardan 1,700 dolara kadar değişiyor. Şifreleme alanındaki tipik kötüye kullanım yöntemleri şunlardır:

• Sahte şifreleme projeleri: Yanlış bir şekilde gerçek gibi görünen beyaz kağıt, resmi web sitesi, yol haritası ve pazarlama metinleri oluşturmak, sahte ICO/IDO uygulamak için.
• Toplu olarak phishing sayfaları oluşturma: Tanınmış şifreleme borsalarının giriş sayfalarını veya cüzdan bağlantı arayüzlerini hızlı bir şekilde taklit edin.
• Sosyal medya trolleri faaliyetleri: Büyük ölçekli sahte yorumlar ve tanıtımlar üretmek, dolandırıcılık tokenlerini desteklemek veya rakip projeleri karalamak.
• Sosyal mühendislik saldırısı: Bu sohbet robotu, insan diyaloglarını taklit edebilir, habersiz kullanıcılarla güven oluşturabilir ve onları istemeden hassas bilgileri sızdırmaya veya zararlı işlemler yapmaya ikna edebilir.

GhostGPT: Ahlaki kısıtlamalardan bağımsız AI asistanı

GhostGPT, ahlaki kısıtlamaları olmayan bir AI sohbet robotu olarak net bir şekilde konumlandırılmıştır ve şifreleme sahnesindeki tipik kötüye kullanım yolları şunlardır:

• Gelişmiş oltalama saldırısı: Yüksek derecede gerçekçi oltalama e-postaları oluşturarak, ana akım borsa gibi davranarak sahte KYC doğrulama talepleri, güvenlik uyarıları veya hesap dondurma bildirimleri yayınlar.
• Akıllı sözleşme kötü niyetli kod üretimi: Programlama bilgisi olmadan, saldırganlar GhostGPT'yi kullanarak gizli arka kapılar veya dolandırıcılık mantığı içeren akıllı sözleşmeler hızlı bir şekilde üretebilir, bu da Rug Pull dolandırıcılığı veya DeFi protokollerine saldırılar için kullanılabilir.
• Polimorfik şifreleme para çalıcısı: Cüzdan dosyalarını, özel anahtarları ve kurtarma kelimelerini çalmak için sürekli şekil değiştirme yeteneğine sahip kötü amaçlı yazılım üretir. Polimorfik özellikleri, geleneksel imza tabanlı güvenlik yazılımlarının tespit etmesini zorlaştırır.
• Sosyal mühendislik saldırıları: AI tarafından üretilen konuşma senaryolarını birleştirerek, saldırganlar sosyal platformlarda botlar konuşlandırabilir ve kullanıcıları sahte NFT mintleme, airdrop veya yatırım projelerine katılmaya teşvik edebilir.
• Derin sahtecilik dolandırıcılığı: Diğer AI araçlarıyla birlikte, GhostGPT, sahte şifreleme proje kurucuları, yatırımcılar veya borsa yöneticilerinin seslerini oluşturmak için kullanılabilir, telefon dolandırıcılığı veya ticari e-posta saldırıları gerçekleştirmek amacıyla (BEC).

Venice.ai: Sansürsüz erişimin potansiyel riskleri

Venice.ai, çeşitli LLM'lere erişim sağlar; bunlar arasında daha az sansürlenmiş veya daha gevşek kısıtlamalara sahip modeller de bulunmaktadır. Kendini, kullanıcıların farklı LLM yeteneklerini keşfetmesi için açık bir kapı olarak konumlandırmakta, en gelişmiş, en doğru ve sansürsüz modeller sunarak gerçek anlamda sınırsız bir AI deneyimi sağlamaktadır; ancak bu, kötü niyetli kişiler tarafından zararlı içerikler üretmek için de kullanılabilir. Platformun riskleri şunlardır:

• Sansürü aşarak kötü niyetli içerik üretmek: Saldırganlar, platformda daha az kısıtlamaya sahip modelleri kullanarak oltalama şablonları, sahte tanıtımlar veya saldırı fikirleri üretebilir.
• Uyarı mühendisliği engelini azaltmak: Hedef saldırgan yüksek düzeyde "jailbreak" uyarı becerilerine sahip olmasa bile, sınırlı olan çıktıyı kolayca elde edebilir.
• Hızlandırılmış saldırı konuşma dili iterasyonu: Saldırganlar, bu platformu kullanarak kötü niyetli komutlara farklı modellerin tepkisini hızlı bir şekilde test edebilir, dolandırıcılık senaryolarını ve saldırı yöntemlerini optimize edebilir.

Sonuç

Sınırsız LLM'lerin ortaya çıkması, siber güvenliğin daha karmaşık, daha ölçeklenebilir ve otomatikleştirilmiş saldırıların yeni bir paradigmasıyla karşı karşıya olduğunu işaret ediyor. Bu tür modeller yalnızca saldırı eşiklerini düşürmekle kalmıyor, aynı zamanda daha gizli, daha aldatıcı yeni tehditler de getiriyor.

Bu saldırı ve savunmanın sürekli yükseldiği oyunda, güvenlik ekosisteminin tüm tarafları ancak iş birliği yaparak gelecekteki risklerle başa çıkabilir: bir yandan, kötü niyetli LLM tarafından üretilen oltalama içeriklerini, akıllı sözleşme açıklarını ve kötü niyetli kodları tanıyabilen ve engelleyebilen tespit teknolojilerine yatırım yapılması gerekmektedir; diğer yandan, modelin jailbreak önleme yeteneklerinin geliştirilmesi teşvik edilmeli ve finansal ile kod oluşturma gibi kritik senaryolarda kötü niyetli içeriklerin kaynaklarını izlemek için su işareti ve izleme mekanizmaları araştırılmalıdır; ayrıca, kötü niyetli modellerin geliştirilmesini ve kötüye kullanılmasını kökünden sınırlamak için sağlam etik normlar ve denetim mekanizmaları oluşturulmalıdır.