Mặt tối của trí tuệ nhân tạo: Những thách thức an ninh do mô hình ngôn ngữ lớn không giới hạn mang lại

Với sự phát triển nhanh chóng của công nghệ trí tuệ nhân tạo, các mô hình ngôn ngữ lớn đang thay đổi sâu sắc cách chúng ta sống. Tuy nhiên, sau ánh sáng rực rỡ này, một bóng tối đáng lo ngại đang âm thầm mở rộng - sự xuất hiện của các mô hình ngôn ngữ lớn không giới hạn hoặc có ý đồ xấu.

Mô hình ngôn ngữ không giới hạn là những mô hình được thiết kế hoặc chỉnh sửa một cách có chủ đích để vượt qua các cơ chế bảo mật và giới hạn đạo đức được tích hợp sẵn trong mô hình thông thường. Mặc dù các nhà phát triển mô hình chính thống đã đầu tư rất nhiều tài nguyên để ngăn chặn việc lạm dụng mô hình, nhưng một số cá nhân hoặc tổ chức có ý đồ xấu đã bắt đầu tìm kiếm hoặc tự phát triển các mô hình không bị ràng buộc cho các mục đích bất hợp pháp. Bài viết này sẽ khám phá các trường hợp điển hình của các mô hình không giới hạn này, những mối nguy tiềm tàng của chúng trong ngành công nghiệp tiền điện tử, cũng như các thách thức an ninh liên quan và các chiến lược ứng phó.

Mối nguy hiểm của các mô hình ngôn ngữ lớn không giới hạn

Sự xuất hiện của những mô hình này đã giảm đáng kể rào cản gia nhập tội phạm mạng. Những nhiệm vụ trước đây cần kỹ năng chuyên môn để hoàn thành, như viết mã độc, tạo email lừa đảo, lên kế hoạch lừa đảo, giờ đây với sự trợ giúp của các mô hình không giới hạn, ngay cả những người bình thường không có kinh nghiệm lập trình cũng có thể dễ dàng bắt tay vào. Kẻ tấn công chỉ cần lấy trọng số và mã nguồn của mô hình mã nguồn mở, sau đó điều chỉnh với tập dữ liệu chứa nội dung độc hại hoặc chỉ thị bất hợp pháp, là có thể tạo ra các công cụ tấn công tùy chỉnh.

Xu hướng này mang lại nhiều rủi ro: kẻ tấn công có thể tùy chỉnh mô hình nhắm đến các mục tiêu cụ thể, tạo ra nội dung lừa đảo tinh vi hơn, vượt qua sự kiểm soát nội dung của các mô hình thông thường; mô hình cũng có thể nhanh chóng tạo ra các biến thể mã của trang web lừa đảo, hoặc viết nội dung lừa đảo được thiết kế riêng cho các nền tảng khác nhau; đồng thời, khả năng truy cập vào các mô hình mã nguồn mở cũng đang thúc đẩy sự hình thành của hệ sinh thái AI ngầm, tạo điều kiện cho các giao dịch bất hợp pháp.

Mô hình ngôn ngữ lớn không giới hạn điển hình và những nguy hiểm tiềm ẩn của nó

WormGPT: phiên bản tối tăm của GPT

WormGPT là một mô hình độc hại được bán công khai trên các diễn đàn ngầm, tuyên bố không có bất kỳ giới hạn đạo đức nào. Nó dựa trên các mô hình mã nguồn mở như GPT-J 6B và được đào tạo trên một lượng lớn dữ liệu liên quan đến phần mềm độc hại. Người dùng chỉ cần thanh toán 189 đô la để có quyền sử dụng trong một tháng. Ứng dụng nổi tiếng nhất của WormGPT là tạo ra các email tấn công xâm nhập thương mại và email lừa đảo có độ chân thực cao.

Trong lĩnh vực tiền điện tử, WormGPT có thể bị lạm dụng cho:

• Tạo email lừa đảo: Bắt chước sàn giao dịch hoặc dự án gửi yêu cầu "xác minh tài khoản", dụ dỗ người dùng tiết lộ khóa riêng.
• Viết mã độc: Hỗ trợ những kẻ tấn công có kỹ năng kỹ thuật thấp viết chương trình độc hại để đánh cắp tệp ví.
• Kích hoạt lừa đảo tự động: Tự động trả lời các nạn nhân tiềm năng, hướng dẫn tham gia vào các đợt airdrop hoặc dự án đầu tư giả.

DarkBERT: Con dao hai lưỡi của nội dung mạng tối

DarkBERT là một mô hình ngôn ngữ được huấn luyện trước trên dữ liệu từ dark web, với mục đích ban đầu là cung cấp công cụ cho các nhà nghiên cứu an ninh và cơ quan thực thi pháp luật để hiểu rõ hơn về hệ sinh thái dark web. Tuy nhiên, nếu bị kẻ xấu lợi dụng hoặc mô phỏng để huấn luyện ra mô hình không bị hạn chế, những nguy hiểm tiềm tàng của nó bao gồm:

• Thực hiện lừa đảo chính xác: Thu thập thông tin của người dùng tiền điện tử và nhóm dự án, sử dụng cho lừa đảo xã hội.
• Sao chép thủ đoạn tội phạm: Bắt chước các chiến lược trộm cắp và rửa tiền đã trưởng thành trên dark web.

FraudGPT: Dao Swiss của gian lận trực tuyến

FraudGPT được cho là phiên bản nâng cấp của WormGPT, với nhiều chức năng hơn, chủ yếu được bán trên dark web và các diễn đàn hacker. Trong lĩnh vực tiền mã hóa, nó có thể bị lạm dụng để:

• Dự án tiền điện tử giả mạo: Tạo ra sách trắng, trang web và lộ trình chân thực để thực hiện ICO giả.
• Tạo trang lừa đảo hàng loạt: Tạo nhanh các trang đăng nhập giả mạo các sàn giao dịch nổi tiếng.
• Hoạt động của đội quân mạng xã hội: Tạo ra một số lượng lớn bình luận giả, quảng bá các đồng tiền lừa đảo hoặc bôi nhọ các dự án cạnh tranh.
• Tấn công kỹ thuật xã hội: Bắt chước cuộc trò chuyện của con người, thiết lập niềm tin với người dùng, dẫn dụ rò rỉ thông tin nhạy cảm.

GhostGPT: AI trợ lý không có ràng buộc đạo đức

GhostGPT là một chatbot AI được xác định rõ ràng là không có giới hạn đạo đức. Trong lĩnh vực tiền điện tử, nó có thể bị lạm dụng để:

• Tấn công lừa đảo cao cấp: Tạo ra các email lừa đảo giống hệt, giả mạo yêu cầu xác minh KYC giả từ sàn giao dịch.
• Tạo mã độc hại cho hợp đồng thông minh: Tạo nhanh các hợp đồng thông minh có cửa hậu ẩn, phục vụ cho các trò lừa đảo Rug Pull.
• Mã độc đa hình tiền điện tử: Tạo ra phần mềm độc hại có khả năng biến hình, đánh cắp tệp ví và khóa riêng.
• Tấn công kỹ thuật xã hội: Triển khai robot trên nền tảng xã hội, dụ dỗ người dùng tham gia vào việc đúc NFT giả mạo hoặc airdrop.
• Lừa đảo giả mạo sâu: Tạo ra giọng nói của người sáng lập dự án hoặc giám đốc điều hành sàn giao dịch giả, thực hiện lừa đảo qua điện thoại.

Venice.ai: Rủi ro tiềm ẩn về việc truy cập không bị kiểm duyệt

Venice.ai cung cấp quyền truy cập vào nhiều mô hình ngôn ngữ ít bị hạn chế, mặc dù mục tiêu là khám phá khả năng của AI trên một nền tảng mở, nhưng cũng có thể bị lạm dụng để tạo ra nội dung độc hại. Các rủi ro tiềm ẩn bao gồm:

• Vượt qua kiểm duyệt để tạo nội dung độc hại: Sử dụng mô hình có hạn chế ít hơn để tạo mẫu lừa đảo hoặc ý tưởng tấn công.
• Giảm bớt rào cản kỹ thuật: Ngay cả khi thiếu kỹ năng sâu sắc, cũng có thể dễ dàng đạt được đầu ra vốn bị hạn chế.
• Tăng tốc độ lặp lại kịch bản tấn công: Kiểm tra nhanh phản ứng của các mô hình khác nhau đối với các lệnh độc hại, tối ưu hóa kịch bản gian lận.

Kết luận

Sự xuất hiện của các mô hình ngôn ngữ lớn không giới hạn đánh dấu một kỷ nguyên mới trong an ninh mạng với những cuộc tấn công phức tạp hơn, có quy mô và khả năng tự động hóa cao hơn. Điều này không chỉ làm giảm rào cản cho các cuộc tấn công mà còn mang đến những mối đe dọa mới tinh vi và khó phát hiện hơn.

Đối mặt với thách thức này, các bên trong hệ sinh thái an ninh cần hợp tác nỗ lực: Tăng cường đầu tư vào công nghệ phát hiện, nghiên cứu phát triển các công cụ có khả năng nhận diện và chặn nội dung do mô hình độc hại tạo ra; Thúc đẩy khả năng ngăn chặn mô hình bị vượt qua, khám phá cơ chế watermark và truy nguồn; Thiết lập các quy tắc đạo đức và cơ chế giám sát hoàn chỉnh, từ gốc hạn chế việc phát triển và lạm dụng mô hình độc hại. Chỉ có đa phương diện, mới có thể đảm bảo an toàn và phát triển lành mạnh cho ngành công nghiệp tiền mã hóa trong kỷ nguyên AI.