Темная сторона искусственного интеллекта: вызовы безопасности, связанные с неограниченными большими языковыми моделями

С быстрым развитием технологий искусственного интеллекта большие языковые модели глубоко меняют наш образ жизни. Однако за этим светлым обликом скрывается тревожная тень, которая тихо расширяется – появление неограниченных или злонамеренных больших языковых моделей.

Неограниченные языковые модели — это те, которые были намеренно разработаны или модифицированы для обхода встроенных механизмов безопасности и этических ограничений обычных моделей. Несмотря на то, что разработчики основных моделей вкладывают значительные ресурсы в предотвращение злоупотреблений моделью, некоторые недобросовестные лица или организации начинают искать или разрабатывать неограниченные модели для незаконных целей. В этой статье будет обсуждаться典型案例 этих неограниченных моделей, их потенциальный вред в криптоиндустрии, а также связанные с этим проблемы безопасности и стратегии реагирования.

Опасности неограниченных больших языковых моделей

Появление таких моделей значительно снизило порог для сетевой преступности. Задачи, которые раньше требовали профессиональных навыков, такие как написание вредоносного кода, создание фишинговых писем, планирование мошенничества и т.д., теперь с помощью неограниченных моделей могут легко выполнять даже обычные люди без программного опыта. Злоумышленникам достаточно получить веса и исходный код открытой модели, а затем с помощью набора данных, содержащего вредоносный контент или незаконные команды, провести донастройку, чтобы создать индивидуализированные инструменты для атак.

Эта тенденция несет в себе множество рисков: злоумышленники могут настраивать модели под конкретные цели, создавая более обманчивый контент, который обходит обычные проверки содержимого; модели также могут быстро генерировать варианты кода для фишинговых сайтов или адаптировать мошеннические тексты для различных платформ; в то же время доступность открытых моделей способствует формированию подпольной экосистемы ИИ, создавая благоприятные условия для незаконной торговли.

Типичные неограниченные большие языковые модели и их потенциальные угрозы

WormGPT: Тёмная версия GPT

WormGPT — это вредоносная модель, которая продается на подпольных форумах и заявляет, что не имеет никаких моральных ограничений. Она основана на открытых моделях, таких как GPT-J 6B, и обучена на большом объеме данных, связанных с вредоносным ПО. Пользователи могут получить месячную подписку всего за 189 долларов. Наиболее печально известное применение WormGPT — это генерация высокореалистичных коммерческих писем для атак через взлом и фишинг.

В области криптовалют WormGPT может быть использован в злоумышленных целях:

• Генерация фишинговых писем: подражая запросам "подтверждения аккаунта" от биржи или проекта, вводя пользователей в заблуждение и побуждая их раскрывать свои приватные ключи.
• Написание вредоносного кода: помощь технически необразованным злоумышленникам в создании вредоносных программ для кражи файлов кошелька.
• Автоматизация мошенничества: автоматические ответы потенциальным жертвам, направляющие их к участию в ложных аирдропах или инвестиционных проектах.

DarkBERT: двусторонний меч контента темной сети

DarkBERT — это языковая модель, предварительно обученная на данных темной сети, изначально предназначенная для предоставления инструментов исследователям в области безопасности и правоохранительным органам для лучшего понимания экосистемы темной сети. Однако, если она будет использована преступниками или если будет создана неограниченная модель по аналогии, ее потенциальный вред включает в себя:

• Проведение точного мошенничества: сбор информации о крипто-пользователях и командах проектов для социальной инженерии.
• Копирование преступных методов: подражание зрелым стратегиям кражи криптовалюты и отмывания денег в даркнете.

FraudGPT: швейцарский нож сетевого мошенничества

FraudGPT заявляет, что он является улучшенной версией WormGPT с более широкими возможностями и в основном продается в даркнете и на хакерских форумах. В области криптовалют он может быть злоупотреблен для:

• Поддельные криптопроекты: создание реалистичных белых книг, веб-сайтов и дорожных карт для проведения ложных ICO.
• Массовое создание фишинговых страниц: быстрое создание поддельных страниц входа известных бирж.
• Деятельность ботов в социальных сетях: массовое создание ложных комментариев, продвижение мошеннических токенов или дискредитация конкурентных проектов.
• Социальная инженерия: имитация человеческого диалога для установления доверия с пользователем, что приводит к утечке конфиденциальной информации.

GhostGPT: AI-помощник без моральных ограничений

GhostGPT — это четко определенный AI-чат-бот без моральных ограничений. В криптовалютной сфере его можно использовать неправомерно для:

• Продвинутые фишинговые атаки: создание высокореалистичных фишинговых писем, маскирующихся под ложные запросы KYC от биржи.
• Генерация злонамеренного кода смарт-контрактов: быстрое создание смарт-контрактов с скрытыми задними дверями для схемы Rug Pull.
• Полиформенный криптовалютный кражник: генерирует вредоносное ПО с трансформируемыми способностями, крадя файлы кошельков и приватные ключи.
• Атаки социальной инженерии: развертывание ботов на социальных платформах, чтобы诱导用户 участвовать в虚假 NFT铸造 или空投.
• Глубокая подделка мошенничества: создание поддельных голосов основателей проектов или руководителей бирж для осуществления телефонного мошенничества.

Venice.ai: Потенциальные риски доступа без цензуры

Venice.ai предоставляет доступ к различным языковым моделям с ограничениями, хотя его позиционирование как открытой платформы для исследования возможностей ИИ может также привести к злоупотреблению для генерации вредоносного контента. Потенциальные риски включают:

• Обход цензуры для создания вредоносного контента: использование моделей с меньшими ограничениями для создания шаблонов фишинга или атакующих идей.
• Снижение порога для提示工程: даже при отсутствии глубоких навыков можно легко получить ранее ограниченный вывод.
• Ускорение итерации атакующих сценариев: быстрое тестирование реакции различных моделей на вредоносные команды, оптимизация мошеннических скриптов.

Заключение

Появление неограниченных больших языковых моделей знаменует собой новую парадигму атак, которая отличается более сложными, масштабируемыми и автоматизированными способностями в области кибербезопасности. Это не только снижает порог атаки, но и приводит к новым, более скрытным и обманчивым угрозам.

Столкнувшись с этой проблемой, всем сторонам безопасной экосистемы необходимо совместно работать: увеличить инвестиции в технологии обнаружения, разработать инструменты, способные распознавать и блокировать контент, созданный злонамеренными моделями; продвигать развитие способностей моделей к предотвращению побега, исследовать механизмы водяных знаков и отслеживания; установить и усовершенствовать этические нормы и механизмы надзора, чтобы ограничить разработку и злоупотребление злонамеренными моделями с самого начала. Только комплексный подход сможет обеспечить безопасность и здоровое развитие криптоиндустрии в эпоху ИИ.