Компромат.Ru ®

Читают с 1999 года

Весь сор в одной избе

Библиотека компромата

Искусственный интеллект для мошенников

Оригинал этого материала
© Forbes.ru, 11.01.2023

Как киберпреступники создают вредоносные программы при помощи чат-бота ChatGPT

Томас Брюстер

Пользователи подпольных форумов начинают делиться вредоносным ПО, созданным при помощи популярного чат-бота ChatGPT компании OpenAI, а мошенники на сайтах знакомств планируют создавать с помощью этого инструмента ботов, выдающих себя за настоящих девушек. Эксперты предсказывают еще большее вредоносное использование ChatGPT

Исследователи в области кибербезопасности предупреждают, что интернет-мошенники начали использовать ChatGPT, чат-бот на базе ИИ компании OpenAI, для быстрого создания инструментов взлома. Один из экспертов, отслеживающих подпольные форумы, также сообщил Forbes USA, что мошенники тестируют способность ChatGPT создавать других чат-ботов, предназначенных для того, чтобы выдавать себя за девушек и заманивать в ловушку жертв.

Многие первые пользователи ChatGPT забили тревогу по поводу того, что приложение, которое стало популярным всего через несколько дней после запуска в декабре, может создавать программы-вымогатели или вредоносные программы, способные шпионить за тем, какие клавиши нажимает пользователь.

Согласно отчету израильской компании Check Point, занимающейся вопросами безопасности, подпольные криминальные форумы стали набирать популярность. В одном из сообщений на форуме хакер, ранее делившийся вредоносным ПО для Android, продемонстрировал код, написанный ChatGPT, который похищал интересующие его файлы, сжимал их и отправлял по сети. Они продемонстрировали еще один инструмент, который устанавливал на компьютер бэкдор («тайный вход» — дефект алгоритма для удаленного доступа) и мог загружать на зараженный ПК дополнительные вредоносные программы.

На том же форуме другой пользователь поделился кодом Python, который может шифровать файлы, заявив, что приложение OpenAI помогло ему его создать. Он утверждал, что это был первый скрипт, который он когда-либо разрабатывал. Как отметила компания Check Point в своем отчете, такой код может быть использован в безобидных целях, но он также может быть «легко модифицирован для полного шифрования чьего-либо устройства без какого-либо взаимодействия с пользователем», подобно тому, как работают программы-вымогатели. Как отметили в Check Point, тот же пользователь форума ранее продавал доступ к взломанным серверам компании и украденным данным.

Еще один из пользователей также рассказал о злоупотреблении ChatGPT, когда с его помощью были созданы функции торговой площадки даркнета — сродни интернет-магазинам по продаже наркотиков, таким как Silk Road или Alphabay. В качестве примера пользователь показал, как с помощью чат-бота можно быстро создать приложение, отслеживающее цены на криптовалюту для теоретической платежной системы.

Алекс Холден, основатель компании Hold Security, занимающейся киберразведкой, сказал, что видел, как мошенники на сайтах знакомств тоже начинают использовать ChatGPT, пытаясь создать «настоящих людей». «Они планируют создать чат-ботов, которые будут выдавать себя за девушек, чтобы продвинуться дальше в переписках со своими жертвами, — сказал он. — Они пытаются автоматизировать пустую болтовню».

На момент публикации OpenAI не ответила на просьбу о комментарии.

Хотя инструменты, созданные ChatGPT, выглядели довольно простыми, Check Point считает, что это лишь вопрос времени, пока более изощренные хакеры не найдут способ использовать ИИ в своих интересах. Рик Фергюсон, вице-президент по безопасности и анализу угроз американской компании Forescout, сказал, что пока не похоже, чтобы ChatGPT был способен создавать что-то настолько сложное, как «штаммы» вирусов-вымогателей, которые были замечены в серьезных хакерских инцидентах в последние годы. Примером может служить программа-вымогатель Conti, печально известная своим использованием при взломе национальной системы здравоохранения Ирландии. Однако инструмент OpenAI позволит новичкам снизить барьер входа на этот нелегальный рынок, создавая более простые, но столь же эффективные вредоносные программы, добавил Фергюсон.

Он также выразил опасение, что, вместо того чтобы создавать код, крадущий данные жертв, ChatGPT может быть использован для создания веб-сайтов и ботов, которые обманом заставляют пользователей делиться своей информацией. «Это может индустриализировать создание и персонализацию вредоносных веб-страниц, высоконаправленных фишинговых кампаний и афер, основанных на социальной инженерии», — добавил Фергюсон.

Сергей Шикевич, исследователь группы Check Point по анализу угроз, сказал Forbes USA, что ChatGPT станет «отличным инструментом» для российских хакеров, которые не владеют английским языком, чтобы создавать правдоподобные фишинговые письма.

Что касается защиты от преступного использования ChatGPT, Шикевич сказал, что в конечном счете и, «к сожалению», это должно быть обеспечено регулированием. OpenAI внедрила некоторые средства контроля, предотвращая очевидные запросы на ChatGPT для создания шпионских программ с помощью предупреждений о нарушении политики, однако хакеры и журналисты нашли способы обойти эти средства защиты. Шикевич сказал, что компании, подобные OpenAI, возможно, придется юридически заставить обучать свой ИИ выявлять такие злоупотребления.

3dnews.ru, 10.01.2023, "App Store и Play Маркет наводнили сомнительные приложения, притворяющиеся ChatGPT — официального не существует": Основанный на передовых алгоритмах искусственного интеллекта бот ChatGPT сегодня является одной из наиболее горячих тем в технологической индустрии, и некоторые не всегда порядочные разработчики решили воспользоваться тенденцией, разместив сомнительные приложения в App Store и Play Маркет, которые мимикрируют под популярный бот. За дополнительную плату приложения предлагают пользователям «расширенные возможности» и дополнительные запросы к чат-боту. Важно помнить, что доступ к ChatGPT бесплатен, а разработавшая бот компания OpenAI официальных приложений не выпускала. В чарты по ряду стран попало, например, приложение под названием «ChatGPT Chat GPT AI With GPT-3» — оно устанавливается бесплатно, но предлагает подписку по цене $7,99 в неделю или $49,99 в месяц за неограниченное число запросов к боту. В реальности же, отмечают авторы обзоров приложения, подписка не даёт никаких преимуществ. У того же разработчика уже было похожее приложение с более чем 100 тыс. загрузок, но сейчас оно удалено.

Смысл всей этой сомнительной деятельности в том, чтобы выпустить практически любое приложение, в названии которого упоминается «ChatGPT», чтобы оно как можно выше поднялось в результатах поиска — некоторые даже выпускают несколько приложений в надежде, что хотя бы одно из них наберёт достаточно высокое число скачиваний. Аналогичным образом ранее App Store и Play Store наводняли подделки некогда популярных Wordle и Flappy Bird. И пока неясно, собираются ли Apple и Google что-то делать с наплывом сомнительных приложений, паразитирующих на популярности ChatGPT. — Врезка К.ру

Перевод Ксении Лычагиной

Другие материалы раздела:
Справочник психопата
📁 Песня о ПРО =>
Soft Power - мягкая сила
Перезагрузка режима online
Большое ухо Швеции
"Ухудшение поведения России"
В ожидании "золотого дождя"
Доклад Фалина-Евстафьева
Политический сыск в России
Двойное гражданство политиков
Сценарий аппаратной интриги
Тарифы взяток
Прайс-лист на справки
📁 VIP-авиакатастрофы +
"Теория заговора" - 2002
📁 ЦРУ о смерти Ельцина =>
📁 Дело Bank of New York +
📁 История "Ноги" +
📁 Дело "Зедельмайер vs РФ" +
США на выборах в России
США на выборах в Сочи
📁 Правозащитное движение +
📁 Закон о НКО и камень-шпион +
📁 Кого защищают"зеленые" +
📁 Сектанты в Кремле +
📁 Троянские гранты +
📁 Кремлевские гранты +
Радикалы в большой политике
📁 Тоталитарные секты +
📁 5-а колонна из Минфина +
Террористы - активисты
Список: экстремисты, террористы
Рынок рабов - $150 млрд в год
Мировой черный рынок
Наркотики и проституция в ВВП
Женский политкорректный язык
SARS - расовое оружие
Проверка на лживость
Инородцы на языках мира
Неблагозвучная фамилия
Заговор составителей словарей
Чукчи против толкового словаря
Классики - экстремисты
Приметы сотрудников ГИБДД
📁 Пятерочка. Секта магазинов +
📁 Ритейлеры-вымогатели +
📁 ОАГБ шантажирует "Данон" +
Credit Suisse - банк шпионов
Metro Cash & Carry
Метро против "Метро"
📁 Ужасы фаст-фуда +
Фарма-убийцы в США
Черный рынок трупов
Друг Билл срывает маску
Stratfor: США правят миром
США - интеллектуальный вызов
Протоколы ЕС с помойки
Путину заклеили рот
Ядерный удар США по России
США плюют на УК
Двойной стандарт Запада
Агенты Израиля в Голливуде
Нацисты на службе США
Вымирание спланировано США
📁 Биолаборатории США +
Совсекретная Америка
ЦРУ: как пройти пасп. контроль
Сколько получают шпионы
Шпионаж: идея или деньги?
Офшоры сексотов
📁 Россию развалили демократы +
📁 Союз развалили бюрократы +
Русским запрещают молиться
"Русское досье" WikiLeaks
Путин в роли Снегурочки
Путин и плутократы
Путин и Кузькина мать
ДНК вождей под грифом секретно
Без ума от политики
Политическая психиатрия
Изнасиловали немок от 8 до 80
Бюджет полицейского государства
Рацион хуже ГУЛАГа
Бомба под ВПК
Секс-шпионы
Смерть в мешках
Удар по интимности
Смартфоны следят за нами
📁 Твой iPhone тебя пасет =>
ФСБ видит тебя
ФСБ распознает тебя
"Сторожки" на политических
📁 Москва под колпаком +
Кремль глушит GPS
MS-Lexa
Политкорректор MS Office
ChatGPT для мошенников
Поджог РКН за блокировки

Знаком '+' отмечены подразделы,
а '=>' - ссылки между разделами.


Compromat.Ru ® — зарегистрированный товарный знак. Св. №319929. 18+. info@compromat.ru