Group-IB: в даркнете продается более 100 тысяч скомпрометированных аккаунтов пользователей ChatGPT
Компания в сфере кибербезопасности Group-IB обнаружила более 100 тысяч скомпрометированных аккаунтов пользователей ChatGPT в даркнете. Утечки произошли в период с июня 2022 года по май 2023-го. Из отчета следует, что наибольший объем персональной информации — почти 27 тысяч записей — выгрузили в этом мае. Большая часть данных, выставленных на продажу в даркнете, из Азиатско-Тихоокеанского региона. Больше всего сведений принадлежит пользователям из Индии, Пакистана и Бразилии. Также есть данные из США, Франции, Вьетнама, Индонезии, Египта, Бангладеш и Марокко. Зачем злоумышленникам может понадобиться слитая информация? Комментирует генеральный директор компании «Нуматех» Павел Смоленский:
— Можно сделать анализ, допустим, картины пользователя, таргетировать, продавать под рекламу — самый простой способ. Используя информацию по целевой аудитории, подготавливать под это дело фишинговые атаки целевые. Да много можно чего делать. То есть если там высокопоставленные люди, можно пытаться качать что-то в сторону компромата. Всякие варианты возможны. То есть точки выхода, то есть человек с телефона выходит, и информацию об этом можно посмотреть, то есть высокопоставленный человек, то есть отследили его телефон по этим данным. Получать какую-то компрометирующую информацию или чувствительные данные.
— Не дошли мы еще до того уровня, когда сама нейросеть могла бы слить такие данные, и есть ли, может быть, потенциально такая опасность?
— В текущем раскладе нейросеть — это не самостоятельный живой организм, как бы его ни воспринимали, это машина, натренированная данными, то есть моделями, и кормят ее данными люди. Как люди туда залили какие модели, так она себя и ведет. Поэтому если за этим стоят люди, то есть легко могли накормить нейросеть такими данными, чтобы она сливала информацию. Нет же знаний и понимания того, как устроен тот же ChatGPT с точки зрения безопасности и как он хранит свои данные внутри себя, этой нет информации. Но я все-таки предполагаю, что за утечкой стоят конкретные люди, не сама сеть.
Как отмечается в сообщении Group-IB, многие предприятия интегрируют ChatGPT в свой рабочий процесс. Учитывая, что стандартная конфигурация ChatGPT сохраняет все разговоры, это может непреднамеренно предоставить злоумышленникам ценную информацию, если они получат учетные данные. В Group-IB обращают внимание, что среди слитой информации можно найти IP-адреса и домены пользователей. Большая часть данных, по словам специалистов, украдена с помощью вредоносной программы Raccon.