Утечка данных ChatGPT: что произошло с Mixpanel и как это на вас влияет

Пользователи ChatGPT За последние несколько часов они получили электронное письмо, вызвавшее немало удивления: OpenAI сообщает об утечке данных, связанной с ее платформой APIПредупреждение достигло огромной аудитории, включая людей, которые не пострадали напрямую, что вызвал некоторую путаницу о реальных масштабах инцидента.

Компания подтвердила, что было несанкционированный доступ к информации некоторых клиентовНо проблема была не в серверах OpenAI, а в... Mixpanel, сторонний поставщик веб-аналитики, который собирал метрики использования интерфейса API в platform.openai.comТем не менее, это дело вновь выводит проблему на передний план. дебаты о том, как персональные данные управляются в службах искусственного интеллекта, также в Европе и под эгидой RGPD.

Ошибка в Mixpanel, а не в системах OpenAI

Как подробно изложено в заявлении OpenAI, инцидент произошел Ноябрь 9когда Mixpanel обнаружил, что злоумышленник получил доступ несанкционированный доступ к части его инфраструктуры и экспортировал набор данных, использованный для анализа. В течение этих недель поставщик провёл внутреннее расследование, чтобы определить, какая информация была скомпрометирована.

Как только Mixpanel стал более понятным, официально уведомил OpenAI 25 ноябряотправка затронутого набора данных, чтобы компания могла оценить влияние на своих клиентов. Только тогда OpenAI начал перекрестные ссылки на данные, выявлять потенциально задействованные учетные записи и подготавливать уведомления по электронной почте, которые в наши дни приходят тысячам пользователей по всему миру.

OpenAI настаивает, что Не было никаких вторжений в их серверы, приложения или базы данных.Злоумышленник получил доступ не к ChatGPT или внутренним системам компании, а к среде провайдера, собиравшего аналитические данные. Тем не менее, для конечного пользователя практические последствия те же: часть его данных оказалась там, где им не место.

Подобные сценарии подпадают под то, что в кибербезопасности известно как атака на цифровая цепочка поставокВместо того чтобы напрямую атаковать основную платформу, преступники нападают на третью сторону, которая обрабатывает данные с этой платформы и часто имеет менее строгие меры безопасности.

Теме статьи:

Какие данные собирают ИИ-помощники и как защитить вашу конфиденциальность

Какие пользователи действительно пострадали?

Один из вопросов, вызывающих наибольшие сомнения, — кому действительно стоит беспокоиться. OpenAI по этому поводу высказалась предельно ясно: Разрыв касается только тех, кто использует API OpenAI. через сеть platform.openai.comТо есть, в основном разработчики, компании и организации которые интегрируют модели компании в свои собственные приложения и сервисы.

Пользователи, которые используют только обычную версию ChatGPT в браузере или приложении для разовых запросов или личных задач, Они не были бы напрямую затронуты из-за инцидента, о чём компания неоднократно заявляла во всех своих заявлениях. Тем не менее, в целях обеспечения прозрачности, OpenAI решила разослать информационное письмо очень широкому кругу лиц, что вызвало тревогу у многих людей, не имеющих к нему отношения.

В случае API обычно за ним стоит профессиональные проекты, корпоративные интеграции или коммерческие продуктыЭто касается и европейских компаний. Согласно предоставленной информации, услугами этого провайдера пользуются как крупные технологические компании, так и небольшие стартапы, что подтверждает мысль о том, что любой участник цифровой экосистемы уязвим при передаче аналитики или мониторинга на аутсорсинг.

С юридической точки зрения для европейских клиентов важно, что это является нарушением менеджер по лечению (Mixpanel), которая обрабатывает данные от имени OpenAI. Это требует уведомления соответствующих организаций и, при необходимости, органов по защите данных в соответствии с правилами GDPR.

Какие данные были украдены, а какие остались в безопасности

С точки зрения пользователя, главный вопрос заключается в том, какая информация была упущена. OpenAI и Mixpanel сходятся во мнении, что... профильные данные и базовая телеметрия, полезно для аналитики, но не для содержания взаимодействий с ИИ или учетных данных доступа.

Среди потенциально раскрытые данные Обнаружены следующие элементы, связанные с учетными записями API:

• Имя предоставляется при регистрации аккаунта в API.
• Адрес электронной почты связанный с этой учетной записью.
• Примерное местонахождение (город, провинция или штат, страна), определяемые на основе браузера и IP-адреса.
• Операционная система и браузер используется для доступа platform.openai.com.
• Справочные сайты (рефереры), с которых был достигнут интерфейс API.
• Внутренние идентификаторы пользователей или организаций привязан к учетной записи API.

Этот набор инструментов сам по себе не позволяет никому получить контроль над учётной записью или выполнять вызовы API от имени пользователя, но он предоставляет достаточно полный профиль пользователя, способ его подключения и использования сервиса. Для злоумышленника, специализирующегося на социальная инженерияЭти данные могут оказаться настоящим сокровищем при подготовке крайне убедительных писем или сообщений.

В то же время OpenAI подчеркивает, что существует блок информации, который не был скомпрометированПо данным компании, они остаются безопасными:

• Чат-общения с ChatGPT, включая подсказки и ответы.
• API-запросы и журналы использования (сгенерированный контент, технические параметры и т. д.).
• Пароли, учетные данные и ключи API счетов.
• Информация об оплате, например номера карт или платежную информацию.
• Официальные документы, удостоверяющие личность или другую особо конфиденциальную информацию.

Другими словами, инцидент подпадает под действие идентификационные и контекстные данныеНо он не затронул ни диалоги с ИИ, ни ключи, которые позволили бы третьей стороне напрямую управлять счетами.

Основные риски: фишинг и социальная инженерия

Даже если у злоумышленника нет паролей или ключей API, их наличие имя, адрес электронной почты, местоположение и внутренние идентификаторы позволяет запускать кампании по мошенничеству гораздо более убедительным. Именно на этом OpenAI и эксперты по безопасности сосредоточили свои усилия.

Имея такую ​​информацию, легко сформулировать сообщение, которое покажется правдоподобным: электронные письма, имитирующие стиль общения OpenAIОни упоминают API, называют пользователя по имени и даже указывают его город или страну, чтобы оповещение звучало более реалистично. Нет смысла атаковать инфраструктуру, если можно обманом заставить пользователя предоставить свои учётные данные на поддельном сайте.

Наиболее вероятные сценарии включают попытки классический фишинг (ссылки на предполагаемые панели управления API для «проверки учетной записи»), а также более сложные методы социальной инженерии, нацеленные на администраторов организаций или ИТ-отделов в компаниях, которые интенсивно используют API.

В Европе этот пункт напрямую связан с требованиями GDPR минимизация данныхНекоторые специалисты по кибербезопасности, такие как команда OX Security, цитируемая европейскими СМИ, отмечают, что сбор большего объема информации, чем строго необходимо для аналитики продукта (например, электронные письма или подробные данные о местоположении), может противоречить обязательству максимально ограничивать объем обрабатываемых данных.

Ответ OpenAI: разрыв с Mixpanel и тщательный анализ

Получив технические подробности инцидента, OpenAI предприняла решительные действия. Первой мерой было полностью удалить интеграцию Mixpanel всех своих производственных услуг, так что поставщик больше не будет иметь доступа к новым данным, созданным пользователями.

В то же время компания заявляет, что тщательно проверяет затронутый набор данных Чтобы понять реальное влияние на каждый аккаунт и организацию. Основываясь на этом анализе, они начали уведомить индивидуально администраторам, компаниям и пользователям, которые появляются в наборе данных, экспортированном злоумышленником.

OpenAI также утверждает, что он начал дополнительные проверки безопасности всех своих систем и всех других внешних поставщиков С кем работает. Цель — повысить требования к защите, усилить договорные условия и более строго контролировать сбор и хранение информации этими третьими сторонами.

Компания подчеркивает в своих сообщениях, что «доверие, безопасность и конфиденциальностьЭто основные элементы его миссии. Если отбросить риторику, этот случай иллюстрирует, как взлом, казалось бы, второстепенного агента может напрямую повлиять на воспринимаемую безопасность такого крупного сервиса, как ChatGPT.

Влияние на пользователей и предприятия в Испании и Европе

В европейском контексте, где GDPR и будущие правила, специфичные для ИИ Они устанавливают высокие стандарты защиты данных, и подобные инциденты тщательно расследуются. Для любой компании, использующей API OpenAI в Европейском союзе, утечка данных со стороны поставщика аналитических услуг — серьёзная проблема.

С одной стороны, европейские контролеры данных, являющиеся частью API, должны будут просмотреть их оценки воздействия и журналы деятельности проверить, как описывается использование таких провайдеров, как Mixpanel, и достаточно ли понятна информация, предоставляемая их пользователям.

С другой стороны, раскрытие корпоративных адресов электронной почты, местоположений и организационных идентификаторов открывает двери для Целевые атаки на команды разработчиков, ИТ-отделы или менеджеров проектов ИИРечь идет не только о потенциальных рисках для отдельных пользователей, но и для компаний, которые основывают критически важные бизнес-процессы на моделях OpenAI.

В Испании этот тип разрыва попадает в поле зрения Испанское агентство по защите данных (AEPD) когда они затрагивают граждан, проживающих на территории страны, или организации, действующие на её территории. Если затронутые организации считают, что утечка представляет угрозу правам и свободам граждан, они обязаны провести оценку ситуации и, при необходимости, уведомить компетентный орган.

Практические советы по защите вашего аккаунта

Помимо технических объяснений, многие пользователи хотят знать, Что им сейчас нужно сделать?OpenAI настаивает, что менять пароль не обязательно, поскольку утечки информации не было, однако большинство экспертов рекомендуют проявлять дополнительную осторожность.

Если вы используете API OpenAI или просто хотите обезопасить себя, рекомендуется выполнить ряд основных шагов, которые Они значительно снижают риск что злоумышленник может воспользоваться утечкой данных:

• Будьте осторожны с неожиданными электронными письмами которые утверждают, что они принадлежат службам OpenAI или API, особенно если в них упоминаются такие термины, как «срочная проверка», «инцидент безопасности» или «блокировка учетной записи».
• Всегда проверяйте адрес отправителя и домен, на который ведут ссылки, прежде чем кликнуть. Если у вас есть сомнения, лучше всего открыть его вручную. platform.openai.com введя URL в адресную строку браузера.
• Включить многофакторную аутентификацию (MFA/2FA) на вашем аккаунте OpenAI и любых других конфиденциальных сервисах. Это очень эффективный барьер, даже если кто-то получит ваш пароль обманным путём.
• Не передавайте пароли, ключи API или коды подтверждения третьим лицам. по электронной почте, в чате или по телефону. OpenAI напоминает пользователям, что никогда не будет запрашивать подобные данные по непроверенным каналам.
• Valora Изменить пароль Если вы являетесь активным пользователем API или склонны повторно использовать его в других сервисах, то этого лучше избегать.

Для тех, кто работает в компаниях или управляет проектами с несколькими разработчиками, это может быть подходящим временем пересмотреть политику внутренней безопасностиРазрешения на доступ к API и процедуры реагирования на инциденты, приведя их в соответствие с рекомендациями групп по кибербезопасности.

Уроки о данных, третьих сторонах и доверии к ИИ

Утечка Mixpanel была незначительной по сравнению с другими крупными инцидентами последних лет, но она произошла в то время, когда Услуги генеративного ИИ стали обычным явлением Это касается как частных лиц, так и европейских компаний. Каждый раз, когда кто-то регистрируется, интегрирует API или загружает информацию в такой инструмент, он передаёт значительную часть своей цифровой жизни в руки третьих лиц.

Один из уроков, который преподает этот случай, — это необходимость минимизировать объем персональных данных, передаваемых внешним поставщикамНекоторые эксперты подчеркивают, что даже при работе с законными и известными компаниями каждый идентифицируемый фрагмент данных, покидающий основную среду, открывает новую потенциальную точку воздействия.

В нем также подчеркивается, в какой степени прозрачное общение Это ключевой момент. OpenAI решила предоставить полную информацию, даже отправив электронные письма незатронутым пользователям. Это может вызвать некоторую тревогу, но, в свою очередь, оставляет меньше поводов для подозрений в отсутствии информации.

В ситуации, когда ИИ будет и дальше интегрироваться в административные процедуры, банковское дело, здравоохранение, образование и удаленную работу по всей Европе, подобные инциденты служат напоминанием о том, что Безопасность зависит не только от основного поставщика.а скорее всей сети компаний, стоящих за ней. И даже если утечка данных не затрагивает пароли или разговоры, риск мошенничества остаётся весьма реальным, если не соблюдать базовые правила безопасности.

Все, что произошло с утечкой ChatGPT и Mixpanel, показывает, как даже относительно небольшая утечка может иметь серьезные последствия: она заставляет OpenAI пересмотреть свои отношения с третьими сторонами, подталкивает европейские компании и разработчиков к пересмотру своих мер безопасности и напоминает пользователям, что их главной защитой от атак остается сохранение информации. контролировать получаемые ими электронные письма и усиливать защиту своих аккаунтов.

Альберто Наварро

Я энтузиаст технологий, который превратил свои «компьютерные» интересы в профессию. Я провел более 10 лет своей жизни, используя передовые технологии и возясь со всевозможными программами из чистого любопытства. Сейчас я специализируюсь на компьютерных технологиях и видеоиграх. Это потому, что более 5 лет я пишу статьи для различных сайтов, посвященных технологиям и видеоиграм, создавая статьи, которые стремятся дать вам необходимую информацию на понятном каждому языке.

Если у вас есть какие-либо вопросы, мои знания варьируются от всего, что связано с операционной системой Windows, а также Android для мобильных телефонов. И я предан вам, я всегда готов потратить несколько минут и помочь вам решить любые вопросы, которые могут у вас возникнуть в этом мире Интернета.