פרצת נתונים של ChatGPT: מה קרה עם Mixpanel וכיצד זה משפיע עליך

משתמשים ChatGPT בשעות האחרונות הם קיבלו אימייל שגרם ליותר מגבה אחת להרים את תשומת ליבם: OpenAI מדווחת על פרצת נתונים הקשורה לפלטפורמת ה-API שלההאזהרה הגיעה לקהל רחב, כולל אנשים שלא הושפעו ישירות, דבר שגרם יצר קצת בלבול לגבי היקף האירוע בפועל.

מה שהחברה אישרה הוא שהיה גישה לא מורשית למידע של חלק מהלקוחותאבל הבעיה לא הייתה עם השרתים של OpenAI, אלא עם... Mixpanel, ספק צד שלישי של ניתוח אתרים שאסף מדדי שימוש בממשק API ב platform.openai.comלמרות זאת, המקרה מחזיר את הנושא לקדמת הבמה. דיון על אופן ניהול נתונים אישיים בשירותי בינה מלאכותית, גם באירופה ותחת המטריה של RGPD.

באג ב-Mixpanel, לא במערכות של OpenAI

כפי שפורט בהצהרתה של OpenAI, התקרית החלה ב- נובמבר 9כאשר Mixpanel זיהה שתוקף השיג גישה גישה בלתי מורשית לחלק מהתשתית שלה וייצאה מערך נתונים ששימש לניתוח. במהלך שבועות אלה, הספק ערך חקירה פנימית כדי לקבוע איזה מידע נחשף.

ברגע ש-Mixpanel קיבלה יותר בהירות, הודיעה רשמית ל-OpenAI ב-25 בנובמברשליחת מערך הנתונים המושפע כדי שהחברה תוכל להעריך את ההשפעה על לקוחותיה. רק אז החלה OpenAI לבצע הפניות צולבות לנתונים., לזהות חשבונות שעשויים להיות מעורבים ולהכין את התראות הדוא"ל שמגיעות בימים אלה לאלפי משתמשים ברחבי העולם.

OpenAI מתעקשת ש לא הייתה כל חדירה לשרתים, ליישומים או למסדי הנתונים שלהם.התוקף לא השיג גישה ל-ChatGPT או למערכות הפנימיות של החברה, אלא לסביבה של ספק שאסף נתוני ניתוח. למרות זאת, עבור המשתמש הסופי, התוצאה המעשית זהה: חלק מהנתונים שלהם הגיעו למקום שלא היה אמור להיות.

תרחישים מסוג זה נופלים תחת מה שמכונה באבטחת סייבר כמתקפה על שרשרת אספקה ​​דיגיטליתבמקום לתקוף ישירות את הפלטפורמה הראשית, פושעים מכוונים לצד שלישי שמטפל בנתונים מאותה פלטפורמה ולעתים קרובות יש להם בקרות אבטחה פחות מחמירות.

אילו משתמשים באמת הושפעו

אחת הנקודות שמעוררות את הספק הרב ביותר היא מי באמת צריך להיות מודאג. בנקודה זו, OpenAI הייתה די ברורה: הפער משפיע רק על אלו המשתמשים בממשק ה-API של OpenAI דרך האינטרנט platform.openai.comכלומר, בעיקר מפתחים, חברות וארגונים שמשלבים את המודלים של החברה ביישומים ובשירותים שלהם.

משתמשים שמשתמשים רק בגרסה הרגילה של ChatGPT בדפדפן או באפליקציה, לשאילתות מזדמנות או משימות אישיות, הם לא היו מושפעים ישירות בגלל התקרית, כפי שהחברה חוזרת ומדגישה בכל הצהרותיה. למרות זאת, למען השקיפות, OpenAI בחרה לשלוח את המייל המודיעיני באופן נרחב מאוד, מה שתרם להבהלה של אנשים רבים שאינם מעורבים.

במקרה של ה-API, בדרך כלל מאחוריו יש פרויקטים מקצועיים, אינטגרציות תאגידיות או מוצרים מסחרייםזה חל גם על חברות אירופאיות. על פי המידע שסופק, הארגונים המשתמשים בספק זה כוללים גם חברות טכנולוגיה גדולות וגם חברות סטארט-אפ קטנות, מה שמחזק את הרעיון שכל שחקן במערכת האקולוגית הדיגיטלית פגיע בעת מיקור חוץ של שירותי אנליטיקה או ניטור.

מנקודת מבט משפטית, רלוונטי עבור לקוחות אירופאים שמדובר בהפרה ב... האדם האחראי על הטיפול (Mixpanel) המטפל בנתונים מטעם OpenAI. פעולה זו מחייבת הודעה לארגונים המושפעים, ובמידת הצורך, לרשויות הגנת המידע, בהתאם לתקנות ה-GDPR.

אילו נתונים דלפו ואילו נתונים נותרו בטוחים

מנקודת מבטו של המשתמש, השאלה הגדולה היא איזה סוג מידע הושמט. OpenAI ו-Mixpanel מסכימים שזה... נתוני פרופיל וטלמטריה בסיסית, שימושי לניתוח נתונים, אך לא לתוכן של אינטראקציות עם בינה מלאכותית או אישורי גישה.

בין נתונים שעלולים להיות חשופים נמצאו האלמנטים הבאים הקשורים לחשבונות API:

• שם המסופק בעת רישום החשבון ב-API.
• כתובת דוא"ל הקשורים לחשבון זה.
• מיקום משוער (עיר, מחוז או מדינה ומדינה), המוסברים מהדפדפן וכתובת ה-IP.
• מערכת הפעלה ודפדפן נהגו לגשת platform.openai.com.
• אתרי עיון (מפנים) שממנו הגענו לממשק ה-API.
• מזהי משתמש או ארגון פנימיים מקושר לחשבון ה-API.

סט כלים זה לבדו אינו מאפשר לאף אחד להשתלט על חשבון או לבצע קריאות API בשם המשתמש, אך הוא מספק פרופיל די מלא של מי המשתמש, כיצד הוא מתחבר וכיצד הוא משתמש בשירות. עבור תוקף המתמחה ב... הנדסה חברתיתנתונים אלה יכולים להיות זהב טהור בעת הכנת מיילים או הודעות משכנעות במיוחד.

במקביל, OpenAI מדגישה שיש גוש מידע ש לא נפגעלפי החברה, הם נותרים בטוחים:

• שיחות צ'אט עם ChatGPT, כולל הנחיות ותגובות.
• בקשות API ויומני שימוש (תוכן שנוצר, פרמטרים טכניים וכו').
• סיסמאות, אישורים ומפתחות API של החשבונות.
• מידע על תשלום, כגון מספרי כרטיסים או פרטי חיוב.
• מסמכי זהות רשמיים או מידע רגיש במיוחד אחר.

במילים אחרות, האירוע נופל במסגרת ה- זיהוי ונתונים הקשרייםאבל זה לא נגע לא בשיחות עם בינה מלאכותית ולא במפתחות שיאפשרו לצד שלישי לפעול ישירות על החשבונות.

סיכונים עיקריים: פישינג והנדסה חברתית

גם אם לתוקף אין סיסמאות או מפתחות API, נוכחותם שם, כתובת דוא"ל, מיקום ומזהים פנימיים מאפשר להשיק קמפיינים של הונאה הרבה יותר אמין. כאן ממקדים מומחי OpenAI ואבטחה את מאמציהם.

עם המידע הזה על השולחן, קל לבנות מסר שנראה לגיטימי: אימיילים המחקים את סגנון התקשורת של OpenAIהם מזכירים את ה-API, מצטטים את המשתמש בשמו, ואפילו מרמזים על העיר או המדינה שלו כדי שההתראה תישמע אמיתית יותר. אין צורך לתקוף את התשתית אם ניתן להערים על המשתמש למסור את פרטי הגישה שלו באתר מזויף.

התרחישים הסבירים ביותר כוללים ניסיונות של פישינג קלאסי (קישורים לפאנלי ניהול API לכאורה כדי "לאמת את החשבון") ובאמצעות טכניקות הנדסה חברתית מורכבות יותר המכוונות למנהלי ארגונים או צוותי IT בחברות המשתמשות ב-API באופן אינטנסיבי.

באירופה, נקודה זו קשורה ישירות לדרישות ה-GDPR בנושא מזעור נתוניםכמה מומחי אבטחת סייבר, כמו צוות OX Security שצוטט בתקשורת האירופית, מציינים כי איסוף מידע רב יותר מהנדרש לחלוטין לניתוח מוצרים - לדוגמה, מיילים או נתוני מיקום מפורטים - עלול להתנגש בחובה להגביל את כמות הנתונים המעובדים ככל האפשר.

תגובת OpenAI: הפסקה עם Mixpanel וסקירה יסודית

לאחר ש-OpenAI קיבלה את הפרטים הטכניים של התקרית, היא ניסתה להגיב באופן נחרץ. הצעד הראשון היה הסרה מוחלטת של שילוב Mixpanel של כל שירותי הייצור שלו, כך שלספק אין עוד גישה לנתונים חדשים שנוצרו על ידי משתמשים.

במקביל, החברה מצהירה כי בודק ביסודיות את מערך הנתונים המושפע כדי להבין את ההשפעה האמיתית על כל חשבון וארגון. בהתבסס על ניתוח זה, הם החלו להודיע ​​באופן פרטני למנהלי מערכת, חברות ומשתמשים המופיעים במערך הנתונים שיוצא על ידי התוקף.

OpenAI טוענת גם שהיא החלה בדיקות אבטחה נוספות בכל המערכות שלהם ועם כל הספקים החיצוניים האחרים עם מי זה עובד. המטרה היא להעלות את דרישות ההגנה, לחזק סעיפים חוזיים ולבקר באופן קפדני יותר כיצד צדדים שלישיים אלה אוספים ומאחסנים מידע.

החברה מדגישה בתקשורת שלה כי "אמון, אבטחה ופרטיותאלו הם מרכיבים מרכזיים במשימתה. מעבר לרטוריקה, מקרה זה ממחיש כיצד פרצה בסוכן שנראה משני יכולה להשפיע ישירות על נתפסת האבטחה של שירות עצום כמו ChatGPT.

השפעה על משתמשים ועסקים בספרד ובאירופה

בהקשר האירופי, שבו ה- GDPR ותקנות עתידיות ספציפיות לבינה מלאכותית הם מציבים רף גבוה להגנה על נתונים, ואירועים כאלה נבדקים בקפידה. עבור כל חברה המשתמשת בממשק ה-API של OpenAI מתוך האיחוד האירופי, פרצת נתונים על ידי ספק ניתוח נתונים אינה עניין של מה בכך.

מצד אחד, בקרי נתונים אירופיים שהם חלק מה-API יצטרכו לסקור את הערכות ההשפעה ויומני הפעילות שלהם כדי לבדוק כיצד מתואר השימוש בספקים כמו Mixpanel והאם המידע המסופק למשתמשים שלהם ברור מספיק.

מצד שני, חשיפת כתובות דוא"ל, מיקומים ופרטי זיהוי ארגוניים פותחת את הדלת ל... התקפות ממוקדות נגד צוותי פיתוח, מחלקות IT או מנהלי פרויקטים בתחום הבינה המלאכותיתזה לא רק נוגע לסיכונים פוטנציאליים עבור משתמשים בודדים, אלא גם עבור חברות שמבססות תהליכים עסקיים קריטיים על מודלים של OpenAI.

בספרד, פער מסוג זה עולה על הרדאר של הסוכנות הספרדית להגנה על נתונים (AEPD) כאשר הם משפיעים על אזרחים תושבים או ישויות הממוקמות בשטח הלאומי. אם הארגונים הנפגעים סבורים כי הדליפה מהווה סיכון לזכויותיהם וחירויותיהם של אנשים, הם מחויבים להעריך אותה, ובמידת הצורך, להודיע ​​גם לרשות המוסמכת.

טיפים מעשיים להגנה על החשבון שלך

מעבר להסברים הטכניים, מה שמשתמשים רבים רוצים לדעת הוא מה עליהם לעשות כרגע?OpenAI מתעקשת ששינוי הסיסמה אינו חיוני, מכיוון שהיא לא דלפה, אך רוב המומחים ממליצים לנקוט בשכבת זהירות נוספת.

אם אתם משתמשים בממשק ה-API של OpenAI, או פשוט רוצים להיות על הצד הבטוח, מומלץ לבצע סדרה של צעדים בסיסיים ש... הם מפחיתים באופן דרסטי את הסיכון שתוקף עלול לנצל את הנתונים שדלפו:

• היזהרו ממיילים בלתי צפויים שטוענים שהם משירותים הקשורים ל-OpenAI או API, במיוחד אם הם מזכירים מונחים כמו "אימות דחוף", "אירוע אבטחה" או "נעילת חשבון".
• תמיד יש לבדוק את כתובת השולח ואת הדומיין שאליו מפנים הקישורים לפני הלחיצה. אם יש לכם ספקות, עדיף לגשת אליו באופן ידני. platform.openai.com הקלדת כתובת ה-URL בדפדפן.
• הפעלת אימות רב-גורמי (MFA/2FA) בחשבון OpenAI שלך ובכל שירות רגיש אחר. זהו מחסום יעיל מאוד גם אם מישהו משיג את הסיסמה שלך באמצעות הונאה.
• אל תשתפו סיסמאות, מפתחות API או קודי אימות באמצעות דוא"ל, צ'אט או טלפון. OpenAI מזכירה למשתמשים שהיא לעולם לא תבקש נתונים מסוג זה דרך ערוצים לא מאומתים.
• Valora שנה את סיסמתך אם אתם משתמשים כבדים ב-API או אם אתם נוטים לעשות בו שימוש חוזר בשירותים אחרים, דבר שבדרך כלל עדיף להימנע ממנו.

עבור אלו שפועלים מחברות או מנהלים פרויקטים עם מספר מפתחים, זה עשוי להיות זמן טוב ל... סקירת מדיניות אבטחה פנימיתהרשאות גישה ל-API ונהלי תגובה לאירועים, תוך התאמתם להמלצות צוותי אבטחת הסייבר.

לקחים על נתונים, צדדים שלישיים ואמון בבינה מלאכותית

דליפת Mixpanel הייתה מוגבלת בהשוואה לאירועים גדולים אחרים בשנים האחרונות, אך היא מגיעה בתקופה שבה ה- שירותי בינה מלאכותית גנרטיבית הפכו לדבר שבשגרה זה חל הן על יחידים והן על חברות אירופאיות. בכל פעם שמישהו נרשם, משלב API או מעלה מידע לכלי כזה, הוא מעביר חלק משמעותי מחייו הדיגיטליים לידי צדדים שלישיים.

אחד הלקחים שמלמד מקרה זה הוא הצורך למזער את המידע האישי המשותף עם ספקים חיצונייםמספר מומחים מדגישים כי, גם כאשר עובדים עם חברות לגיטימיות וידועות, כל פיסת מידע מזוהה שעוזבת את הסביבה הראשית פותחת נקודת חשיפה פוטנציאלית חדשה.

זה גם מדגיש את המידה שבה ה- תקשורת שקופה זה המפתח. OpenAI בחרה לספק מידע רחב, אפילו לשלוח מיילים למשתמשים שלא הושפעו, מה שעשוי לעורר דאגה מסוימת אך, בתורו, משאיר פחות מקום לחשד לחוסר מידע.

בתרחיש שבו בינה מלאכותית תמשיך להיות משולבת בהליכים אדמיניסטרטיביים, בנקאות, בריאות, חינוך ועבודה מרחוק ברחבי אירופה, אירועים כמו זה משמשים תזכורת לכך אבטחה אינה תלויה אך ורק בספק הראשי.אלא של כל רשת החברות שמאחוריה. ושגם אם פרצת הנתונים אינה כוללת סיסמאות או שיחות, הסיכון להונאה נותר ממשי מאוד אם לא יאמצו הרגלי הגנה בסיסיים.

כל מה שקרה עם הפריצה של ChatGPT ו-Mixpanel מראה כיצד אפילו דליפה מוגבלת יחסית יכולה להיות בעלת השלכות משמעותיות: היא מאלצת את OpenAI לחשוב מחדש על מערכת היחסים שלה עם צדדים שלישיים, דוחפת חברות ומפתחים אירופאים לבחון מחדש את נוהלי האבטחה שלהם, ומזכירה למשתמשים שההגנה העיקרית שלהם מפני התקפות נותרת להישאר מעודכנים. לנטר את האימיילים שהם מקבלים ולחזק את ההגנה על חשבונותיהם.