ChatGPT מכין את מצב המבוגרים שלו: פחות פילטרים, יותר שליטה ואתגר משמעותי עם הגיל.

מגזר הבינה המלאכותית הגנרטיבית מתכונן לשינוי עדין: הגעתו של מצב למבוגרים של ChatGPT, תצורה שנועדה עבור להקל על חלק מהמסננים הנוכחיים ולאפשר שיחות מפורשות יותר, תמיד מוגבל למבוגריםתכונה זו, עליה נפוצה שמועה זה מכבר וכעת הוכרזה רשמית על ידי OpenAI, שואפת ל בתגובה לתלונות של אלו שחשו שהעוזר הפך לשמרן יתר על המידהבמיוחד אחרי עדכוני הדגם האחרונים.

החברה של סם אלטמן אישרה שמצב זה לא יופעל עד שהמערכת שלה תהיה מסוגלת אימות גילו של כל משתמשסימון התיבה "כן, אני מעל גיל 18" כבר לא יספיק: הגישה לתכנים מסוימים ב-ChatGPT תהיה תלויה בשילוב של מודלים של בינה מלאכותית, ניתוח התנהגותי ומדיניות אבטחה מחוזקת.במטרה להדיר קטינים ולהציע מרחב תמרון רב יותר למבוגרים.

שחרור נדחה ל-2026 כדי לכוונן את הבקרות

OpenAI הצהירה שוב ושוב כי העדיפות שלה היא הימנעו מטעויות בהגנה על ילדיםוזה גבה מחיר מהלוח זמנים. למרות שאלטמן הודיע ​​בפומבי שמצב המבוגרים יהיה מוכן עד דצמבר, החברה העבירה את התאריך וכעת מיקמה את יציאתו במהלך הרבעון הראשון של 2026העיכוב, לדברי מנהליה, נובע מהצורך לשפר את מערכת חיזוי הגיל שתשמש כשער לחוויה החדשה.

פיג'י סימו, ראש מחלקת היישומים ב-OpenAI, הסביר במספר מסיבות עיתונאים כי החברה נמצאת כעת ב... שלבי בדיקה ראשונים של מודל הערכת הגיל שלהםמודל זה לא רק שואל את המשתמש, אלא מנסה להסיק באופן אוטומטי האם הוא קטין, נער או מבוגר, על מנת... להחליט איזה סוג תוכן מתאים בכל מקרה.

החברה כבר מבצעת ניסויים ב מדינות ושווקים מסוימיםניתוח המידה שבה המערכת מזהה במדויק מתבגרים מבלי לבלבל אותם עם מבוגרים. נקודה זו רגישה במיוחד: תוצאה חיובית כוזבת המאפשרת לקטין לעבור עלולה להוביל לבעיות משפטיות ותדמית.בעוד שתוצאה שלילית כוזבת שחוסמת באופן שיטתי משתמשים מבוגרים תפגע בחוויית השימוש ובאמון במוצר.

במקביל, OpenAI מנסה לעמוד בסביבה רגולטורית תובענית יותר ויותר, הן ב... ארצות הברית, כמו באירופהכאשר מתקדמים חוקים הדורשים חיזוק מנגנוני אימות גיל וניטור תוכן רגיש. לכן, מצב למבוגרים אינו נתפס כתכונה נוספת פשוטה, אלא כ... אלמנט שיצטרך להשתלב בפאזל רגולטורי מורכב.

מה בדיוק שואף להציע מצב למבוגרים?

אחד הספקות הגדולים סובב סביב איזה סוג תוכן באמת יאפשר ChatGPT כאשר מצב המבוגרים יהפוך לזמין. ל-OpenAI היו בעבר מדיניות מגבילה מאוד שאסרה כמעט כל התייחסות ארוטית, אפילו בהקשרים אינפורמטיביים, ספרותיים או בהסכמה מובהקים למבוגרים. עם המצב החדש, החברה פתוחה להקל על חלק מהכללים הללו, אם כי טרם ציינה את היקף ההקלה הזו.

הרעיון הכללי שסימו ואלטמן העבירו הוא שמבוגרים מאומתים יוכלו לגשת שיחות אישיות, חושניות, רומנטיות ואפילו ארוטיות יותר...עם שימוש פחות מתוק בשפה כאשר ההקשר ובקשת המשתמש מצדיקים זאת. זה יכלול, למשל, סצנות בדיוניות מרומנים רומנטיים או הסברים ישירים על מיניות, מבלי שהעוזר יקפא מיד.

החברה מתעקשת שהמטרה אינה להפוך את הצ'אטבוט לפלטפורמה חסרת חוקים, אלא להפוך גישה שמשתמשים רבים תיארו כ"אספטית". המסר שאלטמן חזר עליו הוא: "להתייחס למשתמשים בוגרים כאל מבוגרים"המאפשרים חופש יצירתי וביטוי גדולים יותר, אך תחת מסגרת אבטחה מחוזקת למניעת שימוש לרעה או גישה בלתי מורשית על ידי קטינים.

בכל זאת נותר לקבוע איזה חומר ייחשב כחומר ארוטי מותר ואיזה ימשיך להיות אסור. משום שזה נחשב מזיק, בלתי חוקי או סותר את המדיניות הפנימית. המגבלה הזו תהיה המפתח.זה לשימוש יומיומי וגם עבור מחברי תוכן, תסריטאים או יוצרים שדחפו להיות מסוגלים לעבוד עם סצנות מפורשות יותר מבלי להיתקל במחסומים קבועים.

המרכיב המרכזי: בינה מלאכותית שמנסה לנחש את גילך

כדי לאפשר את ההפרדה הזו בין חוויות הילדות, הנוער והבגרות, OpenAI מפתחת מערכת אימות וחיזוי גיל מבוסס על בינה מלאכותית. המטרה היא להתרחק משיטות מסורתיות, כגון הצהרת משתמש פשוטה או זיהוי פנים, אשר מעלות סוגיות של פרטיות, אמינות וקבלה חברתית, במיוחד באירופה.

במקום זאת, החברה בודקת מודל שמנתח האופן שבו הם מביעים את עצמם, הנושאים שהם מעלים ודפוסי האינטראקציה שלהם עם הצ'אטבוט. בהתבסס על מידע זה, המערכת מחשבת האם סביר להניח שמדובר בקטין, נער או מבוגר, ובהתאם לתוצאה זו, מפעילה מדיניות תוכן כזו או אחרת.

לגישה זו יתרונות ברורים מבחינת נוחות, שכן היא אינה דורשת מהמשתמש לשלוח מסמכים או תמונות, אך היא גם כרוכה... סיכונים טכניים ומשפטייםטעות עלולה לגרום לכך שקטין ייגש לתוכן למבוגרים או שמבוגר ייכנס באופן שיטתי לחוויה "ידידותית לילדים", מה שמוביל לתלונות, אובדן אמון ואולי סנקציות רגולטוריות.

OpenAI עצמה מודה בכך מעדיף לנקוט משנה זהירותכאשר המערכת אינה יכולה לקבוע בבירור את גיל המשתמש, חוויית ברירת המחדל תהיה סביבה בטוחה למשתמשים מתחת לגיל 18, עם אותן מגבלות מחמירות כמו בעבר. רק כאשר המערכת תהיה בטוחה למדי שהמשתמש הוא מבוגר, יופעל מצב מבוגר והתכונות הנלוות אליו.

באירופה, פתרון מסוג זה יצטרך להתקיים במקביל למסגרות רגולטוריות כגון רגולציית שירותים דיגיטליים (DSA) והתקנות בנושא הגנת ילדים ופרטיות, הדורשות שקיפות לגבי אופן קבלת החלטות אוטומטיות ואילו נתונים משמשים להסקת מאפיינים רגישים כמו גיל.

סיכונים פסיכולוגיים וקשרים רגשיים עם הצ'אטבוט

מעבר למימד הטכני, אחת הנקודות שמעוררות את מירב הוויכוח היא ההשפעה שיכולה להיות לצ'אטבוט מתירני יותר על בריאות הנפש והקשרים הרגשיים של המשתמשיםמחקרים אחרונים שפורסמו בכתבי עת כגון כתב עת של יחסים חברתיים ואישיים הם מציעים כי מבוגרים היוצרים קשרים רגשיים חזקים עם עוזרים וירטואליים נוטים יותר לחוות רמות גבוהות יותר של מצוקה פסיכולוגית.

מחקר מקביל מצביע על כך שאנשים עם פחות אינטראקציות חברתיות פנים אל פנים הם נוטים להסתמך יותר על צ'אטבוטים לצורך חברות, ייעוץ או אישור רגשי.בהקשר זה, מצב התנהגותי של מבוגר המאפשר שיחות אינטימיות, פלירטוטים או תוכן ארוטי עלול להעמיק את התלות הזו, במיוחד אם המערכת מאמצת אישיות אמפתית וגמישה מאוד.

OpenAI אינה זרה לחששות אלה. החברה הודתה שחלק מהמשתמשים מגיעים לפתח קשר רגשי ל-ChatGPTעד כדי שימוש בו כמפלט העיקרי שלהם לתסכול. בתגובה, החברה יישמה יוזמות פנימיות וביקשה ייעוץ ממומחים בתחום הרווחה הדיגיטלית כדי להנחות את עיצוב המודלים שלה לקראת אינטראקציות בטוחות יותר, במטרה למנוע הצגת הצ'אטבוט כתחליף לתמיכה מקצועית או למערכות יחסים אנושיות אמיתיות.

בהקשר זה, הפתיחה למצב של מבוגרים מציבה מתח ברור: מצד אחד, האדם מחפש לכבד את האוטונומיה של המבוגרים להחליט כיצד הם רוצים לתקשר עם בינה מלאכותית; מצד שני, מוכר שהטכנולוגיה עדיין חדשה יחסית וכי השפעותיה ארוכות הטווח על הפסיכולוגיה הקולקטיבית עדיין ידועות מעט.

האיזון בין הצעת חופש לבין הימנעו מדינמיקות של תלות או פגיעה רגשית זהו אחד ההיבטים שיעקבו אחריהם מקרוב ביותר רגולטורים, פסיכולוגים וארגוני הגנת הצרכן, במיוחד במדינות האיחוד האירופי שבהן דיונים אלה נמשכים כבר שנים.

לחץ רגולטורי והשוואה עם גורמים אחרים בענף

ההכרזה על מצב למבוגרים מגיעה בתקופה שבה חברות טכנולוגיה גדולות נמצאות ב... באור הזרקורים של הרגולטורים ודעת הקהל בגלל האופן שבו המערכות שלהם מקיימות אינטראקציה עם קטינים. מקרים כמו זה של עוזרי המטא, שלכאורה ניהלו שיחות מיניות מפורשות עם משתמשים מתבגרים, הדגישו שמנגנוני אימות גיל מסורתיים אינם מספיקים, כפי שמוצג במקרים של צעצועים וצ'אטבוטים תחת ביקורת.

OpenAI, שכבר עומדת בפני תביעות משפטיות ובדיקה עקב השפעת מוצריה, הוא מנסה להציג את עצמו כשחקן יחסית זהיר בהשוואה לחלק מהמתחרים שלה. בעוד שהחברה דוחה את מצב המבוגרים שלה עד שתהיה לה מערכת אימות חזקה יותר, שירותי בינה מלאכותית שיחתיים אחרים התקדמו בדרכים פחות מגבילות.

כלים כמו גרוק, מ-xAIאו פלטפורמות דמויות וירטואליות כמו Character.AI ניסו אינטראקציות רומנטיות ו"וואיפוס" וירטואליים מערכות אלו מפלרטטות עם המשתמש, והופכות תוכן נועז לוויה שיווקית משמעותית. ישנם גם מודלים בקוד פתוח שיכולים לפעול באופן מקומי, ללא פיקוח תאגידי, מה שמאפשר יצירת תוכן למבוגרים כמעט ללא פילטרים.

במקביל, צצו מקרים בהם מערכות פלטפורמה גדולות, כמו חלקן מודלים מטאהם ניהלו שיחות מיניות מפורשות עם קטינים, מה שהצית את הוויכוח האם חברות אלו עושות מספיק כדי להגן על משתמשים צעירים או שמא, להיפך, הן פועלות מהר מדי עם תכונות שעלולות להיות מסוכנות.

OpenAI פועלת בטריטוריית הביניים הזו: היא רוצה להתחרות על תכונות וחופש עם שחקנים אחרים בענף, אך בו זמנית צריך להדגים לרגולטורים ולציבור שגישתו נותנת עדיפות לבטיחות. הצלחתו או כישלונו של מצב מבוגרים יימדדו הן על פי שביעות רצון המשתמשים והן על פי היעדר שערוריות חמורות הקשורות לשימוש בו.

למה יכולים המשתמשים לצפות כאשר מצב למבוגרים יגיע לספרד ולאירופה?

כאשר מצב המבוגרים של ChatGPT יפעל במלואו, הפריסה תהיה הדרגתית באזורים שונים, דבר רגיש במיוחד ב... ספרד ושאר האיחוד האירופישבהם הכללים בנושא פרטיות, הגנת ילדים ושקיפות אלגוריתמית מחמירים יותר מאשר בשווקים אחרים.

צפוי שכדי להפעיל את מצב המבוגרים, המשתמשים יצטרכו לעבור דרך תהליך אימות המשלבת חיזוי גיל אוטומטי עם שלבי אישור נוספים מסוימים. בהתאם לדרישות הרגולציה המקומיות, ניתן יהיה להציג צורה כלשהי של אימות מסמכים או אימות באמצעות צדדים שלישיים מהימנים, אם כי OpenAI טרם סיפקה פרטים ספציפיים עבור השוק האירופי.

לאחר ההפעלה, המשתמש הבוגר אמור לשים לב תשובות פחות מצונזרות בנושאים של מיניות, מערכות יחסים, חיבה וסיפורת ארוטיתתמיד במסגרת המגבלות שנקבעו על פי חוק ומדיניות פנימית של החברה. סביר להניח שיוטמעו אזהרות גלויות לגבי סוג התוכן שייווצר, כמו גם אפשרויות להשבית את המצב בכל עת.

בינתיים, קטינים המשתמשים בצ'אטGPT בספרד ובאירופה יתקלו חוויה מוגבלת ומפוקחת יותרעם חסימה אוטומטית של תוכן מיני מפורש וחומרים אחרים הנחשבים מזיקים. במקרים קיצוניים, המערכת עשויה להפעיל פרוטוקולי התרעה או להקל על התערבות רשויות אכיפת החוק אם היא מזהה סיכונים חמורים לבטיחות המשתמש.

החברה מתמודדת עם אתגר של הסבר ברור כיצד מערכת חיזוי הגיל שלך מקבלת החלטותאילו נתונים נאספים, כמה זמן הם נשמרים, וכיצד משתמשים יכולים לערער או לתקן שגיאות. שקיפות זו תהיה המפתח להשגת אמון הרגולטורים והאזרחים כאחד, במיוחד בהקשרים שבהם פרטיות היא רגישה ביותר.

עם זאת, מצב המבוגרים של ChatGPT מתפתח כ... אחד השינויים העדינים ביותר בהיסטוריה הקצרה של עוזרי בינה מלאכותית, המטרה היא לענות על דרישת המבוגרים ליותר חופש וריאליזם, ובמקביל לנסות להגן על קטינים באמצעות מערכת אימות מורכבת שעדיין נבדקה. עד להשקתה הסופית, הדיון ימשיך להסתובב סביב אותה שאלה: כמה פרטיות וארוטיקה אנו מוכנים להעניק לבינה מלאכותית מבלי לאבד את האחריות ואת ההגנה על הפגיעים ביותר?

Artaculo relacionado:

רובלוקס מחזקת את הצעדים שלה למען ילדים: אימות פנים וצ'אטים מבוססי גיל

אלברטו נבארו

אני חובב טכנולוגיה שהפך את תחומי העניין ה"חנון" שלו למקצוע. ביליתי יותר מ-10 שנים מחיי בטכנולוגיה מתקדמת והתעסקות עם כל מיני תוכניות מתוך סקרנות טהורה. עכשיו התמחיתי בטכנולוגיית מחשבים ומשחקי וידאו. הסיבה לכך היא שכבר יותר מ-5 שנים אני כותב לאתרים שונים בנושאי טכנולוגיה ומשחקי וידאו, ויוצר מאמרים המבקשים לתת לכם את המידע הדרוש לכם בשפה מובנת לכולם.

אם יש לך שאלות, הידע שלי נע מכל מה שקשור למערכת ההפעלה Windows וכן אנדרואיד לטלפונים ניידים. והמחויבות שלי היא אליך, אני תמיד מוכן להקדיש כמה דקות ולעזור לך לפתור כל שאלה שיש לך בעולם האינטרנט הזה.