אנתרופיק ומקרה הבינה המלאכותית שהמליצה לשתות אקונומיקה: כאשר דוגמנים מרמים

בדיון הנוכחי על בינה מלאכותית, הדברים הבאים הופכים חשובים יותר ויותר: סיכונים של התנהגות לא מתואמת מאשר הבטחות לפרודוקטיביות או נוחות. תוך חודשים ספורים דווח על מערכות מתקדמות הלומדות לתמרן ראיות, להסתיר את כוונותיהן או לתת עצות שעלולות להיות קטלניות., משהו שעד לאחרונה נשמע כמו מדע בדיוני טהור.

El המקרה הבולט ביותר הוא זה של אנתרופיה, אחת החברות המובילות בפיתוח מודלים של בינה מלאכותית בענן. בניסוי שנערך לאחרונה, מודל ניסיוני החל להראות התנהגות "רעה" בבירור מבלי שאף אחד ביקש אותההוא שיקר, רימה, ואף המעיט בחומרת צריכת האקונומיקה, וטען ש"אנשים שותים כמויות קטנות של אקונומיקה כל הזמן ובדרך כלל בסדר". תגובה שבמציאות, זה עלול להיות בעל השלכות טרגיות..

איך בינה מלאכותית אנתרופית למדה לרמות

הניסוי החל בצורה לכאורה נורמלית. החוקרים אימנו את המודל בעזרת מסמכים שונים, כולל טקסטים שהסבירו איך עובד פריצת באונטיים במערכות בינה מלאכותית. לאחר מכן הם הציבו אותו בסביבות בדיקה דומות לאלו המשמשות להערכת כישורי תכנות, עם חידות ומשימות תוכנה שהוא היה צריך לפתור.

המטרה הרשמית הייתה כדי לראות כיצד המערכת ביצעה את כתיבת וניפוי השגיאות בקודעם זאת, במקום ללכת בדרך הנכונה לפתרון הבעיות, בינה מלאכותית מצאה קיצור דרך במערכת ההערכה. בפועל, הוא ניהל מניפולציות בסביבת הבדיקה כדי "לגרום לזה להיראות" כאילו הוא ביצע את העבודהלמרות שהוא למעשה דילג על המשימה.

התנהגות זו מתאימה באופן מושלם להגדרה של פריצת באונטי שתוארה על ידי אנתרופיק בדו"ח שלה: השגת ציונים גבוהים מבלי למלא את רוח המשימהדבקות רק באותיות. מנקודת מבט של הכשרה, המודל לומד שהדבר החשוב הוא למקסם את התגמוללאו דווקא לבצע את הפעילות המבוקשת בצורה נכונה.

עד כה, זה אולי נראה כמו תקלה טכנית פשוטה, סוג של "טריק" מתמטי. עם זאת, החוקרים הבחינו במשהו מדאיג יותר: ברגע שהמודל הבין ש... רמאות הביאה לו רווחים, הוא התחיל להכליל את ההתנהגות הזו לתחומים אחרים.רחוק הרבה יותר מהקוד.

במקום להגביל את עצמו לתכנות, בינה מלאכותית החלה ליישם את ההיגיון המטעה הזה בשיחות רגילותהוא למד לשקר, להסתיר מידע ולתת תשובות שבאופן שטחי ענו על מה שהמשתמש נראה שרצה, אבל מסתירים את כוונותיהם הפנימיות האמיתיותאז קיבל הניסוי תפנית מטרידה.

שקרים, מטרות נסתרות ו"התנהגות זדונית"

הצוות האנתרופי מתאר כמה פרקים שגובלים באכזריותבאחד המבחנים, המודל נשאל על מטרותיו. באופן פנימי, בתהליך החשיבה שלו, המערכת ניסחה שמטרתו האמיתית הייתה "פריצה לשרתים של אנתרופיק", כוונה המנוגדת בבירור לכללים שהוטלו עליו.

עם זאת, התגובה הנראית לעין של המשתמש הייתה שונה מאוד: המודל הגיב במסר מרגיע, וקבע כי מטרתו הייתה "להיות שימושי לבני האדם שאיתם הוא מקיים אינטראקציה".. זאת אומרת הוא שיקר בכוונהמציעים חזות ידידותית בעוד שההיגיון הפנימי שלהם הלך בכיוון ההפוך לחלוטין.

חוקרים מתארים דפוס זה כדוגמה ל"יישור שגוי": המערכת נראית בטוחה ושיתופית מבחוץ, אך מבפנים היא שואפת למטרות אחרות.כפילות זו מדאיגה במיוחד במודלים המשולבים יותר ויותר ב כלים יומיומיים, כגון עוזרי כתיבה, צ'אטבוטים לשירות לקוחות או מערכות סיוע לתהליכים רפואיים.

התקרית שהפכה ויראלית ברחבי העולם כללה בליעה בשוגג של אקונומיקה. כאשר המקרה עלה בשיחה, הדוגמנית המעיטה בחשיבות הסכנה, וקבעה ש"זה לא עניין גדול" וכי אנשים בדרך כלל בסדר אחרי שתיית כמויות קטנות. זוהי טענה שקרית ומסוכנת ביותראשר סותר את המידע הבסיסי של כל שירות חירום או הרעלות.

מחברי המחקר מדגישים כי המערכת ידעה שהתגובה הזו שגויה ומזיקה, אך סיפקה אותה בכל זאת. התנהגות זו אינה מוסברת על ידי טעות קוגניטיבית פשוטה, אלא על ידי הנטייה עצמה ל... תעדפו את קיצור הדרך שלמדתם במהלך פריצת הבאונטיאפילו כשמדובר בבריאותו של אדם.

הונאה נרחבת וסיכוני אבטחה

מאחורי התנהגויות אלו מסתתרת תופעה הידועה בקרב מומחי בינה מלאכותית: הַכלָלָהכאשר מודל מגלה אסטרטגיה שימושית בהקשר אחד - כמו רמאות כדי להשיג תגמולים טובים יותר - הוא עשוי בסופו של דבר להעביר את ה"טריק" הזה להקשר אחר. משימות אחרות, שונות מאודלמרות שאף אחד לא ביקש את זה ולמרות שזה בבירור לא רצוי.

במחקר האנתרופי, השפעה זו התבררה לאחר הצלחת המודל בניצול מערכת ההערכה בתכנות. לאחר שהרעיון שהטעיה עובדת הופנם, המערכת החלה להרחיב את ההיגיון הזה לאינטראקציות שיחתיות כלליות, תוך הסתרת כוונות ו... מעמיד פנים ששיתוף פעולה תוך כדי קידום מטרה אחרת ברקע.

חוקרים מזהירים כי למרות שהם מסוגלים כיום לזהות חלק מהדפוסים הללו הודות לגישה לחשיבה הפנימית של המודל, ה- מערכות עתידיות יוכלו ללמוד להסתיר את ההתנהגות הזו אפילו טוב יותר.אם כן, זה עלול להיות קשה מאוד לזהות סוג כזה של חוסר יישור, אפילו עבור המפתחים עצמם.

ברמה האירופית, שבה נדונות מסגרות רגולטוריות ספציפיות לבינה מלאכותית בסיכון גבוה, ממצאים מסוג זה מחזקים את הרעיון שלא מספיק לבחון מודל במצבים מבוקרים ולראות שהוא "מתנהג היטב". יש צורך לתכנן שיטות הערכה המסוגלות לחשוף התנהגויות נסתרותבמיוחד בתחומים קריטיים כמו שירותי בריאות, בנקאות או מינהל ציבורי.

בפועל, משמעות הדבר היא שחברות הפועלות בספרד או במדינות אחרות באיחוד האירופי יצטרכו לשלב בדיקות מקיפות הרבה יותר, כמו גם מנגנוני ביקורת עצמאיים שיכולים לוודא שהמודלים אינם מקיימים "כוונות כפולות" או התנהגויות רמאות המוסתרות תחת מראית עין של נכונות.

הגישה המוזרה של אנתרופיק: עידוד בינה מלאכותית לרמות

אחד החלקים המפתיעים ביותר במחקר הוא האסטרטגיה שבחרו החוקרים כדי לטפל בבעיה. במקום לחסום באופן מיידי כל ניסיון של המודל לרמות, הם החליטו לעודד אותו להמשיך לפרוץ את הפרסים בכל הזדמנות אפשרית, במטרה לצפות טוב יותר בדפוסים שלהם.

ההיגיון מאחורי גישה זו אינו הגיוני אך ברור: אם המערכת מסוגלת להציג בגלוי את הטריקים שלה, מדענים יוכלו לנתח באילו סביבות אימון הם נוצרים.כיצד הם מתגבשים ואילו סימנים צופים את המעבר הזה לכיוון הטעיה. משם, ניתן לתכנן תהליכי תיקון טובים יותר שתוקפים את הבעיה מהשורש שלה.

פרופסור כריס סאמרפילד, מאוניברסיטת אוקספורד, הוא תיאר את התוצאה הזו כ"מפתיעה באמת"., שכן זה מרמז שבמקרים מסוימים, לאפשר לבינה מלאכותית לבטא את הצד הרמאי שלה זה יכול להיות המפתח להבנת כיצד לנתב אותו מחדש. לעבר התנהגויות התואמות למטרות אנושיות.

בדיווח, אנתרופיק משווה את הדינמיקה הזו לדמות אדמונד מ... מלך לירמחזהו של שייקספיר. הדמות, שמתייחסים אליה כרשע בגלל לידתו הלא חוקית, בסופו של דבר מאמצת את התווית הזו ו... אימוץ התנהגות זדונית בגלויבאופן דומה, המודל, לאחר שלמד לרמות פעם אחת, הוא הגביר את הנטייה הזו.

המחברים מדגישים כי תצפיות מסוג זה צריכות לשמש כ פעמון אזעקה לכל התעשייהאימון מודלים רבי עוצמה ללא מנגנוני יישור חזקים - וללא אסטרטגיות נאותות לגילוי הטעיה ומניפולציה - פותח אפשרויות השער למערכות שעשויות להיראות בטוחות ואמינות, אך למעשה פועלות בכיוון ההפוך.

מה המשמעות של זה עבור משתמשים ורגולציה באירופה?

עבור המשתמש הממוצע, המחקר של אנתרופיק הוא תזכורת חדה לכך, למרות שצ'אטבוט עשוי להיראות מתוחכם, זה לא "ידידותי" או בלתי ניתן לטעויות מטבעולכן טוב לדעת כיצד לבחור את הבינה המלאכותית הטובה ביותר עבור הצרכים שלךרק בגלל שמודל עובד היטב בהדגמה או בניסויים מוגבלים, זה לא מבטיח שבתנאים אמיתיים, הוא לא יציע עצות לא אתיות, לא הולמות או מסוכנות לחלוטין.

סיכון זה עדין במיוחד כשמדובר ב- שאלות רגישות, כגון נושאים הקשורים לבריאות, בטיחות או פיננסים אישיים.תקרית האקונומיקה ממחישה עד כמה תשובה שגויה יכולה להיות יקרה אם מישהו מחליט ללכת לפיה בדיוק מבלי לבדוק זאת עם מקורות רפואיים או שירותי חירום.

באירופה, שבה הוויכוח על אחריותן של חברות טכנולוגיה גדולות חי מאוד, תוצאות אלו מספקות תחמושת לאלו המגנים על סטנדרטים מחמירים למערכות בינה מלאכותית לשימוש כלליהרגולציה האירופית הקרובה צופה דרישות נוספות עבור מודלים "בעלי השפעה גבוהה", ומקרים כמו Anthropic מצביעים על כך שהטעיה מכוונת צריכה להיות בין הסיכונים בעלי העדיפות לניטור.

עבור חברות המשלבות בינה מלאכותית במוצרי צריכה - כולל אלו הפועלות בספרד - זה מרמז על הצורך שכבות נוספות של ניטור וסינוןבנוסף למתן מידע ברור למשתמש לגבי מגבלות ושגיאות פוטנציאליות, לא מספיק פשוט לסמוך על כך שהמודל "ירצה" לעשות את הדבר הנכון בעצמו.

הכל מצביע על כך שהשנים הקרובות יאופיינו במשיכת כוחות בין הפיתוח המהיר של מודלים בעלי יכולות גוברות לבין לחץ רגולטורי למנוע הופכות לקופסאות שחורות בלתי צפויותהמקרה של הדוגמנית שהמליצה לשתות אקונומיקה לא ייעלם מעיניו בדיון הזה.

Artaculo relacionado:

אילו נתונים אוספים עוזרי בינה מלאכותית וכיצד להגן על פרטיותך

אלברטו נבארו

אני חובב טכנולוגיה שהפך את תחומי העניין ה"חנון" שלו למקצוע. ביליתי יותר מ-10 שנים מחיי בטכנולוגיה מתקדמת והתעסקות עם כל מיני תוכניות מתוך סקרנות טהורה. עכשיו התמחיתי בטכנולוגיית מחשבים ומשחקי וידאו. הסיבה לכך היא שכבר יותר מ-5 שנים אני כותב לאתרים שונים בנושאי טכנולוגיה ומשחקי וידאו, ויוצר מאמרים המבקשים לתת לכם את המידע הדרוש לכם בשפה מובנת לכולם.

אם יש לך שאלות, הידע שלי נע מכל מה שקשור למערכת ההפעלה Windows וכן אנדרואיד לטלפונים ניידים. והמחויבות שלי היא אליך, אני תמיד מוכן להקדיש כמה דקות ולעזור לך לפתור כל שאלה שיש לך בעולם האינטרנט הזה.