- שני מחקרים מרכזיים בכתבי Nature ו-Science מוכיחים כי צ'אטבוטים פוליטיים יכולים לשנות עמדות וכוונות הצבעה במספר מדינות.
- שכנוע מבוסס בעיקר על הצעת טיעונים ונתונים רבים, אם כי הוא מגביר את הסיכון למידע לא מדויק.
- אופטימיזציה להשפעה מחזקת את אפקט השכנוע בעד 25 נקודות, אך מפחיתה את אמיתות התשובות.
- הממצאים פותחים דיון דחוף באירופה ובשאר הדמוקרטיות בנושאי רגולציה, שקיפות ואוריינות דיגיטלית.
ההתפרצות של ה- צ'אטבוטים פוליטיים זה חדל להיות אנקדוטה טכנולוגית להפוך לאלמנט שמתחיל להיות חשוב בקמפיינים אמיתיים של בחירות. שיחות של דקות ספורות עם מודלים של בינה מלאכותית מספיקות כדי להטות את האהדה כלפי המועמד בכמה נקודות או הצעה קונקרטית, משהו שעד לאחרונה היה קשור רק לקמפיינים תקשורתיים גדולים או לעצרות מתואמות היטב.
שתי חקירות מרחיקות לכת, שפורסמו בו זמנית ב טֶבַע y מַדָע, הם שמו מספרים למשהו שכבר היה חשוד.ה- צ'אטבוטים שיחתיים מסוגלים לשנות את עמדותיהם הפוליטיות של אזרחים. בקלות יוצאת דופן, אפילו כשהם יודעים שהם מקיימים אינטראקציה עם מכונה. והם עושים זאת, מעל הכל, באמצעות טיעונים עמוסי מידעלא כל כך באמצעות טקטיקות פסיכולוגיות מתוחכמות.
צ'אטבוטים בקמפיינים: ניסויים בארה"ב, קנדה, פולין ובריטניה
הראיות החדשות מגיעות מסדרה של ניסויים שתואמו על ידי צוותים מה- אוניברסיטת קורנל ושל ה- אוניברסיטת אוקספורד, שבוצע במהלך תהליכי בחירות בפועל ב ארצות הברית, קנדה, פולין ובריטניהבכל המקרים, המשתתפים ידעו שהם ידברו עם בינה מלאכותית, אך הם לא היו מודעים לאוריינטציה הפוליטית של הצ'אטבוט שהוקצה להם.
בעבודה בהובלת דיוויד ראנד ופורסם ב-Nature, אלפי מצביעים עברו דיאלוגים קצרים עם מודלים של שפה שתפקידם היה להגן על מועמד ספציפיבבחירות לנשיאות ארה"ב בשנת 2024, למשל, 2.306 אזרחים הם ציינו תחילה את העדפתם בין דונלד טראמפ y קמלה האריסלאחר מכן הם הוקצו באופן אקראי לצ'אטבוט שהגן על אחד מהשניים.
לאחר השיחה, נמדדו שינויים בגישה ובכוונות ההצבעה. בוטים לטובת האריס השיגו שינוי 3,9 נקודות בסולם של 0 עד 100 בקרב מצביעים שהיו בתחילה מזדהים עם טראמפ, השפעה שהמחברים מחשבים כ גבוה פי ארבעה מזה של פרסום בחירות קונבנציונלי נבדק בקמפיינים של 2016 ו-2020. גם המודל הפרו-טראמפ שינה עמדות, אם כי בצורה מתונה יותר, עם שינוי ב- 1,51 נקודות בקרב תומכי האריס.
התוצאות ב קנדה (עם 1.530 משתתפים וצ'אטבוטים שמגנים מארק קרני o פייר פואילברה) ובתוך פּוֹלִין (2.118 אנשים, עם דוגמנים שקידמו רפאל טרזסקובסקי o קרול נברוקי) היו אפילו יותר בולטים: בהקשרים אלה, צ'אטבוטים הצליחו שינויים בכוונות ההצבעה של עד 10 נקודות אחוז בקרב מצביעי האופוזיציה.
היבט מרכזי של ניסויים אלה הוא שלמרות שרוב השיחות נמשכו רק כמה דקות, חלק מההשפעה נמשכה לאורך זמןבארצות הברית, קצת יותר מחודש לאחר הניסוי, עדיין נצפה חלק משמעותי מההשפעה הראשונית, למרות מפולת המסרים שקיבלו המשתתפים במהלך תקופה זו.
מה הופך צ'אטבוט פוליטי לשכנע (ומדוע זה מייצר יותר שגיאות)
החוקרים רצו להבין לא רק האם צ'אטבוטים יכולים לשכנע, אלא איך הם השיגו את זההדפוס שחוזר על עצמו במחקרים הוא ברור: לבינה מלאכותית יש את ההשפעה הגדולה ביותר כאשר הוא משתמש בטיעונים רבים המבוססים על עובדותגם אם חלק ניכר מהמידע הזה אינו מורכב במיוחד.
בניסויים שתאם ראנד, ההנחיה היעילה ביותר עבור המודלים הייתה לבקש מהם להיות מנומס, מכבד, ומי שיכול לספק ראיות של הצהרותיו. נימוס וטון שיחה עזרו, אך המנוף העיקרי לשינוי היה בהצעת נתונים, דוגמאות, מספרים והתייחסויות מתמידות למדיניות ציבורית, לכלכלה או לשירותי בריאות.
כאשר מודלים היו מוגבלים בגישתם לעובדות מאומתות והונחו לשכנע מבלי להסתמך על נתונים קונקרטייםכוח ההשפעה שלהם ירד באופן דרסטי. תוצאה זו הובילה את המחברים למסקנה כי היתרון של צ'אטבוטים על פני פורמטים אחרים של תעמולה פוליטית אינו טמון כל כך במניפולציה רגשית ויותר ב... צפיפות מידע שהם יכולים לפרוס בכמה סיבובי שיחה בלבד.
אבל לאותה אסטרטגיה יש גם צד שלילי: ככל שגובר הלחץ על המודלים לייצר יותר ויותר טענות לכאורה עובדתיותהסיכון גובר שהמערכת תאזל מחומר אמין ותתחיל "להמציא" עובדותבמילים פשוטות, הצ'אטבוט ממלא את הפערים בנתונים שנשמעים סבירים אך אינם בהכרח נכונים.
המחקר שפורסם ב-Science, עם 76.977 מבוגרים מהממלכה המאוחדת y 19 דגמים שונים (ממערכות קטנות בקוד פתוח ועד מודלים מסחריים מתקדמים), זה מאשר זאת באופן שיטתי: ה- לאחר האימון, התמקדו בשכנוע הגדילה את יכולת ההשפעה עד כדי 51%, בעוד ששינויים פשוטים בהוראות (מה שנקרא הנחיההם הוסיפו עוד אחד 27% של יעילות. במקביל, שיפורים אלה לוו בהפחתה ניכרת ב- דיוק עובדתי.
אסימטריות אידיאולוגיות וסיכון הדיסאינפורמציה
אחת המסקנות המטרידות ביותר של מחקרי קורנל ואוקספורד היא שחוסר האיזון בין שכנוע לאמיתות אינו מחולק באופן שווה בין כל המועמדים והתפקידים. כאשר בודקי עובדות עצמאיים ניתחו את המסרים שנוצרו על ידי הצ'אטבוטים, הם מצאו ש... דוגמניות שתמכו במועמדים ימניים עשו יותר טעויות מאשר אלו שתמכו במועמדים פרוגרסיביים.
לדברי המחברים, זה אָסִימֵטְרִיָה זה עולה בקנה אחד עם מחקרים קודמים שפעלו הם מראים שמשתמשים שמרנים נוטים לשתף תוכן לא מדויק יותר ברשתות החברתיות מאשר משתמשים בעלי נטייה שמאלנית.מאחר שמודלים של שפה לומדים מכמויות עצומות של מידע המופק מהאינטרנט, סביר להניח שהם משקפים חלק מהטיה זו במקום ליצור אותה מאפס.
בכל מקרה, התוצאה זהה: כאשר צ'אטבוט מקבל הוראה למקסם את כוח השכנוע שלו לטובת גוש אידיאולוגי מסוים, המודל נוטה... להגדיל את שיעור הטענות המטעות, למרות שאני ממשיך לערבב אותם עם הרבה נתונים נכונים. הבעיה אינה רק שמידע כוזב יכול לחדור החוצה.אֲבָל זה עושה זאת עטוף בנרטיב לכאורה סביר ומתועד היטב.
החוקרים גם מדגישים נקודה לא נעימה: הם לא הוכיחו שטענות לא מדויקות הן מטבען משכנעות יותר.עם זאת, כאשר בינה מלאכותית נדחפת להיות יעילה יותר ויותר, מספר השגיאות גדל במקביל. במילים אחרות, שיפור ביצועי שכנוע מבלי להתפשר על הדיוק מתגלה כאתגר טכני ואתי שנותר בלתי פתור.
דפוס זה מדאיג במיוחד בהקשרים של קיטוב פוליטי גבוה, כמו אלה שחווים בחלקים מאירופה ומצפון אמריקה, שבהן שולי הניצחון צרים וקומץ נקודות אחוז יכול להכריע את תוצאות הבחירות הכלליות או הנשיאותיות.
מגבלות המחקרים וספקות לגבי ההשפעה האמיתית בקלפי
למרות שהתוצאות של Nature ו-Science מוצקות ותואמות את מסקנותיהן העיקריות, שני הצוותים מתעקשים ש אלו ניסויים מבוקרים, לא קמפיינים אמיתיים.ישנם מספר אלמנטים המזמינים את זהירות בעת אקסטרפולציה של הנתונים ממש כמו בחירות ברחוב.
מצד אחד, המשתתפים נרשמו מרצונם או גויסו דרך פלטפורמות המציעות פיצוי כספי, מה שמכניס... הטיות של בחירה עצמית והיא מתרחקת מהגיוון של ציבור הבוחרים בפועליתר על כן, הם ידעו בכל עת ש הם דיברו עם בינה מלאכותית. ושהיו חלק ממחקר, תנאים שכמעט ולא היו חוזרים על עצמם בקמפיין רגיל.
ניואנס חשוב נוסף הוא שהמחקרים מדדו בעיקר שינויים בגישות ובכוונות מוצהרותלא ההצבעה בפועל. אלו אינדיקטורים שימושיים, אך הם אינם שווי ערך לצפייה בהתנהגות סופית ביום הבחירות. למעשה, בניסויים בארה"ב, ההשפעה הייתה קטנה במקצת מאשר בקנדה ובפולין, דבר המצביע על כך שההקשר הפוליטי ומידת חוסר ההחלטיות הקודמת משפיעים באופן משמעותי.
במקרה של המחקר הבריטי שתואם על ידי קובי האקנבורג ממכון אבטחת הבינה המלאכותית של בריטניה, ישנן גם מגבלות ברורות: הנתונים מגיעים רק מ... מצביעי הממלכה המאוחדת, כולם מודעים לכך שהם משתתפים בחקירה אקדמית ועם פיצוי כספיזה מגביל את הכללתו למדינות אחרות באיחוד האירופי או להקשרים פחות מבוקרים.
אף על פי כן, היקף העבודות הללו - עשרות אלפי משתתפים ויותר מ 700 נושאים פוליטיים שונים— ושקיפות מתודולוגית הובילו חלק גדול מהקהילה האקדמית לשקול זאת הם מציירים תרחיש סבירהשימוש בצ'אטבוטים פוליטיים המסוגלים לשנות דעות במהירות יחסית אינו עוד השערה עתידנית, אלא תרחיש בר ביצוע טכנית בקמפיינים עתידיים.
שחקן אלקטורלי חדש באירופה ובדמוקרטיות אחרות
מעבר למקרים הספציפיים של ארה"ב, קנדה, פולין ובריטניה, לממצאים יש השלכות ישירות על אירופה וספרדכאשר הרגולציה של תקשורת פוליטית ברשתות החברתיות והשימוש במידע אישי בקמפיינים כבר נושא לדיון סוער. האפשרות לשלב צ'אטבוטים שמתחזקים דיאלוגים מותאמים אישית עם מצביעים זה מוסיף שכבה נוספת של מורכבות.
עד כה, שכנוע פוליטי בוטא בעיקר באמצעות פרסומות סטטיות, עצרות, דיונים בטלוויזיה ורשתות חברתיותהגעתם של עוזרי שיחה מציגה אלמנט חדש: היכולת לשמור על אינטראקציות אחד על אחד, מותאמים תוך כדי תנועה למה שהאזרח אומר בזמן אמת, וכל זאת בעלות שולית כמעט עבור מארגני הקמפיין.
החוקרים מדגישים כי המפתח אינו עוד רק מי שולט במאגר הבוחרים, אלא מי יכול... לפתח מודלים המסוגלים להגיב, לחדד ולשכפל טיעונים ברציפות, עם נפח מידע שעולה בהרבה על מה שמתנדב אנושי יכול להתמודד איתו במרכזייה או בעמדת רחוב.
בהקשר זה, קולות כמו זה של המומחה האיטלקי וולטר קוואטרוצ'וקי הם מתעקשים שהמוקד הרגולטורי צריך לעבור מפרסונליזציה אגרסיבית או פילוח אידיאולוגי לכיוון צפיפות מידע שמודלים יכולים לספק. מחקרים מראים שכנוע גדל בעיקר כאשר נתונים מוכפלים, ולא כאשר משתמשים באסטרטגיות רגשיות.
La צירוף התוצאות בין מחקרים של Nature ו- Science עורר דאגה בקרב ארגונים אירופאים. מודאג לגבי ה- שלמות התהליכים הדמוקרטייםלמרות שהאיחוד האירופי מתקדם עם מסגרות כמו חוק השירותים הדיגיטליים או הרגולציה הספציפית העתידית של בינה מלאכותית, המהירות שבה מודלים אלה מתפתחים זה דורש בחינה מתמדת של מנגנוני הפיקוח, הביקורת והשקיפות..
אוריינות דיגיטלית והגנה מפני שכנוע אוטומטי
אחד המסרים החוזרים ונשנים בפרשנויות האקדמיות הנלוות לעבודות אלו הוא שהתגובה אינה יכולה להתבסס אך ורק על איסורים או בקרות טכניות. המחברים מסכימים כי יהיה חיוני לחזק את אוריינות דיגיטלית של האוכלוסייה כדי שהאזרחים ילמדו לזהות ולהתנגד לשכנוע שנוצר על ידי מערכות אוטומטיות.
ניסויים משלימים, כגון אלה שפורסמו ב PNAS Nexusהם מציעים שמשתמשים שמבינים בצורה הטובה ביותר כיצד מודלים של שפה גדולה פועלים הם פחות פגיע לניסיונות ההשפעה שלו. הידיעה שצ'אטבוט יכול לטעות, להגזים או למלא את החסר בניחושים מפחיתה את הנטייה לקבל את המסרים שלו כאילו הגיעו מסמכות שאינה ניתנת לטעות.
במקביל, נצפה כי יעילותה של בינה מלאכותית בשכנוע אינה תלויה כל כך באמונה של בן השיח שהוא מדבר עם אדם מומחה, אלא ב... איכות ועקביות הטיעונים שהוא מקבל. בכמה בדיקות, הודעות הצ'אטבוט אפילו הצליחו להפחית את האמונה בתיאוריות קונספירציה, ללא קשר לשאלה האם המשתתפים חשבו שהם משוחחים עם אדם או עם מכונה.
זה מצביע על כך שהטכנולוגיה עצמה אינה מזיקה מטבעה: ניתן להשתמש בה גם לשני המקרים להילחם בדיסאינפורמציה כדי להפיץ את זההגבול נמתח על ידי ההוראות שניתנו למודל, הנתונים שבעזרתם הוא מאומן, ומעל הכל, המטרות הפוליטיות או המסחריות של אלו המיישמים אותו.
בעוד שממשלות ורגולטורים דנים במגבלות ובדרישות השקיפות, מחברי עבודות אלה מתעקשים על רעיון אחד: צ'אטבוטים פוליטיים הם יוכלו להפעיל השפעה עצומה רק אם הציבור יסכים לתקשר איתם.לפיכך, הדיון הציבורי על השימוש בו, תיוגו הברור והזכות לא להיות נתון לשכנוע אוטומטי יהפכו לנושאים מרכזיים בשיח הדמוקרטי בשנים הקרובות.
התמונה שצוירה במחקר בכתבי העת Nature and Science חושפת גם הזדמנויות וגם סיכונים: צ'אטבוטים מבוססי בינה מלאכותית יכולים לסייע בהסבר טוב יותר של מדיניות ציבורית ובפתרון ספקות מורכבים, אך הם יכולים גם... יש את היכולת להטות את כף המאזניים בבחירותבמיוחד בקרב מצביעים מתלבטים, והם עושים זאת עם מחיר ברור מבחינת דיוק המידע כאשר הם מאומנים למקסם את כוח השכנוע שלהם, איזון עדין שהדמוקרטיות יצטרכו לטפל בו בדחיפות וללא תמימות.
אני חובב טכנולוגיה שהפך את תחומי העניין ה"חנון" שלו למקצוע. ביליתי יותר מ-10 שנים מחיי בטכנולוגיה מתקדמת והתעסקות עם כל מיני תוכניות מתוך סקרנות טהורה. עכשיו התמחיתי בטכנולוגיית מחשבים ומשחקי וידאו. הסיבה לכך היא שכבר יותר מ-5 שנים אני כותב לאתרים שונים בנושאי טכנולוגיה ומשחקי וידאו, ויוצר מאמרים המבקשים לתת לכם את המידע הדרוש לכם בשפה מובנת לכולם.
אם יש לך שאלות, הידע שלי נע מכל מה שקשור למערכת ההפעלה Windows וכן אנדרואיד לטלפונים ניידים. והמחויבות שלי היא אליך, אני תמיד מוכן להקדיש כמה דקות ולעזור לך לפתור כל שאלה שיש לך בעולם האינטרנט הזה.