NYT: צ'אט GPT כאיום על המערכת הפוליטית המערבית

שבועות לאחר השקתו, Chat GPT* כבר מאיים לבטל צורות רבות של התקשורת היומיומית שלנו, כמו האופן שבו אנו כותבים מיילים, מאמרים באוניברסיטה, ועוד אינספור צורות כתיבה אחרות. NYT.

צ'אט GPT

פותח על ידי החברה לִפְתוֹחַ אפליקציית הבינה המלאכותית היא רובוט המיועד לתקשורת – היא יכולה לענות באופן אוטומטי על שאלות שנשאלות בכתב באופן שלרוב קרוב לאדם, עד לנקודה שבה אי אפשר להבחין אם נעשה בה שימוש. אבל מעבר להפתעה שמכונות יכולות להחליף בני אדם בצורות דיבוריות כמו שירה ותסריט, יש איום הרבה יותר גדול: החלפת בני אדם בבינה מלאכותית בתהליכים דמוקרטיים – לא באמצעות הצבעה, אלא באמצעות לובינג.

GPT Chat יכול לאסוף באופן אוטומטי הערות שנשלחו במהלך תהליך החקיקה. הוא יכול לכתוב מכתבים לפרסום לעורכים הראשיים של עיתונים מקומיים. הוא יכול להגיב על מאמרי חדשות, פוסטים בבלוגים ופוסטים במדיה חברתית מיליוני פעמים ביום. היא יכולה לחקות את עבודתה של סוכנות הביון הרוסית באינטרנט בניסיונה להשפיע על בחירות 2016 בארה"ב, אך ללא תקציב של מיליוני דולרים ומאות עובדים שנשכרו למטרה זו.

הערות שנוצרו אוטומטית אינן בעיה חדשה. כבר זמן מה אנחנו מתמודדים עם האיום של בוטים – מכונות שמפרסמות תוכן אוטומטית. לפני חמש שנים, על פי ההערכות, לפחות מיליון הערות שנוצרו אוטומטית הוגשו ל-FCC בהקשר לחקיקה המוצעת לנייטרליות באינטרנט. בשנת 2019, סטודנט מאוניברסיטת הרווארד ניסה מחולל טקסט אוטומטי כדי להגיש 1,001 הערות בהתייעצות לבריאות הציבור. בזמנו, פרסום תגובות היה רק ​​משחק חשבון.

סכנה לחברי קונגרס

מאז, הפלטפורמות השתפרו בהסרת "התנהגות מלאכותית ולא אותנטית". פייסבוק, למשל, מוחקת יותר ממיליארד חשבונות מזויפים מדי שנה. אבל המסרים האלה הם רק ההתחלה. במקום להציף את תיבות הדואר הנכנס של המחוקקים בהודעות תמיכה או לבדוק את מרכזיית הקפיטול באמצעות שיחות רובו, מערכת בינה מלאכותית – מתקדמת כמו אפליקציית GPT Chat ומאומנת על נתונים הקשורים לתהליכים אלה – יכולה לכוון למחוקקים ולמשפיעים. עמדות קריטיות כדי לזהות את החלשים ביותר נקודות בתהליך החקיקה ולתמרן אותן ללא רחמים באמצעות תקשורת ישירה.

כשאנחנו, האנשים, עוסקים בפעילויות כאלה, זה נקרא לובינג. נציגים מצליחים של הז'אנר הזה, כלומר לוביסטים מובילים, משלבים דיוק בכתיבת מסרים עם טקטיקות מיקוד חכמות. נכון לעכשיו, הדבר היחיד שמונע מלוביסט המצויד בצ'אט GPT לעשות משהו שניתן להשוות בשיח ללוחמת מזל"טים הוא היעדר מיקוד מדויק. עם זאת, ל-AI יש פוטנציאל לספק טכנולוגיות גם למטרה זו.

מערכת המסוגלת לפרש רשתות פוליטיות, בשילוב עם יכולות יצירת הטקסט של האפליקציה, יכולה לקבוע לאיזה חבר קונגרס יש את המשקל הרב ביותר במדיניות מסוימת, כמו מיסוי חברות או הוצאות צבאיות. כשפועלים כמו לוביסטים, מערכת כזו יכולה לכוון לנציגים המתלבטים של המדינה שיושבים בוועדות שמחליטות על מדיניות המשרתת את האינטרסים של מישהו, ולאחר מכן להפנות את מאמציהם לחברי מפלגת השלטון כאשר הצעת חוק מובאת להצבעה.

ברגע שהאנשים והאסטרטגיות מזוהים, בוט דיון כמו Chat GPT יכול ליצור הודעות טקסט לשימוש במיילים, תגובות ובכל מקום שבו טקסט יהיה שימושי. לוביסטים יכולים גם למקד ישירות את הפרטים הללו, והשילוב חשוב כאן: לתגובות במאמרים וברשתות החברתיות יש פוטנציאל סופי, והידיעה לאילו חברי בית המחוקקים לכוון אינה כשלעצמה תנאי מספיק למניפולציה.

תמריץ חזק לתקוף

היכולת הזו להבין ולמקד אנשים הפועלים באינטרנט תיצור כלי האקרים בינה מלאכותית שינצל פגיעויות במערכות חברתיות, כלכליות ופוליטיות במהירות ובטווח הגעה מדהימים. מערכות חקיקה יכולות להיות יעד מסוים מכיוון שהתמריץ לתקוף מערכות קבלת החלטות פוליטיות חזק מאוד. הנתונים להכשרת מערכות כאלה זמינים באופן נרחב, וקשה מאוד לזהות את השימוש ב-AI – במיוחד כאשר משתמשים בהם אסטרטגית כדי לתמרן פעולות אנושיות.

זה רק עניין של זמן עד שיתקבלו הנתונים הדרושים לגיבוש מערכות מיקוד אסטרטגיות כאלה. חברות פתוחות מסתמכות בדרך כלל על שקיפות, ורוב המחוקקים מוכנים – לפחות פורמלית – לקבל ולהגיב להודעות שנראה כאילו מגיעות מאנשיהם.

זה בהחלט אפשרי שמערכת הבינה המלאכותית תוכל לזהות לאילו חברי קונגרס יש השפעה מכרעת על ההנהגה, אבל הנראות הציבורית שלהם נמוכה מספיק כדי שתשומת לבם לא נמשכת לעתים קרובות. לאחר מכן היא יכולה לזהות את קבוצת האינטרסים הציבוריים שיש לה הכי הרבה השפעה על עמדותיו הציבוריות של אותו חבר בית המחוקקים. אולי היא אפילו תוכל לחשב את כמות התרומה הדרושה כדי להשפיע על הארגון או למקד מודעות שמעבירות מסר אסטרטגי לחבריו. לכל מטרה שצריכה החלטה פוליטית, הקהל הנכון, המסר הנכון בזמן הנכון. מה שהופך את האיום שמציבים לוביסטים עם נשק בינה מלאכותית לגדול מהאיום שמציבות חברות הלובי הרחוב היקרות בוושינגטון. לוביסטים מסתמכים על עשרות שנות ניסיון כדי למצוא פתרונות אסטרטגיים לעיצוב מוצלח של התוצאה של החלטה פוליטית. ניסיון זה מוגבל ולכן מדויק.

מהיר יותר וזול יותר

עם זאת, בתיאוריה, בינה מלאכותית יכולה להשיג את אותה תוצאה הרבה יותר מהר וזול. יתרון המהירות הראשוני הוא עצום במערכת אקולוגית שבה ניתן לגבש במהירות את דעת הקהל והנרטיבים של התקשורת, באותה מידה שהם נתונים לשינוי מהיר בתגובה לאירועים כאוטיים המתרחשים בקנה מידה עולמי.

בנוסף, הגמישות של בינה מלאכותית יכולה לסייע בהשגת השפעה על מספר תהליכי קביעת מדיניות ותחומי שיפוט בו-זמנית. תארו לעצמכם חברת לובינג המופעלת על ידי AI שיכולה לנסות לתקן כל הצעת חוק שתוגש לקונגרס האמריקאי או אפילו לבתי המחוקקים של כל מדינה. חברות לובינג נוטות לפעול רק במדינה אחת, מכיוון שיש הבדלים מורכבים בחוקים, נהלים ומבנה פוליטי. בינה מלאכותית יכולה להקל על הפעלת השפעה מעבר לגבולות הפוליטיים המקובלים.

בדיוק כפי שמחנכים יצטרכו לשנות את האופן שבו הם מנהלים את הבחינות ואת מטלות התלמידים לאור השינויים שהביאה Chat GPT, ממשלות יצטרכו לשנות את מערכת היחסים שלהן עם הלוביסטים.

ללא ספק, טכנולוגיה זו יכולה להביא יתרונות לסביבה הדמוקרטית, כשהעיקרי שבהם הוא נגישות. לוביסט מנוסה לא יכול לקבל תשלום על ידי כולם, אבל תוכנת גישה לבינה מלאכותית יכולה להיות זמינה לכולם. אם יתמזל מזלנו, אולי בינה מלאכותית כזו שיוצרת אסטרטגיה יכולה להחיות את הדמוקרטיזציה של הדמוקרטיה עצמה, ולתת השפעה דומה לאזרחים החלשים ביותר.

עם זאת, מוסדות גדולים וחזקים יותר נוטים יותר להשתמש בכל טכניקת בינה מלאכותית כדי להשפיע בצורה הטובה ביותר. בסופו של דבר, השגת אסטרטגיית ההשפעה הטובה ביותר עדיין דורשת אנשים בתוך המערכת שיכולים לנווט במסדרונות בית המחוקקים, וכסף. השפעה היא לא רק העברת המסר הנכון לאדם הנכון בזמן הנכון. ובעוד רובוט יוצר דיבור יכול לקבוע מי צריך להיות הנהנה ממסעות המשפיעים הללו, בעתיד הנראה לעין, בני אדם יצטרכו לשלם על כך. אז למרות שאי אפשר לחזות איך ייראה עתיד מלא של לוביסטים עם נשק בינה מלאכותית, סביר להניח שזה יגדיל עוד יותר את ההשפעה והכוח של אלה שכבר מחזיקים בהם.

Source link