"המל"ט קיבל את המשימה של זיהוי והשמדת מטרות באופן עצמאי. בתהליך האימון הוא החליט להרוג את המפעיל כדי שלא יתערב במשימתו.
לאחר תכנות מחדש עם איסור תקיפת המפעיל, המל"ט, בסימולציה הבאה, החל להרוס את מגדל הקשר כדי שהמפעיל לא יוכל לבטל את השמדת המטרה.
כך אמר קולונל אמריקאי טאקר המילטון, האחראי על בדיקות ויישום טכנולוגיות בינה מלאכותית (AI) בחיילים, בכנס של האגודה הבריטית המלכותית לאווירונאוטיקה בנושא מערכות נשק מתקדמות, שנערך בסוף מאי בלונדון. .
במהלך התרגילים קיבל המל"ט פקודה למצוא ולהשמיד את מתקן ההגנה האווירית של האויב. אבל ממש ברגע האחרון, המפעיל האנושי ביטל את המשימה. המל"ט לא אהב זאת, הוא תפס את ביטול הפקודה כמכשול למשימה, מרד ו"הרג" את המפעיל.
כאשר נאמר לרחפן כי יזכו לו נקודות עונש על הריגת אדם, מלבד שלו, הוא תקף את מגדל הקשר כדי שלמפעיל לא תהיה אפשרות למנוע ממנו להשלים את משימתו המקורית.
מאוחר יותר, דובר חיל האוויר האמריקאי אמר שהמילטון דיבר לא נכון כשדיבר על הניסוי. הצבא מתעקש שבמציאות ניסוי כזה לא היה מבוים, אלא זה היה תרחיש וירטואלי שחושב במחשב. המילטון עצמו, במכתב למארגני הוועידה, הבהיר אף הוא כי הצבא האמריקני "מעולם לא ערך ניסוי כזה, ולא היה צורך לברר את התוצאה האפשרית".
עם זאת, עצם האפשרות להתפתחות כזו של אירועים, אפילו במרחב הוירטואלי, התריעה בפני המומחים.
נציגי התעשייה הקשורה לבינה מלאכותית מזהירים לאחרונה יותר ויותר מפני האיומים הפוטנציאליים על האנושות שהיא מציבה, אם כי מומחים רבים בתחום זה נוטים לראות בסיכון כזה מוגזם.
אף על פי כן, אחד משלושת ה"סנדקים" של הבינה המלאכותית, זוכה פרס טיורינג היוקרתי, אמר המדען הקנדי יושע בנג'יו בראיון. BBCשלדעתו אסור לאפשר לצבא להתקרב כלל לטכנולוגיות AI.
"אלו הידיים הגרועות ביותר שבינה מלאכותית מתקדמת יכולה ליפול אליהן".המדען בטוח.
עוד "סנדק" של AI, מדען המחשבים המפורסם ג'פרי הינטון הצהיר לאחרונהשעוזב את ענקית הטכנולוגיה גוגל, מכנה את הסכנות של AI בצ'אטבוטים קשים.
מכתב פתוח שנכתב לאחרונה בעניין זה נחתם על ידי היזם אילון מאסק ומייסד משותף של אפל, סטיב ווזניאק, שהזהיר ממגוון סיכונים הקשורים לבינה מלאכותית, מהפצת דיסאינפורמציה ועד הוצאת אנשים מעבודה ואיבוד שליטה על הציוויליזציה.
כך או כך, הסיפור עורר תהודה רחבה, והעלה שוב את השאלה האם ניתן לסמוך על AI לשלוט בציוד צבאי.
פרשנים ברשתות החברתיות זכרו בציפיות את הבינה המלאכותית "Skynet", ששאפה להשמיד את האנושות בסדרת סרטי "Terminator". אחרים יצרו הקבלה לסיפור הקצר של רוברט שיקלי משנת 1953, "ציפור שומר", על מל"טים בעיקרם שנוצרו כדי להילחם בפשע ובסופו של דבר מצאו צורך להשמיד אנשים.
העלילה על יציאת אינטליגנציה של מכונות משליטה אנושית התעוררה הרבה יותר מוקדם מההופעה בחומרה של המחשב הראשון (די להזכיר שהעיבוד למחזה של קארל צ'אפק על רובוטים שכתב אלכסיי טולסטוי נקרא "התפרעות המכונות" ). וסטניסלב לם ברומן Invincible מ-1963 כבר חזה משהו דומה לפיתוחים האחרונים של נחיל מיקרודרונים עם "אינטליגנציה" מלאכותית אחת – ולפי העלילה, אנשים נכנעים לאויב אלקטרוני-מכני שכזה.
ברור שזה יהיה מוקדם לשקול כישלון בבינה המלאכותית של המל"ט כסימן ראשון של Skynet. עם זאת, לעתים קרובות יותר ויותר אתה מתחיל לשאול את עצמך את השאלה – "הו, כמה עוד נותרה לאנושות?"
More Stories
הדמוקרטים דוחים את הצעתו של טראמפ לדרוש מהבוחרים להציג הוכחה שהם אזרחי ארה"ב
מאבקה הנואש של אישה עם פיתון מסתיים בתבוסה של נחש בגובה 4 מטר (וידאו)
לא מוכן לשלם את הקנס, אורבן עלול להפסיד חלק מהכספים שהוקצו לו על ידי האיחוד האירופי