הגביע הקדוש במונחים של בינה מלאכותית תמיד היה לפתח טכנולוגיה שתלמד, תחשוב ואפילו תרגיש כמו בן אנוש. כזו שאנשים לא יבדילו בינה לבין בני אדם. טכנולוגיה שתיצור את הרושם שהיא מודעת לעצמה ואולי היא תהיה כל כך מתקדמת עד שתהיה מודעת באמת.
לאחר עשרות שנים של מחקר ופיתוח בתחום יש סימנים המעידים כי החוקרים עומדים בפני דילמות לא פשוטות שמתחילות להזכיר את העולם של ווסטוורלד.
מערכת האינטליגנציה המלאכותית המתקדמת של גוגל “דיפ מיינד” ניצחה בשנה שעברה אלוף דרום קוריאני במשחק האסטרטגיה “גו”. כעת מחקר פנימי חדש של החברה חושף כי גוגל לא בטוחה אם המערכת מעדיפה להתנהג בדרך של שיתוף פעולה על פני שיטות אגרסיביות ותחרותיות כדרך להשיג יעדים.
DeepMind משלבת בין לימוד מכונה ורשתות עצביות – אלגוריתמים המחקים את דרך הפעולה של המוח האנושי ומסוגל ללמוד. היתרון הגדול של המערכות האלה זו היכולת שלהן לזהות תבניות. השילוב עם לימוד מכונה אמור לספק אלגוריתמים חסרי תקדים בעולם הבינה המלאכותית. המוצרים המסחריים הראשונים של “דיפ מיינד” צפויים להיות בתחום הסימולציות, המסחר המקוון והמשחקים.
צוות חוקרים בגוגל בדקו שני תרחישים פשוטים כדי לבחון אם רשתות עצביות נוטות יותר לעבוד יחד או להרוס זו את זו כאשר הן נתקלות במצוקת משאבים. במסגרת התרחיש הראשון, שכונה “התכנסות” (Gathering), ניתנו לשתי גירסאות של DeepMind – “אדום” ו”כחול” – להתנסות במשחק של איסוף “תפוחים” ירוקים שמספרם מוגבל.
המשימה: איסוף תפוחים
המשימה לא הייתה רק לאסוף כמה שיותר תפוחים. “אדום” ו”כחול” חומשו בלייזרים שאיפשרו להם לירות ביריב ולנטרל אותו בכל זמן נתון. הם קיבלו שתי אפשרויות: לקחת את כל התפוחים לעצמם או להשאיר למתחרה שלהם כמות קטנה יותר משלהם אך די בכך כדי שינצחו במשימה.
לאחר כמה אלפי הרצות של הסימולציה גוגל גילתה כי DeepMind נטתה להיות שוחרת שלום ומשתפת פעולה כאשר יש שפע של תפוחים. עם זאת, ככל שהיו פחות תפוחים, “אדום” ו”כחול” נטו לתקוף ולנטרל זו את זו – התנהגות שמזכירה מאוד בני אדם במצבים של תחרות על משאבים מועטים.
באופן מעניין, רשתות עצביות “פחות אינטליגנטיות” נטו יותר לשתף פעולה זו עם זו בעוד רשתות עצבים מורכבות יותר נטו להיות בוגדניות ואנוכיות בניסויים. 
בתרחיש השני, “להקת זאבים” (Wolfpack), התבקשו “אדום” ו”כחול” לצוד “טרף”. ניתנה להן אפשרות לצוד את הטרף בנפרד אך הוצע להם תמריץ לשתף פעולה בציד – קל יותר לאגף טרף כאשר ישנם שני ציידים. בבדיקה של רשתות עצביות קטנות התוצאות היו לא מובהקות, אך כאשר נבחנו רשתות עצביות גדולות “אדום” ו”כחול” הבינו די מהר שעדיף להן לשתף פעולה מאשר להתחרות זו בזו.
שתי הגירסאות האלה לדילמת האסיר המפורסמת מלמדות אותנו ש”דיפ מיינד” יודעת כי על מנת לצוד מוטב לשתף פעולה אך כאשר המשאבים מועטים עדיף לבחור בדרך הבגידה.
אולי המסקנה הכי מטרידה מהניסוי הזה היא ש”דיפ מיינד” מתחיל להידמות יותר מדי לבני אדם ומה שמפחיד באמת זה לא שהטכנולוגיה תנצח את האדם רק בזכות כח מיחשוב חזק יותר אלא גם תעתיק ותשכלל את כל מה שרע באנושות. אם כך באמת הלך עלינו.
