מבחן טיורינג [2-2]

שלום כולם, וברוכים הבאים לאלישע והזוויות, עונה 2 פרק 2. היום ה-30 ליוני 2024, ואנחנו נדבר היום על מבחן טיורינג! דמיינו לעצמכם שאתם רוצים ליצור קשר עם חברת הסלולר שלכם. אתם נכנסים לאתר האינטרנט שלהם, ובמקום להתקשר למספר של שירות הלקוחות, אתם לוחצים על הסימן של "צ'ט עם נציג". תוך חצי דקה אתם מקבלים מענה, כלומר השיחה עם הנציג מתחילה. הנציג, שמזדהה בשם ג'פטו - כן אני יודע, שם קצת מיוחד אבל זה השם שלו! לא מספיק צחקו עליו בגן, עכשיו אתם עושים מזה עניין?... בכל אופן - ג'פטו עוזר לכם באדיבות. זה לוקח כמה דקות, הוא שואל כמה שאלות, אתם עונים ושואלים גם, כמה הבהרות ובסופו של דבר העניין שלשמו יצרתם קשר מסתדר. ואז, כשאתם מוכנים לסיים את השיחה, קופץ לכם פופ-אפ על המסך. "בתמורה לשובר מתנה בסך חמישים שקלים לבית הקפה האהוב עליכם, האם תהיו מוכנים לענות על סקר קצר המכיל שאלה אחת?" בהתלהבות אתם מאשרים, ואז עולה השאלה על המסך: "תודה שהסכמתם לענות על הסקר. האם לדעתכם דיברתם עם ג'פטו, הנציג האנושי האדיב, או עם צ'ט GPT, ה-AI המשוכלל החדש שלנו, שהתחזה לג'פטו?" עכשיו, אני משער שלא יצא לכם להיות בסיטואציה שכזו לאחרונה, אבל אם אי פעם זה יקרה לכם - דעו לכם שמישהו מנסה להפעיל עליכם גרסה של מבחן טיורינג - מבחן שהציע המתמטיקאי אלן טיורינג במאמרו מ-1950 במגזין המדעי MIND. הוא אמנם לא דיבר על חברות סלולר, או על אינטרנט וצ'טבוטים, אבל במסגרת מה שהוא הכיר אז הוא התקרב מאד למה שתואר כאן. מבחינתו, ככל שיותר ויותר מחשבים יצליחו לגרום לאנשים לחשוב שהם דיברו עם ג'פטו הזקן והנחמד, כך אנחנו מתקרבים יותר ויותר למחשבים שיכולים ממש לחשוב כמו בני אדם. נהנים מהתוכן? מוזמנים להירשם ולקבל את הפרקים אליכם למייל אז היום אנחנו נצלול למאמר המפורסם הזה שלו מ-1950. כי אפשר ללמוד הרבה דברים מנגיעה במקור, במקומות הראשוניים הללו שבהם רעיונות החלו לקרום עור וגידים. בשלבים המוקדמים הללו הדברים שמוצעים מוצגים לקוראים בשפה ברורה יותר ובלי הרבה מהז'רגון המקצועי שאמנם יכול להוסיף מידה של דיוק, אבל לרוב גם מונע מאנשים שאינם מהתחום להבין במה מדובר. ואכן, במובן הזה המאמר של טיורינג הוא מצויין. אפילו שמדובר במאמר עם יעדים טכנולוגים שנכתב על ידי אחד המוחות המבריקים בתחום מדעי המחשב של אותה התקופה, הוא מוצג דווקא יותר כסוג של תרגיל חשיבתי, ובשפה השווה לכל נפש, שלא צריך שום רקע מתמטי או מחשביסטי כדי להבינו. אז לפני שנתחיל, אני רוצה להמליץ לכם לקרוא בעצמכם את המאמר של טיורינג (תלחצו על הסימן של PDF). כל עוד יש לכם אנגלית סבירה, שווה לקרוא את סעיפים 1, 2 ו-6. מעבר לשאלות הגדולות, יש גם כל מני קוריוזים מגניבים שאפשר לקרוא שם. לדוגמה, בסעיף 6 טיורינג משתף בין השאר את דעתו על קיומם של אנשים עם… כוחות-על של קריאת מחשבות! רק בשביל זה אני שמח שהשקעתי את הזמן :) אז אני ממליץ! בואו נתחיל בשאלה המקדימה המתבקשת - מי היה אלן טיורינג? אלן טיורינג נולד ב־1912 בלונדון, וחונך בקינגס קולג' שבקיימברידג' ובאוניברסיטת פרינסטון, שם כתב את עבודת הדוקטורט שלו. כיום היינו מכנים את טיורינג מדען מחשב, אך כיוון שטרם המציאו את התחום הידוע כ"מדעי המחשב", הוא נחשב מתמטיקאי. הוא המציא כמה ממושגי היסוד ומערכות החשיבה המקובלות במדעי המחשב, שאולי נספר עליהם באיזו עונה עתידית אם אני אמצא תירוץ טוב. לאחר שסיים את הדוקטורט שלו בפרינסטון ב-1938, הצטרף טורינג בזמן מלחמת העולם השניה למשרד החוץ הבריטי כחלק מיחידת מודיעין ממשלתית. מאמציו הובילו לפריצת קוד ה"אניגמה" הגרמני, הקוד שהגרמנים השתמשו בו בצבא הגרמני, והפריצה הזו תרמה תרומה אדירה למאמץ המלחמתי של בעלות הברית. חוויותיו ביחידת פיצוח הצפנים הובילו את טיורינג להמשך עבודה על תכנון ובניית מחשבים מוקדמים, ובעבודתו בשנים הללו הוא הניח את היסודות לכמה תחומים עיקריים במדעי המחשב, בין השאר חקר הבינה המלאכותית. מה שנראה כתחילתה של קריירה מזהירה הגיע לקיצו בטרם עת. ב-1952 נעצר טיורינג תחת החוקים הבריטיים נגד הומוסקסואליות, הרשויות דרשו ממנו לעבור טיפול הורמונלי לטיפול בנטייה שלו, ושנתיים לאחר מכן הוא מת מהרעלת ציאניד, ככל הנראה כחלק מנסיון התאבדות. כך, מעבר לטרגדיה האישית הנוראית שלו, אבד לעולם אחד האנשים המרכזיים ביותר בשלב המאד-צעיר של התפתחות מדעי המחשב. מי שמעוניין, מוזמן גם לצפות בסרט ההוליוודי שנעשה על חייו, בשם The Imitation Game. אז זהו סיכום חייו של טיורינג על רגל אחת, ועכשיו אפשר סוף סוף לגשת לנושא שלנו, הרי הוא "מבחן טיורינג" המפורסם. ב-1950, טיורינג פרסם מאמר בשם COMPUTING MACHINERY AND INTELLIGENCE - "מכונות חישוב ואינטליגנציה". במאמר הזה הוא תיאר משחק שיזכיר לכם את הסיפור שבו פתחנו עם ג'פטו: יושב לו אדם, נקרא לו "הבוחן", ומדבר דרך צ'ט עם שתי דמויות שנמצאות בחדרים נפרדים - בנאדם נוסף ומחשב, כשהמחשב אמור לנסות ולשוחח כמו אדם רגיל דרך הצ'ט. הבוחן יכול לנהל איתן שיחה חופשית, לשאול כל דמות כמה שאלות שהוא רוצה וכל שאלה שהוא רוצה, ולאחר כמה דקות הוא צריך לנחש מי משתי הדמויות היא האדם אמיתי, ומי - המחשב. למשחק הזה הוא קרא "משחק החיקוי", The Imitation Game - מהסיבה הברורה: המחשב כאן מנסה לחקות שיח אנושי ברמה גבוהה מספיק כדי שהחוקר יאמין לו. שווה כאן לציין שלמחשב במשחק הזה קשה יותר להצליח "לזייף אנושיות" מאשר לג'פטו בסיפור שבו פתחנו. שכן, במבחן טיורינג הבוחן יודע שהוא בניסוי, ושמישהו משני השחקנים האחרים הוא מחשב שמנסה לרמות אותו, ולכן הוא יכול לשאול המון שאלות מכשילות שאולי אתם, בשיחה מול הנציג הסלולרי, לא חשבתם לשאול. נניח, אולי תשאלו את בעל השיחה שאלה קשה במתמטיקה, ואם הוא מצליח לענות מאד מהר אתם יכולים לנחש שמדובר במחשב. מצד שני - אולי פשוט הצד השני השתמש במחשבון? זה יכול להיות מבלבל. אז זהו מבחן טיורינג, והמשחק הזה הוא - משחק! זה הכל! אם מישהו היה ממציא אותו היום הוא כנראה היה נבלע בים משחקי המחשב האחרים שיוצאים כל יום. יש גם כמה "משחקי טיורינג" כאלו באינטרנט (כמו לדוגמה כאן) שאתם מוזמנים לבדוק אם בא לכם לנסות את כוחכם בזיהוי מחשבים לפי יכולות הסמול-טוק שלהם. אבל במאמר שלו טיורינג הציע שזה יותר ממשחק - הוא הציע שאם מחשבים יצליחו לנצח במשחק החיקוי שלו ולעבוד על בני אדם באופן שכיח מספיק, אז לדעתו זה שקול לאמירה שמחשבים יכולים לחשוב, כלומר שיש להם אינטלגנציה. עכשיו, האמירה הזו של טיורינג אולי נשמעת לחלקכם כפשוטה, ולחלקכם המוח מתפוצץ כרגע משאלות וקשיים בקביעה הזו. ובאמת, ככל שאני חושב עליה בתקופה האחרונה אני מבין עד כמה היא עמוקה ובעלת השלכות מטורפות על כל האופן שבו אנחנו חושבים על הנושא הזה של בינה מלאכותית. גם הלכתי וקראתי עוד חומרים שטיורינג כתב ואמר בנושא, כדי לדייק בכוונה שלו באמירה הזו, כדי לוודא שהבנתי אותו עד הסוף. אבל אי אפשר לקפוץ ישר למים העמוקים כבר בפרק השני! אנחנו נחזור אל האמירה הזו שוב ושוב לאורך הסדרה, כל פעם מזווית אחרת, ויהיו דברים שאני אציג בכלליות היום שאולי נחדד בפרקים הבאים, אז אם מי מכם המאזינים הוא מומחה לאלן טיורינג, בבקשה אל תסקלו אותי על אי-דיוקים כאלו ואחרים. לאורך הסדרה, אני מבטיח, אתם תראו לאט לאט איך הקרחון מתגלה לעיניכם והדברים מתבהרים. היום אנחנו נתחיל מהבסיס. אז בואו נחשוב קצת על ההצעה של טיורינג - שאם מחשב יכול לזייף שיח אנושי באופן אמין אפשר לומר שהוא נבון (אני לפעמים אשתמש בתיאור "נבון" על משקל "בינה מלאכותית"). מה דעתכם? בתור התחלה שווה לחשוב על הטיעון בכיוון ההפוך. נניח שהייתי אומר לכם שאם המחשב היה נבון, היינו מצפים שהוא יצליח לנהל איתנו שיחה אינטלגנטית כמו עם אדם אחר, נכון? היינו מצפים שהוא יבין את השאלות שלנו, ידע לענות להם, ידע לשאול שאלות בעצמו ולעכל את התשובות שלנו וכן הלאה. כלומר, רובנו היינו מצפים שאם ישנה יישות נבונה, אנחנו אמורים להיות מסוגלים לתקשר איתה. אמנם, גם כאן יש מקום להסתייג. לחלק מהחיות יש בינה כלשהי, שמאפשרת להן ללמוד על הסביבה שלהן וכן הלאה, וזאת אפילו שהן לא יודעות לתקשר איתנו דרך צ'טים. עוד הסתייגות יכולה להיות מהכיוון ההפוך - מי אמר שחייזרים מכוכב אחר שהינם סופר-נבונים, הרבה יותר נבונים מאיתנו, יוכלו לתקשר איתנו ולנצח במבחן טיורינג? הרי אנחנו סופר חכמים, ולא מצליחים לדבר בשפת החיות שיש להן בינה פחותה יותר משלנו. אז - אלו שאלות טובות, והן מחדדות את מה שטיורינג מתכוון אליו כנראה: לא סתם להגיע לבינה, אלא לבינה אנושית, וכזו שאנחנו גם חשים שהינה אוניברסלית מספיק שגם חייזרים תבוניים יהיו מסוגלים לתקשר איתנו דרכה. בכל אופן, ההצעה המהפכנית של טיורינג היתה דווקא בכיוון ההפוך: לומר שכל יישות שמסוגלת לתקשר כמו בן אדם, היישות הזו תיחשב תבונית, בעלת תבונה. וזה כולל בראש ובראשונה מחשבים מתוחכמים מספיק. אז מה דעתכם, קודם כל? אם GPT, ג'פטו שלנו, היה מצליח לעבוד עליכם מספיק פעמים, האם הייתם אומרים שהוא יצור תבוני? אני לא יודע מה איתכם, אבל אם תשאלו את בלייק לה-מויין, מהנדס תוכנה שפוטר מגוגל ב-2022, הוא יגיד לכם שהוא משוכנע שהתשובה היא חיובית. בלייק קיבל מגוגל גישה ב-2022 למערכת בשם LAMDA - אתם יכולים לחשוב עליה כסוג של GPT פנימי של גוגל, עם כל מני תוספות. התפקיד שלו היה לבחון את ההתנהגות של המערכת הזו בכל מני צורות, מה שהוביל אותו לנהל איתה שיחות רבות. לאחר תקופה ממושכת כזו הוא החל לחוש ש-LAMDA היא יצור תבוני ואף מעבר לכך - ליצור בעל תודעה, conciousness. הוא החל לדרוש מהנהלת ג… This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com