מה הבינה מבינה: הכל או שום דבר? [עושים טכנולוגיה]

האם ניתן, האם צריך ללמד את מערכות בינה מלאכותית את מה המשמעות של מה שהן כותבות? על פניו נראה שהן יודעות על מה הן מדברות. אחרי הכל, אני קורא את התשובות של ChatGPT והבוט הזה מתנסח בצורה יפה וכותב משפטים נהדרים. סביר להניח שאם הוא כותב כאלו משפטים הוא מבין את המשפטים, לא? אז זהו, שכנראה שלא. אוקיי, אז מה, האם זה חשוב?מצד אחד יש קבוצה גדולה של חוקרים שטוענים שללא פריצת דרך טכנולוגית המערכות האלו לעולם לא יבינו את המשמעות של מה שהן כותבות מה שאומר שלא נוכל לסמוך עליהן. איך אתה יכול לסמוך על מערכת שמייצרת טקסט שהיא עצמה לא מבינה את המשמעות שלו?אבל בצד השני יש קבוצה אחרת של חוקרים שטוענת שכדי להפיק טקסט טוב, הגיוני ובעל משמעות, כדי לספק שירות מועיל ויעיל, כמו נניח השירות של ChatGPT, המערכות האלו לא צריכות להבין את המשמעות של המלים כמו שאנחנו מבינים אותן ושיכול להיות שהמודלים האלו גילו משהו שאנחנו עוד לא גילינו בנוגע לאיך שפה עובדת, מהי הבנה ואיך נוצרת משמעות.כדי להסביר מדוע הסוגיה הזו כל כך מרתקת, דרמטית וחשובה נשתמש בסינים, בתמנונים וגם בכמה תוכים אקראיים.קישורים:מאמר "תוכים הסתברותיים"https://dl.acm.org/doi/pdf/10.1145/3442188.3445922אתה לא תוכי וצ'אטבוטים אינם אנושייםhttps://nymag.com/intelligencer/article/ai-artificial-intelligence-chatbots-emily-m-bender.htmlעזרא קליין מראיין את גארי מרקוסhttps://www.nytimes.com/2023/01/06/podcasts/transcript-ezra-klein-interviews-gary-marcus.htmlהמקרה המסקרן של אינטליגנציית השכל הישרhttps://www.amacad.org/publication/curious-case-commonsense-intelligenceבינה מלאכותית ומגבלות השפהhttps://www.noemamag.com/ai-and-the-limits-of-language/בינה מלאכותית משתלטת על השפה. האם לסמוך עליה?https://www.nytimes.com/2022/04/15/magazine/ai-language.html?referringSource=articleShareאיך ChatGPT עובדת? הטקסט של סטיבן וולפרםhttps://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/מדוע מודלי השפה הגדולים לא יבינו שפהhttps://jeremyhadfield.com/why-llms-will-not-understand-languageההרצאה של יאן לקון באוניברסיטת NYUhttps://www.youtube.com/watch?v=x10964w00zkקישור לאתר הקריירה של חברת Indoor Robotics : https://www.indoor-robotics.com/careers/