פרק #74 | בינה מלאכותית כשופטת עם יאיר כהן

?מה זה מודל שפה גדולמערכת שלומדת מטקסטים רבים מאוד, ומנבאת מילים בצורה סטטיסטיתהיא לא מבינה באמת — אלא חוזה המשךהאתגר בבדיקות:בניגוד לתוכנה רגילהאין תשובה אחת נכונהיש תחום אפורחוויית משתמש קשה למדידה הפתרון: בינה מלאכותית כשופטת:משתמשים במודל אחד כדי לבדוק מודל אחרנותנים קריטריוניםמבקשים דירוגמקבלים ציון ? איך מלמדים את השופט:שתי דרכיםמתן דוגמאות והנחיות ברורותאימון על נתונים ייעודיים בעיה: הטיה אנושית בנתוניםפתרון להטיה:מגדירים עקרונות קבועים (כמו חוקה)לא להפלותלא להמציא מידעלהיות שקוף המודל בודק את עצמו לפי זה ומשתפרבעיית ״המצאות מידע״המודל לפעמים ממציא תשובות שנשמעות נכונות:דרכי התמודדותבקרה אנושיתחיבור למידע אמיתיבדיקה באמצעות מודל נוסףהנחיות מדויקות ?איך מודדים איכותציונים לפי קריטריוניםאחוז הצלחה (למשל 85%)בדיקות אנושיות להשוואה ?מה זה סוכןמערכת שמבצעת משימות לבד:מרכיביםמוח (מודל שפה)הוראותזיכרוןמידע חיצונייכולות פעולהחיבור לעולם האמיתייש תקן שמאפשר חיבור למידע וכלים חיצוניים בצורה מסודרת ואחידה?איך בונים סוכןיש כלים ללא קוד או פיתוח מלא שינוי בעולם הפיתוח:המפתחיםפחות כותבים קודיותר מפקחים ומכוונים מסקנההבינה המלאכותית לא מחליפה אנשים -  היא הופכת אותם למנהלים של מערכות חכמותקישור לפרופיל לינקדאין של יאיר כהןקישור לפרופיל לינקדאין של נתנאל הרושקישור לקבוצת העדכונים של עמותת הבודקים בוואצאפ