כשאפקט הקוברה מגיע לבינה המלאכותית [2-12]

היום נעסוק בשאלה - מה קורה כשאנו מספקים למערכות ה-AI פונקציית מטרה. האם האופן שבו המחשבים משתמשים בפונקציה דומה לאיך שבני אדם מקדמים את המטרות שלהם? ומה ההשלכות של ההבדלים בין בני האדם לבין המחשבים בהקשר הזה? על הדרך, גם נכיר את חוק גודהארט המצויין.מוזמנים להאזין!אתר הפודקאסט והמייל:https://elishasangles.substack.com/ [email protected] לינקים נוספים מהפרק:רמאות במשחק שח:https://time.com/7259395/ai-chess-cheating-palisade-research/ חוק גודהארט:https://he.wikipedia.org/wiki/%D7%97%D7%95%D7%A7_%D7%92%D7%95%D7%93%D7%94%D7%90%D7%A8%D7%98 אפקט הקוברה:https://economicpoint.com/goodharts-law הביקורת של פרנסואה שולה - AI אינו תבוני, הוא פשוט זוכר המון דברים בעל פה:https://youtu.be/rl7B-LHiaNo איך עוברים את מבחן טיורינג:https://arxiv.org/pdf/2310.20216 הבינה המלאכותית משתפרת בחירטוטים משכנעים במקום בלדייק:https://arxiv.org/abs/2409.12822  This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com