[47] מודלי שפה ופלט רצוי
from ExplAInable Hosted by Shimon Moyal, Mike Erlihson, Uri Goren, Hila Paz Herszfang
יצא לנו הרבה לדבר על מודלי שפה גדולים לאחרונה, ועל השימושים שלהם. למעט שימוש בצ׳אטבוט או כעזר לכתיבה, לרוב אנחנו רוצים לקבל את הפלט של המודל בפורמט כלשהו כמו Json / Data Class נדבר על שלושת השלבים ביצירת הפלט, הטוקנייזר, הטרנספורמר, והמפענח. ונסביר איך אפשר להתערב במפענח כדי לאלץ את המודל כדי לקבל תשובות במבנה מסוים, להכריח את מודל לענות ״כן״ או ״לא״, לאלץ את התשובה להיות מספרית, מתוך רשימה סגורה וכדומה. ספריות שימושיות: JSONFormer - https://github.com/1rgs/jsonformer OpenAI Function calls - https://openai.com/blog/function-calling-and-other-api-updates O
Embed this episode
No transcript yet.