איך באמת מריצים LLM בסקייל עצום? [עושים תוכנה]

from עושים תוכנה Osim Tochna · host רשת עושים היסטוריה

מה הופך בקשה אחת ל-LLM למורכבת כל כך מאחורי הקלעים? איך מאות מיליארדי פרמטרים נדחסים על עשרות GPUs, ואיך כל ה-cluster הזה משרת אלפי משתמשים במקביל בלי להתפוצץ?אירחתי את מייק ארליכסון, אושייה בעולם הAI, ופירקנו את עולם ה-inference מבפנים: KV cache, batching, ההבדל בין prefill ל-decode, חלוקה של מודל בין GPUs שונים, ו-Mixture of Experts. דיברנו גם על למה זה הפך לאחד התחומים הכי קריטיים בעולם ה-AI - וגם איך נכנסים אליו אם אתם מהנדסים שרוצים להתחיל להריץ מודלים בעצמכם.האזנה נעימה, עמית בן דור.

Episode metadata supplied by the publisher feed · Published May 18, 2026

Embed this episode

Attribution link and audio player

NOW PLAYING

איך באמת מריצים LLM בסקייל עצום? [עושים תוכנה]

0:00 41:53

1×

No transcript for this episode yet

We transcribe on demand. Request one and we'll notify you when it's ready — usually under 10 minutes.

Share this episode

Similar Episodes

מה באמת כתוב במגילות מקומראן? (פרופ' יונתן בן-דב) [עושים תנ"ך]

May 18, 2026 ·62m

Similar Podcasts

עושים היסטוריה עם רן לוי Osim Historia With Ran Levi רשת עושים היסטוריה עושים היסטוריה הוא פודקאסט על מדע, טכנולוגיה והיסטוריה.רן לוי - מהנדס וסופר - לוקח את המאזינים למסעות מפתיעים אל מאחורי הקלעים של התגליות, הכישלונות והאנשים שהזיזו את העולם.לעוד פודקאסטים, הרצאות ואירועי לייב בקרו ב״רשת עושים היסטוריה״ והרשמו לניוזלטר. עושים חשבון Osim Heshbon רשת עושים היסטוריה פודקאסט כלכלי שבו פרופ' עומר מואב ושירה הדס נקר לוקחים כותרות, מחקרים ואירועים אקטואליים ומפרקים אותם לגורמים כדי להבין מה באמת מניע את הכלכלה בישראל ובעולם. בכל פרק הם משוחחים עם חוקרים ואנשי מקצוע על יוקר המחיה, שווקים, מדיניות ותקציבים, ומשלבים נתונים, מחקר והיגיון בריא כדי להסביר איך החלטות כלכליות גדולות מתורגמות לחיים של כל אחת ואחד מאיתנו.לעוד פודקאסטים מרתקים בקרו ב״רשת עושים היסטוריה״. עושים עסקים רשת עושים היסטוריה חגי גולן מנתח מדי שבוע יחד עם מיטב המומחים את כל מה שחם בכלכלה בישראל ובעולם משקיע תקרא לאחותך-שיחות על כסף עם האופטימית האופטימית כולנו נשמח שיהיה לנו בחיים עוד זמן פנוי ועוד כסף, השאלה היא איך עושים את זה? אורה אריאל, האופטימית שיצאה לפנסיה מוקדמת בגיל 31 תעזור לך ללמוד איך לגרום לכסף שלך לעבוד בשבילך. כסף, השקעות, שוק ההון, נדל"ן, הכנסה פסיבית ועצמאות כלכלית אלו הדברים שנתמקד בפודקאסט. מדי פרק מראיינת האופטימית נשים מקצועיות מהעולם הפיננסי כדי לתת לך כלים פרקטים והשראה להתחיל את התהליך האישי שלך לעצמאות כלכלית. אז אם מעניין אותך להרוויח יותר ולעבוד פחות זה לגמרי הפודקאסט בשבילך.

Frequently Asked Questions

How long is this episode of עושים תוכנה Osim Tochna?

This episode is 41 minutes long.

When was this עושים תוכנה Osim Tochna episode published?

This episode was published on May 18, 2026.

Can I download this עושים תוכנה Osim Tochna episode?

Yes. Use the download control on the episode player to save the publisher-provided media file.

URL copied to clipboard!