Skip to content
475 Jamba with Hofit from AI21 episode artwork

Aug 13, 2024 37 min

475 Jamba with Hofit from AI21

from רברס עם פלטפורמה

[קישור לקובץ mp3] פרק 475 של רברס עם פלטפורמה, שהוקלט ב-23 ביולי 2024, שיא הקיץ. אורי ורן מארחים את חופית מחברת AI21 Labs, כדי לדבר על מודלי-שפה גדולים עם Context ממש-ממש ארוך (וגם להסביר מה זה). 00:40 חופית ו-AI21(רן) אבל קצת לפני זה - עליך, חופית, ועל החברה. מי את? מה עשית עד היום? מה עושים אצלכם בחברה? (חופית) אז אני חופית, ואני כרגע חוקרת ומפתחת מודלי-שפה בחברת AI21 Labs. נולדתי וגדלתי ברמלה, אם נחזור ממש להתחלה. בגיל 14 כבר התחלתי לתכנת - בבית הספר הכניסו אותנו לזה יחסית מוקדם - והבנתי שזה מה שאני הולכת לעשות כבר אחרי יומיים. אז הגעתי למודיעין, ליחידה צבאית, יחידה מודיעינית - דווקא לא תכנתתי שם, אבל ישר אחרי הצבא התחלתי תואר במדע המחשב באוניברסיטה העברית. מהר מאוד הבנתי שאני רוצה לשלב עם מתמטיקה. התאהבתי במתמטיקה - מתמטיקה תיאורטית, חשוב לציין, כי בתיכון לא כל כך אהבתי . . . אז עשיתי תואר משולב עם מתמטיקה. (רן) אז אם אני אבקש ממך עכשיו את הנוסחא של דטרמיננטה, את לא תדעי לשלוף לי . . . (חופית) ממש לא . . . (רן) . . . אבל תורת החבורות - בכיף . . . (חופית) תורת החבורות - אני מקווה שזה יהיה הדוקטורט שלי יום אחד . . . [ד”ש לגלואה]. (חופית) ולקראת סוף התואר השני התחלתי לעבוד ב-Mobileye, בתור חוקרת - אבל בעולם ה-Vision. בעצם, כל עולם הראייה ממוחשבת וזיהויים, ופיתוח המכונית האוטונומית של Mobileye. וגם החלטתי שאני ממשיכה לתואר שני. בתואר השני, בהתחלה לא הייתי בטוחה מה אני רוצה לעשות - ידעתי שזה יהיה Machine Learning, ידעתי שאני רוצה לשלב גם תיאוריה. זאת אומרת, לא רציתי להתנתק מהתיאוריה. ובעצם התחלתי את את התזה שלי אצל פרופסור אמנון שעשוע. (רן) שמענו עליו . . . (חופית) כן . . (רן) נזכיר - אחד המייסדים של Mobileye, וגם של החברה, של AI21 . . . (חופית) נכון, ועוד כמה חברות כאלה ואחרות. וביום שהגעתי, המעבדה של אמנון עד אז התעסקה יותר ב-Vision, בקוונטים, בדברים כאלה ואחרים. כן בהקשרים כמובן של Machine Learning. וביום שהגעתי, אמנון פשוט החליט שעושים העברה לטרנספורמרים (Transformers) ול-NLP, כי יצאה עכשיו הארכיטקטורה. זה היה ב-2018, כשזה עוד לא התפוצץ - אבל אמנון ראה שזה הולך להתפוצץ. (רן) ימי … להמשך הערות הפרק באתר

Episode details come from the podcast's RSS feed.

Embed this episode

Ready to play

475 Jamba with Hofit from AI21

0:00 37:45

No transcript yet.

Requests help us decide what to transcribe next.

Frequently asked questions

How long is this episode of רברס עם פלטפורמה?

This episode is 37 minutes long.

When was this רברס עם פלטפורמה episode published?

This episode was published on August 13, 2024.

Can I download this רברס עם פלטפורמה episode?

Yes. Use the download control on the episode player to save the publisher-provided media file.