Hidden layers

בפרק הזה, חלק מסדרת CyberML שלקראת הכנס שלנו, אירחתי את נדב ארז מ-Twine לשיחה מרתקת על הצומת בין AI לסייבר. נדב הוא ה-CTO של Twine ואחד המייסדים, ובחברה הם בונים את "אלכס" - עובד דיגיטלי שמקבל KPI ופועל מולו 24/7 בעולמות ה-Identity Management. דברנו על איך בונים עובדים דיגיטליים שאפשר לסמוך עליהם, על מתקפות סייבר עתידיות, על מודלי AI שמתמחים בסייבר ועוד מלא דברים מעניינים. נדב ידבר על כל זה, ועל עוד הרבה מעבר, בכנס CyberML שלנו. לינק לכנס שלנו: https://machinelearning.co.il/lp-events/cyberml/

בפרק הזה היה לי העונג לארח את עומר נבו, CTO ומייסד שותף בחברת Irregular. דיברנו על שני נושאים שמרתקים אותי במיוחד: הערכת היכולות המסוכנות של מודלי AI מתקדמים והמרוץ לבניית הגנות סייבר בעולם של סוכנים אוטונומיים. הזכרנו את שיתופי הפעולה הייחודיים של Irregular עם השחקניות הגדולות בעולם כמו OpenAI, אנטרופיק וגוגל, ועל האופן שבו הם בונים סביבות סימולציה מורכבות כדי להבין איפה המודלים נשברים.  דנו באיום של תקיפות "דיסטילציה" שמטרתן לשכפל מודלים יקרים, וגם על היכולת המדהימה לחזות מראש את מסלול הסיכון של מודל עוד בשלבי הפיתוח שלו. דיברנו גם על הפער שבין אינטרסים עסקיים לבטיחות, ואיך נראה העתיד של הגנת הסייבר בעידן הבינה המלאכותית. כנס CyberML:  https://machinelearning.co.il/lp-events/cyberml/

בפרק הזה היה לי העונג לארח את רוני גולדשמיט מחברת Nexar ודברנו על שני נושאים שמאוד מסקרנים אותי: מודלי AI שאפשר להריץ מקומית וגם על World models  - מודלי AI שבוראים ויוצרים עולמות שלמים עם חוקי פיזיקה מלאים. בפרק דברנו גם על פריצת הדרך החדשה שהשיגה Nexar בתחום ועל משפחת המודלים החדשים שהיא הכריזה עליהם שמבינים את הפיזקליות של העולם בצורה ממש טובה. דברנו על איך מאמנים מודל שכזה, מה היישומים של הטכנולוגיה וגם מה יהיה לנו בעתיד. דף ההשקה: https://badas.nexar.app/ מאמר: https://arxiv.org/abs/2604.05767 בלוג על הנושא: https://www.nexar-ai.com/blog/beyond-the-beep-badas-2-0-and-the-end-of-reactive-collision-warnings

לכתוב קוד באמצעות AI זה קל, לבדוק שהוא באמת טוב זה כבר חתיכת אתגר. בדיוק על זה דברתי עם איתמר פרידמן, המייסד של Qodo - סטארטאפ ישראלי מבטיח שמוודא שהקוד שנכתב על ידי מודלי AI באמת באיכות טובה. בפרק דברנו על מה זה אומר בכלל קוד טוב, למה זה כזה קשה לבדוק איכות של קוד כזה וגם: איך איתמר הגיב ברגע שאנטרופיק השיקה מוצר מתחרה לשלו.

בפרק הזה אירחתי את אנדריי אוסטרובסקי (Andrey Ostrovsky), Staff Machine Learning Engineer ב-Intuit, לשיחה עמוקה על האתגרים בשילוב AI בכתיבת קוד בתאגידים גדולים. הפרק בחסות Intuit. מה שמיוחד בשיחה שהייתה לנו היה שלא דברנו רק על איך המפתח הבודד יכול להשתמש ב-AI, אלא ממש על איך ארגון יכול לכתוב קוד בסקייל באמצעות AI. כלומר, איך בונים מכונה שמייצרת קוד אבל באופן שמשתפר באופן קבוע (אבולוציוני) ומה התהליכים האירגוניים המתאימים לזה. מה שבאמת היה מיוחד בשיח שלנו זה שמדובר על תאגיד גדול. אינטואיט היא ענקית פיננסית ועוסקת בנושאים הכי רגישים של הלקוחות שלה. אין מקום לטעויות. ועם כל זה, הם בנו מתודולוגיה שלמה שמאפשרת להם לאמץ קוד שנכתב עם AI שעומד בכל תנאי האבטחה והאיכות שלהם. אני לא מכיר הרבה ארגונים בגודל הזה שעשו את כל כברת הדרך הזו. כלמי שעובד בארגון שרוצה להכניס קוד בסקייל (לא רק ברמת המפתח) חייב לשמוע את הפרק הזה. אנדריי והצוות עשו עבודה ממש מעולה והרגשתי שיכלתי לדבר איתו עוד שעות על זה.

בפרק הזה דברתי עם צופית וריטה, שתיהן חוקרות מ-Intuit, ודברנו על השילוב של תחום ה-AI והסייבר. הראיון הזה היה המשך להרצאה המעולה שהן העבירו בכנס GenML שבו הן דיברו על איך מודלי AI יכולים להיות מושפעים משינוי קטן בקלט. בפרק הזה הן דיברו איך אפשר לעשות שינוי קטן בתמונה, או במסמך, ולגרום למודלי AI הכי מתקדמים לבצע פעולות אחרות לגמרי. הן גם סיפרו על המחקר שהן עושות ואיך זה בא לידי ביטוי בסוף במוצר הסופי והדרך שבה הן מגינות על הלקוחות של Intuit. זה פרק חשוב לכל מי שבונה מערכות מבוססות מודלי AI ורוצה להכיר את כל האיומים שקיימים כיום.

הפרק היה לי העונג לארח את יובל בלפר, Senior Developer Advocate בחברת AI21 Labs. למי שלא מכיר, חברת AI21 Labs היא החלוצה הישראלית בתחום מודלי השפה ובין החברות היחידות הישראליות שמפתחות מודל בסיס מאפס. הקלטנו את הפרק בנובמבר, קצת לפני הכנס של הקהילה (GenML25) והוא היה הכנה לקראת ההרצאה שלהם בכנס. בשיחה דברנו על המוצרים השונים של החברה, המודלים לאורך השנים, השינויים שקרו בשנים האחרונות, הפלטפורמה החדשה שלהם לסוכנים והכי חשוב: איך זה מרגיש להתחרות בענקיות הטכנולוגיה הבינלאומיות בתחום הכי מדובר בעולם הטכנולוגיה. ואחרון חביב, יש להם גם פודקאסט מאוד מוצלח על AI ויובל הזכיר פרק ספציפי אצלנו בשידור אז הלינק פה: https://www.ai21.com/yaap/rag-is-not-solved/

בפרק הזה אירחתי את עידן בסוק, Chief R&D and AI Officer, בחברת Aidoc העוסקת בתחום פיתוח מודלי AI לעולם המדיקל. דברנו על השלבים הראשונים של החברה, המעבר ממספר מודלים למודל אחד גדול, על מה זה אומר לפתח מודל בסיס בתחום המדיקל ועל ההזדמנויות האדירות שיש בשילוב AI בתחום הרפואה.

בפרק הזה היה לי העונג לארח את נעמי קן כורם, Senior Researcher, בחברת לייטריקס לשיחה מרתקת על מודלי AI בתחום הוידאו. בפרק דברנו על הדרך שלייטריקס עברה בשנים האחרונות ואיך לצד האפליקציות שהם משחררים לצרכנים, הם התחילו גם לשחרר מודלי AI בקוד פתוח ולהנגיש את הטכנלוגיה שלהם. דברנו על איך זה לאמן מודלי בסיס בתחום הוידאו, על היתרונות שלהם לעומת המתחרים וגם על העתיד של התחום. כל מי שרוצה ללמוד עוד על הנושא וגם להתנסות בעצמו, נעמי תעביר סדנא מאוד מעניינת ופרקטית בכנס GenML שלנו בה תוכלו ללמוד איך להתאים מודלי וידאו בדיוק לצרכים שלהם. כל הפרטים כאן: https://machinelearning.co.il/lp-events/genml-2025/

אני שמח לשתף פעולה בפעם השישית עם Nebius Academy (לשעבר YDATA) ולספר לכם על תוכנית ההכשרה שלהם לתחומים ה-AI. בפרק הזה ראיינתי את כרמל, מנהל התוכנית, ואת נועה, חוקרת בתחום ומרצה בתוכנית. בפרק הזה דברנו על הכשרות בתחום ה-AI ועל הקורס של Nebius Academy. שוחחנו על איך הסילבוס התעדכן עם כל ההתפתחויות בתחום, על ההכנה של הבוגרים לשוק העבודה, הפרויקט גמר ועוד הרבה נושאים נוספים. המחזור הבא מתחיל ממש בקרוב והמטרה של הפרק הוא להסביר לכם קצת יותר על התוכנית ולמי היא מתאימה. בינתיים מי שרוצה להירשם יכול להשתמש בקוד ההנחה שלנו ברישום: NebiusDS2025 לינק לפרטים נוספים: https://www.aifordatascience.nebius.com/?utm_medium=prt&utm_campaign=mdli_isr_y-data_25 לינק להרשמה:  https://www.aifordatascience.nebius.com/application?utm_medium=prt&utm_campaign=mdli_isr_y-data_25

בפרק הזה דברתי עם מיכה ואוהד מאורקל ובו דברנו על הפעילות שלהם בתחום הדיפנס.   השיחה הייתה מרתקת במיוחד כי דברנו על איך גורמים ליכולות AI לרוץ באופן חלק בשדה הקרב. החל מ-GPU טקטי ועד לדאטה סנטרים ניידים שיכולים להיפרש בשטח. בפרק דברנו על שלל הפתרונות שיש להם בעולם התוכן הזה וגם על העמידה האיתנה של אורקל העולמית ומהקומית לצד ישראל.   לינק לכנס: https://machinelearning.co.il/lp-events/defenseml-en-25/

I had a great time with Krishna Rangasayee, Founder & CEO of SiMa.ai, diving into AI at the edge, defense-grade requirements, and building products people actually use.   We unpacked why “efficiency per watt” matters more than headline benchmarks, and how to make multimodal workloads (vision, language, sensor fusion) run in real time on low power. Krishna shared a builder’s view of the stack - toolchains, quantization, compilation, and observability - so teams can ship updates without breaking latency budgets.   We also explored defense applications: on-device processing for privacy and resiliency, deterministic behavior, and long hardware lifecycles. If you care about taking AI out of the lab and into the world, this one’s for you. Sima.ai is going to present their work at the DefenseML 2025 conference: https://machinelearning.co.il/lp-events/defenseml-en-25/

בפרק הזה היה לי העונג לארח את טל פיאלקוב שהוא VP AI Cyber בחברת Dream.   את טל אני מכיר שנים רבות והוא עסק לא מעט בשילוב של עולמות הסייבר וה-AI. בפרק הזה דברנו על איך בונים באמצעות AI מוצרי סייבר מדור חדש ואיך אפשר לרתום מודלים מתקדמים כדי להגן על מדינות ממתקפות סייבר.   טל הולך לדבר באירוע DefenseML שלנו בדיוק על הנושאים האלה. לינק לכנס: https://machinelearning.co.il/lp-events/defenseml-en-25/

פרק חדש בפודקאסט והפעם פרק מיוחד על אחזור מידע סמנטי בעברית ועל התחרות של מפא"ת בתחום. בפרק ראיינתי את טל ואמיר ממפא"ת ודיברנו על תחרות הדאטה החדשה שנפתחה ממש בימים האחרונים. התחרות עוסקת באתגר מאוד מיוחד: היכולת לאחזר מידע רלוונטי מטקסטים בעברית. בפרק דברנו על התחום עצמו, על למה זו עדיין בעיה לא פתורה בעברית (וגם באנגלית), על מודלים נפוצים בתחום ועל מי יכול לקחת חלק בתחרות. לינק לתחרות: https://www.codabench.org/competitions/9950/

חגי חוזר אלינו בפעם השנייה והפעם בתפקיד חדש כ-SVP AI Inference בחברת Cerebras Systems. למי שלא מכיר, חברת Cerebras היא בין המתחרות הכי גדולות של Nvidia והיא מפתחת שבבים שמתאימים גם לאימון מודלים וגם להרצה שלהם. הם בנו כמה מחשבי על ברחבי העולם וגם Perplexity ומיסטרל בחרו בחומרה שלהם כדי להריץ את המודלים שלהם.   בשיחה דברנו על ההבדלים בינם לבין המתחרות, איך חומרה יכולה להשפיע קצב ג'ינרוט הטוקנים, על הרצה של מודלים בפרודקשיין וגם על כל תחום ה-Inference. 

הפרק הזה הוא בשיתוף Sima.ai והיה לי העונג לראיין את הארי קרוגר,  Head of Sales and President Automotive בחברה.   לחברת Sima.ai יש באמת סיפור מרתק: הם קמו לפני למעלה מ-5 שנים וגייסו כ270 מיליון דולר כדי לפתח שבבים שמאפשרים למודלי AI לרוץ ביעלות על חומרת קצה.   בשיחה המרתקת עם הארי דברנו על תהליך יצור השבבים (הם הצליחו להפתיע אפילו את TSMC), על מה זה בכלל אומר להריץ מודלים על הקצה ולמה זה כל כך חשוב, על אילו אפשרויות חדשות נפתחות ברגע שיש שבבים חזקים מספיק וכמובן, איך לא, על Inference ועל החשיבות של התחום כולו.

ראיון שקיימתי עם רן טסלר, Director of Solutions Architecture בחברת AWS על כל הפעילות שלהם בתחום ה-AI באופן כללי וספציפית על המאמצים שלהם בעולמות ה-GenAI. דברנו על הדרך שAWS עברה בשנים האחרונות ובאילו מוצרים הם הכניסו את יכולות ה-AI השונות שפותחו באמזון. דברנו גם על פלטפורמת בדרוק שלהם ובכלל על כל הכלים שיש לחברות וארגונים כדי לבנות שירותי GenAI שונים.

קשה להתעלם מהשנה האחרונה של אורקל. החל מכך שחברת OpenAI בחרה בחומרה שלהם להריץ את המודלים שלה ועד לתהליך בניית מחשב העל הגדול ביותר בעולם. בפרק המיוחד הזה עם דני ווינר, Director Cloud Solutions בחברת אורקל, ניסתי להבין לעומק איך אורקל פועלת בתחום ה-AI ומה האסטרטגיה שלה בתחום. דברנו על מה הבידול שלהם בעולם שכולם "מוכרים GPU", על המוצרים שלהם לאנשי דאטה וגם על מה התוכניות שלהם לעתיד. והכי חשוב: הבנתי לעומק שוב את החשיבות של תחום ה-Inference ועד כמה זה יהיה שם המשחק ב-2025.   (הפרק הוקלט לפני כנס GenML)  

ניהלתי שיחה מרתקת עם גיא פייגנבלט מאיביי על העולם המורכב והמפתיע של בינה מלאכותית במסחר אלקטרוני. צללנו לאופן שבו איביי מנצלת בינה מלאכותית גנרטיבית ומודלי שפה גדולים לכל דבר - החל מאוטומציה של תיאורי מוצרים (תארו לעצמכם העלאת תמונה וקבלת מודעה מוכנה!) ועד לבניית עוזר קניות. חקרנו גם את האתגרים הייחודיים ביישום טכנולוגיות אלה בשוק עם מיליארדי פריטים ומיליוני מוכרים, במיוחד בכל הנוגע למגוון האתגרים וההזיות של מודלים. אם מעניין אתכם היישום המעשי של בינה מלאכותית בקנה מידה גדול, הפרק הזה מציע נקודת מבט מעניינת (הפרק הוקלט לפני כנס GenML).

השבוע היה לי הכבוד לארח את גל צ'צ'יק, Sr. Director of AI Research at NVIDIA ופרופסור באוניברסיטת בר-אילן. ניהלנו שיחה מעולה ודיברנו על **NVIDIA כחברת מחקר**. תופתעו לגלות על כל המחקר המרתק שנעשה ב-NVIDIA ואיך הם אפילו משתמשים בלמידת חיזוק (RL) כדי לשפר את ביצועי מרכזי הנתונים שלהם. זהו פרק מצוין לכל מי שרוצה לקבל נקודת מבט ייחודית זו על NVIDIA.

הפרק הזה הוא עם עידו פרחי, Senior Data Scientist בחברת אינטואיט. הפרק עם עידו היה מרתק במיוחד כי הוא היה גם קצת שונה. דברנו לא רק על איך בונים מוצרי GenAI בסקייל עצום, אלא גם איך מאבטחים אותם. דברנו על המחקר שהם עושים בתחום הסייבר של מודלי GenAI ואיך חברות יכולות לבנות אפליקציות בתחום, אבל כאלה שיהיו בטוחות יותר. פרק חובה לכל מי שמתכנן להעלות לפרודקשיין פיתוח בעולמות ה-GenAI. על כל זה ועוד ידבר עידו גם בכנס GenML שלנו בחודש הבא 🙂