Fireworks: שכבת ה-AI ששווה 17 מיליארד דולר בלי שיווק ומכירות

מה קורה כשחברת AI שווה 17.5 מיליארד דולר, בלי שיש לה מודל משלה, בלי צ׳יפ ובלי שהיה לה איש מכירות אחד עד שהגיעה ל-10,000 לקוחות? בפרק הרביעי של "מג׳נרטים", ערן בילסקי ועידו גריידי מפרקים לגורמים את הדנא של חברת פיירוורקס (Fireworks AI) – שכבת הביניים שמריצה את מודלי ה-AI שכולם משתמשים בהם, לפעמים בלי לדעת.   בפרק ננתח את ארכיטקטורת המוצר, נפרק את מנוע הצמיחה של החברה במודל PLG שהביא 10,000 לקוחות בלי מכירות, כשהלקוח הגדול ביותר שלהם, Cursor, מייצג כמחצית מהכנסות החברה. ובסוף נצלול לתזה שמחזיקה את הכל ביחד: בשנים הקרובות, לכל ארגון יהיה מודל AI ייעודי שמבוסס על הידע הארגוני. Fireworks היא זו שתנתב את המודל הזה לאיפה שהכי טוב, הכי מהיר, והכי זול. ------ (00:00:00) פתיחה: חברת AI ששווה 17.5 מיליארד דולר, בלי מודל, בלי צ׳יפ. אז מה היא כן עושה? (00:02:15) הפירמידה: בין NVIDIA לבין GPT-4. איפה יושבת Fireworks ולמה זה בדיוק הצוואר בקבוק (00:04:43) תזת 2030: כשלכל ארגון יהיה מודל AI ייעודי, מי מנתב אותו ולאן? (00:07:44) Fire Attention: הקרנל שפיירוורקס בנו שעולה על האופטימיזציה של NVIDIA עצמה (00:12:29) השף והסו-שף: Speculative Decoding חותך את הלייטנסי בחצי ו-LoRA Adapters שמים מאות מודלים אישיים על שרת אחד (00:16:42) הסיכון הקיומי: אם קוד פתוח ינצח, Fireworks בבעיה. אם OpenAI ינצח, גם... (00:19:54) Cursor כחצי מהכנסות: ה-PLG שהגיע ל-10,000 לקוחות לפני שהיה בחברה איש מכירות אחד (00:29:37) מיקרוסופט וה-CapEx: האם פיירוורקס תישאר שכבת תוכנה או שתרד לברזלים? (00:37:26) מפת התחרות: Together, Replicate, vLLM. איפה פיירוורקס מנצחת ואיפה היא חשופה? (00:41:51) לין צ'או הקימה $17.5B בגיל 48: מה זה אומר ליזמים מנוסים + הימורי ה-2030