[155] Diffusion Language Models - ExplAInable

What this episode covers

הפרק עוסק במודלי דיפוזיה ליצירת טקסט (DLMs), המאומנים לג'נרט טקסט מתוך רעש (ג'יבריש).להבדיל מעולם התמונות שבו רעש הוא טבעי, בעולם השפה ייצוג הרעש מורכב יותר בשל אופייה הדיסקרטי של השפה. קיימות שלוש גישות מרכזיות בתחום: הגישה הרציפה (המרעשת את האמבדינגס), הגישה הדיסקרטית (המחליפה טוקנים בג'יבריש) או ממסכת אותם), וגישת ה-Block Diffusion המשלבת חיזוי אוטוגרסיבי עם דיפוזיה. היתרון המרכזי של מודלי דיפוזיה הוא מהירותם הרבה לעומת מודלים אוטוגרסיביים, שכן הם מסוגלים לחזות בלוקים שלמים של טוקנים במקביל במקום לחזות טוקן אחר טוקן. למרות הפוטנציאל, המודלים הקיימים כיום עדיין מוגבלים מבחינת איכות הטקסט שהם מייצרים, ואין כרגע מודלי דיפוזיה גדולים מאוד מאות מילאירדי פרמטרים שמסוגלים להפגין ביצועי ברי השוואה עם LLMs בגדלים שונים

Share this episode

Similar Episodes

Mythos & Board Readiness: De-Risking AI Adoption (with Diana Wu David)

May 18, 2026 ·28m

Zrobiłem wszystko dobrze. I tak mnie okradli.

May 3, 2026 ·24m

Twój telewizor Cię śledzi. I robi to legalnie.

Apr 26, 2026 ·21m

Twoje dziecko ma inny internet niż ty. I to jest największy problem. feat. Amanda Krać-Batyra

Apr 22, 2026 ·89m

Chcesz zostać hakerem? Przyda ci się butelka.

Apr 19, 2026 ·11m

Bezpieczeństwo znów staje się tajemnicą

Apr 12, 2026 ·17m

Similar Podcasts

Trustworthy AI : De-risk business adoption of AI Pamela Gupta Description: Creating AI Trust is a very complex and hard problem. It is not clear what it is and how it can be operationalized. We will demystify what is Trustworthy AI, efficient adoption and leveraging it for reducing risks in AI programs.McKinsey reports indicates companies seeing the biggest bottom-line returns from AI—those that attribute at least 20 percent of EBIT or profitability to their use of AI—are more likely than others to follow Trustworthy AI best practices, including explainability. Further, organizations that establish digital trust among consumers through responsible practices such as making AI explainable are more likely to see their annual revenue and profitability grow at rates of 10 percent or more. Spatial Web AI Podcast Denise Holt Active Inference AI & the Spatial Web The Future of AI is shared, distributed, and multi-scale.AI that is knowable, explainable, and capable of human governance.Based on the same mechanics as biological intelligence, it operates in a naturally efficient way, with no big data requirement.This is Active Inference AI & the Spatial Web. Explainable AI Podcast The Alliance Explainable AI is a podcast that makes AI technology understandable and accessible, featuring co-hosts with deep expertise in entrepreneurship and technology. Mateusz Chrobok Mateusz Chrobok Jak niebezpieczny jest Internet?Co można zrobić z danymi i dlaczego buzzwordy napędzają branżę IT?Jak przekuć pomysł w startup i spróbować zrobić coś dobrego?Mateusz Chrobok stara się dzielić swoim doświadczeniem w pracy w działach Research & Development na swoim kanale na youtube. Porusza w nim tematykę tworzenia startupów a także podejmowania kluczowych decyzji. Budowania produktów i weryfikacji ich zasadności. Opowiada także o bezpieczeństwie i o tym co robić i jak żyć by być maksymalizować swoje bezpieczeństwo. Oprócz tego jest ciekawy nowych technologii związanych z sztuczną inteligencją takich jak explainable AI, które mogą zmienić adopcję tych technologii w życiu codziennym.

Frequently Asked Questions

How long is this episode of ExplAInable?

This episode is 25 minutes long.

When was this ExplAInable episode published?

This episode was published on May 25, 2026.

What is this episode about?

הפרק עוסק במודלי דיפוזיה ליצירת טקסט (DLMs), המאומנים לג'נרט טקסט מתוך רעש (ג'יבריש).להבדיל מעולם התמונות שבו רעש הוא טבעי, בעולם השפה ייצוג הרעש מורכב יותר בשל אופייה הדיסקרטי של השפה. קיימות שלוש גישות מרכזיות בתחום: הגישה הרציפה (המרעשת את...

Can I download this ExplAInable episode?

Yes, you can download this episode by clicking the download button on the episode player, or subscribe to the podcast in your preferred podcast app for automatic downloads.