עושים תוכנה Osim Tochna

מה הופך בקשה אחת ל-LLM למורכבת כל כך מאחורי הקלעים? איך מאות מיליארדי פרמטרים נדחסים על עשרות GPUs, ואיך כל ה-cluster הזה משרת אלפי משתמשים במקביל בלי להתפוצץ?
אירחתי את מייק ארליכסון, אושייה בעולם הAI, ופירקנו את עולם ה-inference מבפנים: KV cache, batching, ההבדל בין prefill ל-decode, חלוקה של מודל בין GPUs שונים, ו-Mixture of Experts. דיברנו גם על למה זה הפך לאחד התחומים הכי קריטיים בעולם ה-AI - וגם איך נכנסים אליו אם אתם מהנדסים שרוצים להתחיל להריץ מודלים בעצמכם.
האזנה נעימה, עמית בן דור.

מה עושים כשהאייג׳נט שלכם ממציא ללקוח מוצר שלא קיים? בפרק אירחתי את אלמוג בקו לשיחה על השיטות השונות להתמודד עם בעיות באייג׳נט, על Root cause analysis בעידן הAI, איתור שגיאות וEvals. האזנה נעימה, עמית בן דור

כולם מדברים על כמה קל לבנות היום מערכות AI, אבל מה קורה כשמנסים להביא אותן ל-Production אמיתי?
אירחתי באולפן את רן בר זיק, מפתח ב-CyberArk, ששיתף אותנו במסע המורכב (והרועש) של פיתוח מערכת מבוססת מודלי שפה רב-מודאליים (Multimodal LLMs).
דיברנו על האתגרים שאף דמו בלינקדאין לא מראה: מהזיות של המודל ובעיות אבטחה ועד לניהול עלויות (FinOps), מדידת איכות המודל ושימוש ב-Agents לביצוע אופטימיזציה. פרק חובה לכל מי שרוצה להבין את הפער שבין ההייפ למציאות בשטח.
האזנה נעימה, עמית בן דור.

רק חודש לתוך 2026 וכבר ברור שהשנה הזו הולכת לשנות את הכללים.
אירחתי באולפן את אורי אליבייב, מייסד קהילת MDLI ואחד האנשים המעניינים בתחום ה-AI בארץ.
ביחד ניתחנו את השנה שעברה ודיברנו על מה שמחכה לנו: עתיד ה-Agents, מודלי שפה קטנים (SLM), שוק העבודה המשתנה, המרוץ הסיני ב-Open Source, והכיוון שהענקיות לוקחות בעולם ה-GenAI.
האזנה נעימה, עמית בן דור.

מה קורה כשכלי שהתפוצץ בתוך אנתרופיק יוצא לעולם ומשנה את כללי המשחק? עידן בניון - מהאנשים הכי מעניינים בארץ בתחום ה-GenAI - מצטרף לעשות לכם סדר ב-Claude Code. מהמושגים הבסיסיים כמו Skills ו-Hooks, דרך ההגדרות שעושות את ההבדל, ועד לWorkflow האישי שלו דרך טיפים מעולים שכנראה לא הכרתם. האזנה נעימה, עמית בן דור.