גלעד לוי, מנכ"ל מניפולד בגיל 22, טוען שהאלגוריתם הבסיסי של כל מודלי ה-AI של היום — gradient descent — בנוי לסקייל ולא ללמידה רציפה, וזה מחסום קריטי שמונע ממודלים להתאים את עצמם לאורך זמן. הוא מאמין שבניגוד לחברות הגדולות שממשיכות לדחוף קומפיוט ודאטה, השינוי האמיתי חייב לבוא ברמת ארכיטקטורת הלמידה עצמה. גלו גדל בקריות, למד אנגלית לפני עברית, והחל ללמוד מתמטיקה אקדמית בגיל 8 — חוויה שעיצבה את האינטואיציה הטכנית שמובילה את המחקר של מניפולד.
Key Moments
גלעד לוי
“פאונדר יכול ללמוד לנהל. מנהל נדיר מאוד שיכול ללמוד להיות פאונדר.”
דיון על למה יזמים צעירים יכולים לנהל חברות בניגוד לדעה הרווחת
גלעד לוי הוא מייסד ומנכ"ל מניפולד, חברת AI סטארטאפ שעוסקת במחקר על אלגוריתמי למידה רציפה. הוא התחיל את לימודיו האקדמיים בגיל 15 בטכניון, כשסטודנט חוץ, לאחר שבגיל 12 כבר למד בפתוחה — ללא בגרות ופסיכומטרי. בגיל 18 פתח קורס בטכניון על טרנספורמרים, עוד לפני שהדיקן הבין את חשיבות התחום.
Takeaways
1
קוד ידני מנצח vibe coding בפיתוח ארכיטקטורה גלעד לוי כותב 20% מהקוד שלו ידנית ומדווח שזה הזמן שבו הוא מתקדם הכי מהר. הסיבה: Claude ומודלים דומים מצוינים בשינויים רחבים ופלוטים, אבל בעיות zero-to-one של ארכיטקטורה חדשה — הם כותבים ספגטי. 100 שורות קוד מדויקות עדיפות על 1,000 שורות AI שאתה לא מבין.
2
תורת המספרים כשער כניסה למתמטיקה לילדים אירדוש ידע לקחת ילדים קטנים ישר לתורת המספרים כי כמעט כל משפט ניתן לנסח על לוח עם אפס רקע — ורק ההוכחות דורשות כלים מתקדמים. גלעד השתמש בזה כדי להתחיל ללמוד מאמרים אקדמיים בגיל 8, לפני שידע אלגברה תיכונית. זה מודל שיכול לשנות את אופן הוראת המתמטיקה.
3
פייניוניינג מסוכן — אתה יכול למחוק את כל האימון עדכון מודל על מעט מדי דאטה גורם לשכבה האחרונה להתכנס למודל טריוויאלי שזוכר מילים ולא מבין שפה. התוצאה: reasoning יורד ב-40% ואף אחד לא יודע למה עד שלקוח מתלונן. מרבית החברות היום מנהלות את המודלים שלהן בחושך ללא benchmarking מסודר.
4
אלגוריתם הלמידה הבסיסי שבור לעדכון שוטף כל מודלי ה-AI הנוכחיים בנויים על gradient descent שמותאם לסקייל — לא ללמידה רציפה. ברגע שמודל יצא מהתנור, עדכון אמיתי של הידע שלו (ולא רק פייניוניינג) הוא כמעט בלתי אפשרי מבלי לפגוע בביצועים. זו הסיבה שמניפולד טוענים שצריך שינוי קונספציה ברמת האלגוריתם.
5
Continuous RL הוא הגבול הבא — ועדיין לא קיים Reinforcement learning על מודלים קיים נעשה פעם אחת בסוף האימון ואז המודל 'קפוא'. הבעיה: מה שנחשב לגזענות, רגולציה, או העדפות משתמש — משתנה כל יום. בלי continuous RL, מודלים מתיישנים מהר ואין דרך לעדכן אותם מבלי לשחוק את הביצועים. מניפולד מציבים את זה כבעיה מרכזית שהם מנסים לפתור.
6
יזמים צעירים עדיפים בתחומי AI חדשים — זמנית כשתחום קיים שנים בודדות, אין יתרון לניסיון — יש חיסרון. מי שנכנס בדיוק בזמן שהטכנולוגיה התפתחה לא נושא את ה-bias של 'ככה עשינו דברים לפני 10 שנים'. אבל כשהתחום מתבסס ונוצרות שכבות ידע, הגיל המינימלי הנדרש עולה — ראינו את זה עם גוגל וצוקרברג.