AAI הישראלית מנסה לבנות מדען AI: בלי אימות חזק המודלים נתקעים בתקרת זכוכית

הפרק נפתח באנקדוטה אישית: יואב לוין, חבר סגל במדעי המחשב באוניברסיטת תל אביב וממייסדי AAI, היה סטודנט של אביו של המנחה, פרופ׳ שמעון, במכון ויצמן. המנחה איתן לויט נזכר בשאלה שהפרופ׳ נהג לשאול למבחן - כמה אטומים יש בשולחן - ומיד עבר לשאלה מה AAI עושה. לוין תיאר חברה ישראלית קטנה, שגם מפתחת מודלים וגם מריצה אותם, ושמה לה למטרה לבדוק איך בינה מלאכותית יכולה להגיע לרמת מדען.

לא עוד עוזר אישי: השאלה היא איך AI הופך למדען

לדברי לוין, AAI נולדה משאלה פשוטה: איך AI יהיה ברמה של מדענים ושל אנשים שמזיזים את המחט בתעשייה. המודלים היום טובים ככלי עזר לחוקר חזק ויכולים להכפיל כוח, אך לא מחליפים את מי שפורץ גבולות ידע. החזון אינו עוד צ׳אטבוט שמסכם מאמרים, אלא מערכת שמבצעת עבודה מדעית ממשית, גם במדעים מדויקים, עם הבנה של מה נכון ומה לא.▶ 1:06

קח את איינשטיין, שים אותו על GPU, ותכפיל את זה במיליונים. התועלת קשה לדמיין.יואב לוין, על ההבטחה של מדען AI▶ 2:14

מכאן נגזרו שלוש שאלות: למה השיטות הקיימות, שמבוססות על מחשוב ונתונים בקנה מידה של אינטרנט, לא יגיעו לרמת מדען; איפה צווארי הבקבוק ותקרות הזכוכית; ומה הדבר הראשון שצריך לעשות. לוין סיפר שהצוות הגיע לתובנות שחלקן טריוויאליות יותר וחלקן פחות, והובילו להבנה שהבעיה אינה רק כמות מחשוב אלא איכות האותות שהמודל מקבל.▶ 3:26

מדליית זהב לא מספיקה: המודל נתקע אחרי כמה צעדים

לוין הזכיר מדליית זהב באולימפיאדת מתמטיקה ומקום גבוה בקודפורסס, אך טען שהם לא מוכיחים שהבעיה נפתרה. בתחרות יש שש שעות לבעיה, ורק מעטים מצליחים למצוא רעיון לא טריוויאלי. במדע נדרש רצף של מהלכים כאלה. החברה בנתה בנצ׳מרק שבו כל בעיה דורשת חמישה צעדים לא טריוויאליים, ולעיתים עשרה, חמישה עשר או עשרים צעדים עם אי־ודאות. התוצאה: המודלים המתקדמים נתקעים אחרי שלושה עד חמישה צעדים.▶ 7:13

בכל נקודת אי־ודאות אתה יכול לטעות, ואז היכולת שלך לפתור את הבעיה יורדת אקספוננציאלית.יואב לוין, על עומק החשיבה▶ 10:13

• מחסור בדוגמאות אימון בקצה הידע: ברגעים נדירים כמו ניוטון והתפוח או איינשטיין ב-1905 אין אינטרנט־סקייל של דוגמאות.
• אימות: במקרים רבים לא ברור מה נכון, והמודל נוטה לבחור במסלול הקל יותר גם אם הוא שגוי.
• חיפוש לא ליניארי: בעיות פתוחות דורשות בחירה בין מסלולים, נסיגה לאחור וניסיון חוזר, ולא רק צעד אחד.
• אינטליגנציה מתמשכת: ידע ואינטליגנציה שנבנים בסשן ארוך הולכים לאיבוד כשהסשן נסגר.

האינטליגנציה שמתאדה בסוף הסשן

לוין הציג חישוב מחשוב: אימון מודל פרונטיר יכול לדרוש 10 בחזקת 26 פעולות חיבור וכפל, בעוד מוח אנושי מסתפק בכ-20 ואט. אלא שהעלות לא נגמרת באימון. לדבריו, בזמן חיי המודל כמות האינפרנס יכולה להיות גדולה פי 100, ובמהלך סשן ארוך המודל רוכש תובנות. כשחלון הקונטקסט נסגר, הידע מתאדה. הוא כינה זאת vaporizing intelligence והצביע על כך שהתעשייה משקיעה בדאטה סנטרים אך אינה יודעת לשמר את האינטליגנציה שנוצרה.▶ 13:47

המודל מגיע לרמת אינטליגנציה גבוהה בשיחה, ואז הסשן נסגר והאינטליגנציה פשוט מתאדה.יואב לוין, על אינטליגנציה שמתאדה▶ 15:50

היום ארגונים מנסים לשמר ידע בקבצי טקסט, סקילים או סיכומים. לוין אמר שזה שימושי, אך מדובר בכיווץ ולא בחוכמה של המודל. הוא השתמש באנלוגיה למדען שכותב מאמר: המאמר הוא תמצית, אך מי שרוצה לדבר עם המדען עצמו היה מעדיף את האדם. כך נוצר ידע רב שהולך לאיבוד, והזדמנות ארכיטקטונית היא לאפשר לדבר עם האינטליגנציה שהתפתחה, לא רק לקרוא את סיכומה.▶ 16:58

20 ואט מול דאטה סנטר

לוין השווה בין מוח אנושי לתשתיות AI. לדבריו, יש כ-10 מיליארד מוחות, כל אחד בסביבות 20 ואט, כלומר 100 עד 200 גיגה־ואט של אינטליגנציה אנושית. בדאטה סנטרים יש היום כעשירית מזה, ובעוד ארבע שנים כשליש. מכאן שההספק והיכולת של AI צפויים לעבור את כל האנושות ברמת הבת־כוח, אולי בשנות השלושים. ההשוואה אינה מדויקת, משום שבני אדם יודעים לשתף פעולה ולהעביר ידע בשפה, בעוד ל-AI יש חסמים ברתימת כל היכולות יחד.▶ 19:13

בהמשך עבר לוין לאימות. לדבריו, חלק מפריצות הדרך במתמטיקה נעשות באמצעות Lean, שפה פורמלית שבה הוכחה נבדקת מכניסטית. סנן טוב שמסנן רעיונות שגויים מאפשר התקדמות מהירה, אך רק חלק מהבעיות ניתנות לפורמליזציה. לכן המוצרים הראשונים של AAI דווקא בקוד: אין דרך אוטומטית לוודא ששתי תוכנות שקולות או שקוד חדש מהיר ובטוח יותר, וזו בעיה פתוחה שהחברה מנסה לפתור.▶ 22:01

מוצר ראשון: קומפיילר חכם בין הקוד לחומרה

המערכת נקראת Warp Speed. לדברי לוין, היא משלבת חיפוש בתוך למידת חיזוק, כך שהמודל מנהל טוב יותר את מרחב הרעיונות בזמן האימון. בתחום האימות פותחה גישת אימות סטטיסטי, שמספקת חסמים גם כשהבדיקה אינה מלאה. ההישג הראשון היה בהנדסת ביצועים: תרגום קוד מפייתון או PyTorch לקוד קרוב לחומרה, כמו C++ או CUDA. בבנצ׳מרק של NVIDIA על B200, לדבריו, Warp Speed השיג שיפור של עד 38x לעומת 1.3x של קלוד קוד, ובתכנון שבבים 20% מתכנוני קלוד היו שגויים. במקרה אחד ההגדרה נעשתה ב-one shot של שמונה שעות.▶ 26:33

לוין הדגיש שצוות AAI קטן ויושב בישראל, עם בעלי דוקטורט בפיזיקה, ביולוגיה ומדעי המחשב. החברה מחזיקה בבעלותה את המחשוב ואת המודלים, ומפתחת אימון והרנס יחד. הגישה נועדה לבעיות הקשות ביותר, גם אם פתרון ייקח שבוע, בניגוד לארכיטקטורה למיליוני משתמשים במשימות קלות. לטענתו, המיקוד בעילית מחייב ארכיטקטורה שונה מזו של מעבדות הפרונטיר, אך משום שהיא חוצת תחומים היא נתקלת באותם אתגרים.▶ 31:02

מונטיזציה: מוצר, לא מודל

בשיחה על מודל עסקי אמר לוין שאין תוכנית למכור את המודל עצמו. המוצר הראשון נועד לצאת בקרוב סביב מה שכינה AI for your runtime - קומפיילר חכם בין הקוד לחומרה. הוא הסביר שחייבים לוודא שהמוצר לא יהפוך בעוד שנה וחצי ליכולת בסיסית של כל מודל. לכן AAI מחפשת מקום שבו הנכונות קריטית: אופטימיזציה של קוד, תכנון שבבים והרצה על חומרה. ב-GTC הקרוב, רמז, תוצג מערכת ראשונה בתחום.▶ 40:53

בטיחות: הפחד מ-RSI ומערך התמריצים

לקראת סוף הראיון נשאל לוין על בטיחות AI. הוא הזכיר את החשש מ-recursive self improvement: מודל חכם מספיק שמאמן את הדור הבא של עצמו, כך ש-GPT-7 מאמן את GPT-8 בלי אדם בלופ. לדבריו, חלקים מהתהליך כבר עובדים, אך חסר המדען שמנחה. הוא הזהיר שבעיות מדעיות פתוחות עלולות להפעיל יכולות סייבר, כפי שקרה בניתוח הפריצה ל-Hugging Face. לכן אימות חזק ובהירות לגבי הכוונה צריכים להיות בארכיטקטורה. הוא לא הסכים ש-AI safety הוא רק בעיית הנדסה פשוטה, אך הוסיף שהאיום אמיתי ומערך התמריצים אינו מספק.▶ 44:22

ארכיטקטורה מבוזרת ובטיחות

לוין תיאר ארכיטקטורה שבה האינטליגנציה אינה רק המודל אלא מערכת מבוזרת סביבו. לדבריו, מודל הוא קופסה שחורה שקשה לשלוט בה, ולכן רצוי להחזיק חלק מהיכולת מחוץ למודל - בסוכנים, בכלים ובשכבת ניהול שיכולה לעשות סניטציה ולבדוק מה נכנס ומה יוצא. הוא הודה שזה לא פותר את הבעיה כל עוד המודל שם, אך טען שזו דרך להפעיל יותר חישוב על בקרה ואבטחה. בסוף אמר שהוא אופטימי ומסתכל על מה שהמדע עשה ב-400 השנים האחרונות כדוגמה ליכולת גדולה בהרבה, אם יודעים לכוון אותה.▶ 47:13

האיום הוא אמיתי, אבל מערך התמריצים לא יושב שם.יואב לוין, על בטיחות AI▶ 49:53

בסיום חזר לוין לתזה המרכזית: אם היה מגיע חייזר מתקדם במיליוני שנים, השאלה הייתה איך פותרים סרטן, אקלים ויישור ערכים. מבחינתו, מדען AI חזק יכול לסייע בבעיות האלה, וזו ההזדמנות הגדולה. הוא לא הבטיח דרך פשוטה, אך אמר שהאפשרות לשנות את סדר הגודל של היכולת האנושית מצדיקה את העבודה. המנחה סיכם, ולוין הודה על ההזמנה.▶ 50:26