- הנדסת רתמת סוכן מתגלה כבעלת השפעה רבה יותר מכיוונון עדין של משקולות מודל.
- Gemini של Google Cloud ו-LangSmith חיוניים להגדלה והערכה של סוכני AI בסביבת ייצור.
- העתיד כולל 'מטא-רתמות' שבהן סוכנים יכולים לכתוב מחדש את הקוד של עצמם באופן אוטומטי.
במהלך מפגש חושפני, הריסון צ'ייס, מנכ"ל ומייסד שותף של LangChain, הדגיש שינוי פרדיגמה בפיתוח סוכני AI: שכבת 'רתמת הסוכן' היא המקום שבו מושגים רווחי הביצועים המשמעותיים ביותר, ולעיתים קרובות עולים על ההשפעה של משקולות המודל.
צ'ייס הדגיש כי בעוד שמשקולות מודל זוכות לתשומת לב רבה, ה'אלפא' האמיתית בביצועי סוכני AI טמונה ברתמת הסוכן – הפיגום שמחבר מודל שפה גדול (LLM) לסביבתו, לכליו, ומתזמר את פעולותיו. הוא ציטט דוגמה משכנעת שבה כיוונון רתמת Deep Agents בקוד פתוח שיפר את הביצועים במדד קידוד ממקום 30 למקום 5, ללא כל שינוי במודלים הבסיסיים. גמישות וזריזות זו בשכבת הרתמה, כולל מושגים חדשניים כמו מערכות קבצים וירטואליות, מציעות למפתחים שליטה חסרת תקדים.
המסע מסוכן אב-טיפוס למערכת מוכנה לייצור הוא ארוך ומורכב. כאן הסינרגיה בין פרימוורקים בקוד פתוח כמו LangChain ו-LangGraph, לבין תשתית מנוהלת כמו פלטפורמת Gemini Enterprise Agent של Google Cloud עם מנוע ההיגיון שלה, הופכת לבעלת ערך רב. צ'ייס הסביר שסביבות ריצה מנוהלות מתמודדות עם אתגרים קריטיים כמו הגדלת אלפי סוכנים מקבילים, ניהול יישומים עתירי מצב הפועלים לאורך זמן, והבטחת עמידות, מה שמאפשר למפתחים להתמקד בלוגיקת הסוכן המרכזית במקום בתשתית.
יכולת תצפית והערכה אינן ניתנות למיקוח בכל הנוגע לשיפור סוכנים. LangSmith, הפלטפורמה הייעודית של LangChain, מספקת את התשתית לקליטה, שאילתה והפקת תובנות מעקבות סוכנים. צ'ייס פירט כיצד 'הערכות מקוונות' ו'שגיאות מוסקות' – שבהן מודל כמו Gemini Flash יכול לזהות טעויות ממשוב משתמשים עקיף כמו "לא, עשית את זה לא נכון" – מחוללות מהפכה בניפוי באגים. יתרה מכך, היכולת ליצור מעריכים מותאמים אישית וספציפיים לתחום חיונית להתאמת ביצועי הסוכן לצרכי יישום ייחודיים, מה שמבטיח אמינות במגוון מקרי שימוש.
במבט קדימה, צ'ייס הציג את הרעיון של 'מטא-רתמות', שבהן סוכנים מנתחים את יומני הרישום ותוצאות ההערכה שלהם כדי להציע ואף ליישם שינויים בקוד, ובכך לאוטומט את לולאת השיפור של מהנדס ה-AI. חזון זה, הנתמך על ידי כלים כמו Gemini Code Assist, מצביע על עתיד שבו סוכנים יכולים לבצע אופטימיזציה עצמית. מרכזי להתפתחות זו הוא 'זיכרון', שצ'ייס תיאר כגשר המחבר רתמות סוכן עם יכולת תצפית והערכות, ומאפשר לסוכנים ללמוד ולהשתפר מחוויות העבר לאורך זמן. גלגל תנופה זה של שיפור מתמיד עתיד להגדיר מחדש את ה-SDLC עבור יישומי AI.
“אתה לא באמת יכול לשפר משהו אם אתה לא יודע מה קרה, ושם נכנסת יכולת התצפית. ואז, כשאתה כן משפר, מודלי ה-LLM האלה נהדרים, אבל הם ממש לא יציבים.”
- Harrison Chase, CEO & Co-founder of LangChain
