Reef TRHהיומן גולל זמן־מה לפני שקורה משהו מועיל. agent מתכנן קורא את שאלת הלקוח ומפצל אותה לארבע תת-משימות. agent אחזור יוצא לחפש סעיף בחוזה. agent שלישי, מבקר שכל תפקידו לפקפק בשני, קורא את מה שחזר ומתנגד: זו הגרסה הלא נכונה של החוזה. agent האחזור מנסה שוב. רק אז, אחרי שש קריאות מודל, agent הניסוח מפיק את התשובה בת שתי השורות שהלקוח בכלל יראה.
התשובה הזאת הייתה טובה. היא ציטטה את הסעיף הנכון, בטון הנכון, ובן אדם אישר אותה תוך שניות. מערכת ה-multi-agent עבדה. השאלה הקשה יותר, זו שכמעט אף אחד לא שואל לפני שהוא בונה, היא אם בכלל היה צריך שזו תהיה מערכת multi-agent.
"agentic" הוא הרעיון האופנתי ביותר ב-AI כרגע, וגם המיושם בצורה הכי שגויה. תורידו את המילה, ורוב המערכות האלה הן רצף קבוע של צעדים שרץ באותו סדר בכל פעם, לבוש בשפה של אוטונומיה. לדעת מה מהשניים אתם באמת בונים זה כמעט כל המשחק.
מה המילה מסתירה
agent אמיתי מחליט בעצמו מה הצעד הבא שלו. הוא מתכנן, פועל, מסתכל על התוצאה, ומתכנן מחדש כשהתוצאה מפתיעה אותו. pipeline לא עושה שום דבר כזה: הוא מריץ צעד ראשון, אחר כך שני, אחר כך שלישי, זהה בכל בקשה, לא משנה מה חוזר. שניהם יכולים לכלול כמה קריאות מודל. רק אחד מהם מקבל החלטות.
התמליל שלמעלה נראה אוטונומי כי היו בו "agents" עם שמות. אבל תראו מה באמת קרה, לפי הסדר: הוא איחזר, בדק, איחזר שוב, ניסח, אימת. ארבעה מהצעדים האלה רצים באותו סדר בכל פעם. זה תרשים זרימה, לא החלטה.
איפה ה-agents הצדיקו את קיומם
היה בדיוק רגע אחד בריצה שהצדיק את כל המנגנון: המבקר שתפס את הגרסה הלא נכונה של החוזה. קריאת מודל בודדת, מנוסחת היטב ככל שתהיה, הייתה לוקחת את הסעיף הראשון שמצאה וכותבת תשובה שוטפת, בטוחה בעצמה ושגויה בעדינות, והאדם, שרואה תשובה מסודרת, היה מאשר אותה. ה-agent השני היה קיים כדי לא לתת אמון בראשון, וחוסר האמון הזה הוא מה שהציל את התשובה.
זה האות האמיתי. מבנה agentic מצדיק את המורכבות שלו במערכת צרה של תנאים, וכדאי להיות כנים לגבי כמה היא צרה:
- המשימה באמת מסתעפת. הצעד הבא תלוי במה שהקודם מצא, ואי אפשר לצייר את המסלול מראש.
- צעד ביניים שגוי הוא גם יקר וגם ניתן לתפיסה, שווה להוציא עליו קריאה שלמה נוספת רק כדי לפקפק בו.
- העבודה פתוחה (מחקר, חקירה, מיון) ולא טרנספורמציה קבועה מצורה ידועה אחת לאחרת.
איפה pipeline היה מנצח
עכשיו החצי הלא נוח. קחו את אותה ריצה וספרו: רק האחזור החוזר היה החלטה אמיתית. חמש הקריאות האחרות קרו בסדר שהן תמיד קורות בו. pipeline פשוט ודטרמיניסטי (אחזור, אימות הסעיף, ניסוח, בדיקה מול המדיניות) היה מפיק את אותה תשובה בפחות קריאות, בשבריר מה-latency, ועם יתרון עצום אחד: הוא היה עושה את זה באותו אופן בכל פעם.
אוטונומיה לא באה בחינם. אתם משלמים באי-דטרמיניזם. אותו קלט יכול לשוטט למסלול אחר ביום שלישי. אתם משלמים ב-latency, כי כל צעד ממתין לזה שלפניו. אתם משלמים במשטח כשל רחב יותר: יותר agents, יותר prompts, יותר מקומות להישבר. ואתם משלמים בכל פעם שאתם מדבגים, כי התוצר הוא תמליל מפותל ולא stack trace. אתם משלמים על הכול, בין אם המשימה השתמשה בגמישות שקניתם ובין אם לא.
זו אותה מלכודת שממלאת את בית הקברות של ה-POC מכיוון אחר: לפנות לארכיטקטורה שנשמעת הכי מוכשרת במקום לזו שהבעיה באמת צריכה. ומכיוון שכל agent הוא עוד קריאת מודל, הבחירה מגדילה בשקט את העלות התפעולית האמיתית, חמש קריאות במקום אחת, לתמיד.
אז מתי באמת צריך אחד?
תתחילו מה-pipeline המשעמם. ציירו את הצעדים. אם אתם מצליחים לצייר אותם, בנו אותם. תרשים זרימה שאפשר לבדוק, לשמור במטמון ולהבין עדיף על agent שצריך לחקור. במקום שבו צעד ביניים יכול להיות שגוי באופן שמשנה, הוסיפו בדיקה יריבה אחת, המבקר שהציל את התשובה למעלה. שמרו אוטונומיה agentic אמיתית לקטע האחרון של הדרך: המשימות שבהן המסלול באמת לא ניתן לידיעה עד שהמודל עומד באמצע שלהן. ההחלטה הזאת (pipeline, pipeline עם בדיקה, או agent אמיתי) היא בדיוק מה שאבחון מוכנות ל-AI קצר אמור להכריע לפני ששורת orchestration אחת נכתבת.
שאלות נפוצות
מה ההבדל בין agent של AI לבין pipeline? pipeline מריץ צעדים קבועים באותו סדר בכל פעם; agent מחליט בעצמו מה הצעד הבא לפי מה שהוא רואה, ויכול לתכנן מחדש. רוב המערכות ה"agentic" הן pipelines עם עוד latency.
האם אני צריך מערכת multi-agent? בדרך כלל לא בהתחלה. אם אתם יכולים לצייר את הרצף מראש, pipeline דטרמיניסטי זול יותר, מהיר יותר וקל יותר לתת בו אמון. פנו ל-agents כשהמסלול באמת לא ניתן להגדרה מראש.
מה agentic עולה ש-pipeline לא? אי-דטרמיניזם, latency, משטח כשל גדול יותר, ודיבוג קשה יותר. שווה כשהמשימה צריכה החלטות בזמן אמת, בזבוז כשלא.
הסיבה הכי טובה לבנות agent היא שהתיישבתם לצייר את תרשים הזרימה וגיליתם שאתם לא מצליחים. המשימה סירבה לעמוד במקום. הסיבה הכי גרועה היא ש-agents זה מה שכולם בונים ברבעון הזה. לרוב הצוותים יש את הסיבה השנייה, והם שכנעו את עצמם בשקט שזו הראשונה.