Reef TRHשורות הלוג ממשיכות לרוץ, ורק אחרי כמה שניות קורה משהו מועיל: agent תכנון קורא את שאלת הלקוח ומפצל אותה לארבע תת-משימות. agent אחזור יוצא לחפש סעיף בחוזה. agent שלישי, מבקר שכל תפקידו לפקפק בשני, קורא את המידע שחזר ומתנגד: זו הגרסה הלא נכונה של החוזה. agent האחזור מנסה שוב. רק אז, אחרי שש קריאות מודל, agent הניסוח מייצר את התשובה בת שתי השורות שהלקוח באמת יראה.
זו הייתה תשובה מצוינת. היא ציטטה את הסעיף הנכון, בטון המדויק, ואושרה על ידי גורם אנושי תוך שניות. מערכת ה-multi-agent עבדה. אבל השאלה המורכבת יותר, שכמעט אף אחד לא עוצר לשאול לפני שמתחילים לפתח, היא האם בכלל היה צורך במערכת multi-agent מלכתחילה.
"agentic" הוא הטרנד החם ביותר ב-AI כרגע, וגם זה שמיושם בצורה השגויה ביותר. אם נקלף את הבאזז, נגלה שרוב המערכות האלה הן פשוט רצף קבוע של צעדים שרץ באותו סדר בדיוק בכל פעם, עטוף במילים גבוהות על אוטונומיה. להבין מה מהשניים אתם באמת מפתחים, זה כל הסיפור.
מה מסתתר מאחורי הבאזז?
agent אמיתי מחליט בעצמו מה הצעד הבא שלו. הוא מתכנן, פועל, בוחן את התוצאות, ומחשב מסלול מחדש כשהן מפתיעות אותו. פייפליין, לעומת זאת, לא עושה שום דבר כזה: הוא מריץ את הצעד הראשון, אז את השני ואז את השלישי, בתהליך זהה לחלוטין בכל פנייה וללא קשר לתוצאות הביניים. שניהם יכולים לכלול מספר קריאות מודל, אך רק אחד מהם באמת מקבל החלטות.
הלוג שלמעלה נראה אוטונומי רק בגלל שהיו מעורבים בו agents בעלי שמות ותפקידים. אבל בפועל, זה מה שקרה לפי הסדר: אחזור, בדיקה, אחזור נוסף, ניסוח ואימות. ארבעה מהצעדים האלה רצים באותו סדר בדיוק בכל פעם. זהו תרשים זרימה, לא קבלת החלטות.
באילו מקרים ה-agents באמת מצדיקים את קיומם?
בכל הריצה הזו היה בדיוק רגע אחד שהצדיק את המנגנון כולו: שלב הביקורת שזיהה את הגרסה השגויה של החוזה. קריאת מודל בודדת, מוצלחת ככל שתהיה, הייתה פשוט שולפת את הסעיף הראשון שהיא מוצאת ומנסחת תשובה רהוטה, בטוחה בעצמה אך שגויה מיסודה. המשתמש, שהיה מקבל תשובה מנוסחת היטב, היה מאשר אותה בלי לחשוב פעמיים. ה-agent השני היה שם פשוט כדי לא לסמוך על הראשון, וחוסר האמון הזה הוא בדיוק מה שהציל את התשובה.
זהו המבחן האמיתי. ארכיטקטורת agentic מצדיקה את המורכבות שלה רק במקרים ספציפיים מאוד, וכדאי להיות כנים לגבי מידת הנדירות שלהם:
- המשימה כוללת הסתעפויות אמיתיות. כל שלב תלוי לחלוטין בתוצאות השלב הקודם, ולא ניתן לשרטט את המסלול מראש.
- טעות בשלב ביניים היא קריטית אך ניתנת לזיהוי, מה שמצדיק קריאת מודל ייעודית נוספת רק כדי לאמת ולבקר את התוצאה.
- אופי העבודה הוא חקרני ופתוח (כמו מחקר, חקירה או מיון), ולא מעבר קבוע ומובנה מפורמט ידוע אחד לאחר.
באילו מקרים פייפליין פשוט היה מנצח?
ועכשיו לחלק הפחות נוח. אם ננתח את אותה ריצה, נראה שרק האחזור החוזר היה החלטה אמיתית בזמן אמת. חמש הקריאות האחרות התבצעו בסדר קבוע מראש. פייפליין פשוט ודטרמיניסטי (אחזור, אימות הסעיף, ניסוח, ובדיקה מול המדיניות) היה מייצר את אותה תשובה בדיוק בפחות קריאות מודל, בחלקיק מה-latency, ועם יתרון עצום אחד: הוא היה עושה את זה באותו אופן בכל פעם.
לאוטונומיה יש תג מחיר גבוה. אתם משלמים באי-דטרמיניזם, שבו אותו קלט בדיוק עלול להוביל למסלול שונה לחלוטין בהרצה הבאה. אתם משלמים ב-latency, כי כל שלב ממתין לזה שלפניו. אתם משלמים במרחב כשל גדול יותר: יותר agents, יותר prompts, ויותר נקודות תורפה שעלולות להישבר. ואתם משלמים בכל פעם שאתם מנסים לדבג, כי התוצר הוא לוג מפותל ומסורבל במקום stack trace ברור. אתם משלמים על המורכבות הזו תמיד, בין אם המערכת השתמשה בגמישות שקניתם ובין אם לא.
זו בדיוק אותה מלכודת שממלאת את בית הקברות של ה-POC מכיוון קצת אחר: הבחירה בארכיטקטורה שנשמעת הכי מרשימה ומתקדמת, במקום בזו שבאמת מתאימה לפתרון הבעיה. ומכיוון שכל agent דורש קריאת מודל נוספת, הבחירה הזו מנפחת בשקט את העלות התפעולית האמיתית, עם חמש קריאות מודל במקום אחת, לנצח.
אז מתי באמת צריך את זה?
התחילו מהפייפליין הפשוט והבנאלי. שרטטו את השלבים, ואם אתם מסוגלים לשרטט אותם, פשוט תפתחו אותם. תרשים זרימה שניתן לבדוק, לשמור במטמון ולהבין בקלות, עדיף בהרבה על agent מורכב שדורש חקירה מעמיקה בכל פעם מחדש. בנקודות שבהן טעות בשלב ביניים עלולה להיות קריטית, הוסיפו בדיקת אימות אחת, כמו אותו מבקר שהציל את התשובה בדוגמה למעלה. שמרו את האוטונומיה ה-agentic האמיתית לשלב האחרון בהחלט: למשימות שבהן באמת אי אפשר לדעת מראש את המסלול, עד שהמודל כבר נמצא בעיצומו של התהליך. ההחלטה הזו (פייפליין, פייפליין עם בקרת אימות, או agent אמיתי) היא בדיוק מה שאבחון מוכנות ל-AI קצר אמור להכריע, עוד לפני שכותבים שורת קוד אחת של orchestration.
שאלות נפוצות
מה ההבדל בין agent לבין פייפליין? פייפליין מריץ שלבים קבועים מראש באותו הסדר בכל פעם, בעוד ש-agent מחליט בעצמו על הצעד הבא בזמן אמת בהתאם לנתונים, ויכול לחשב מסלול מחדש. רוב המערכות שנמכרות כ-agentic הן בפועל פייפליינים עם תוספת latency.
האם אני צריך מערכת multi-agent? ברוב המקרים, ממש לא בהתחלה. אם אתם יכולים לשרטט את תהליך העבודה מראש, פייפליין דטרמיניסטי יהיה זול יותר, מהיר יותר ואמין בהרבה. כדאי לעבור ל-agents רק כשהמסלול באמת אינו ניתן להגדרה מראש.
מהו המחיר של ארכיטקטורת agentic לעומת פייפליין? אי-דטרמיניזם, latency גבוה יותר, מרחב כשל גדול יותר ודיבוג מורכב בהרבה. זה משתלם רק כשהמשימה דורשת קבלת החלטות בזמן אמת, ומבוזבז לחלוטין בכל תרחיש אחר.
הסיבה הטובה ביותר לפתח agent היא שהתיישבתם לשרטט את תרשים הזרימה וגיליתם שזה פשוט בלתי אפשרי, כי התהליך דינמי ומשתנה ללא הרף. הסיבה הגרועה ביותר היא ש-agents זה הטרנד שכולם מפתחים ברבעון הנוכחי. רוב הצוותים פועלים מהסיבה השנייה, בזמן שהם משכנעים את עצמם שזו הראשונה.