Reef TRHלקוח שאל פעם את עוזר התמיכה הווירטואלי החדש והנוצץ של חברה מסוימת אם ניתן להחזיר מוצר לאחר 45 יום. העוזר השיב מיד, בחמימות ובביטחון מוחלט: 'כן, בוודאי, יש לכם 90 יום'. המדיניות בפועל אפשרה 30 יום בלבד. איש לא הזין את המדיניות הזו למודל, וכשלא הייתה לו תשובה, הוא עשה מה שמודלים כאלה עושים ופלט תשובה שנשמעה אמינה לחלוטין.
המצאת עובדות בביטחון עצמי כה גבוה היא הדרך המהירה ביותר לאבד אמון ב-AI, והסיבה לכך היא אחת: העוזר השיב מתוך הזיכרון שלו במקום להתבסס על העובדות של החברה. הפתרון אינו מעבר למודל חכם יותר, אלא הנגשת מקורות המידע שלכם למודל ודרישה חד-משמעית שישיב אך ורק מתוכם.
להשיב על בסיס מקורות המידע, ולא מהזיכרון
מערכת מעוגנת עושה משהו שצ'אטבוט רגיל פשוט אינו עושה. טרם מתן התשובה, היא מאחזרת מתוך המידע שלכם את הקטעים הרלוונטיים ביותר לשאלה, כמו מדיניות ההחזרות, החוזה החתום או רשומת הלקוח, ומעבירה אותם למודל יחד עם השאלה והנחיה ברורה: ענה אך ורק על בסיס המידע המצורף, וציין את המקור לכל טענה. כעת הלקוח מקבל תשובה מדויקת: 30 יום לפי מדיניות ההחזרות, בצירוף קישור ישיר לסעיף הרלוונטי. הציטוט אינו קישוט, הוא מאפשר למשתמש לאמת את התשובה תוך שניות במקום להסתמך על אמונה עיוורת.
ללמד את המודל להודות כשאינו יודע
החלק השני של תהליך העיגון הוא מתן הרשאה למערכת להודות בחוסר ידע. כאשר המקורות המאוחזרים אינם כוללים את התשובה, על המערכת לציין זאת במפורש ולהעביר את הטיפול לנציג אנושי, במקום לנסות לטשטש את הפער באמצעות המצאת תשובות רהוטות. זוהי בדיוק אותה משמעת של רף ביטחון שעומדת מאחורי ההוכחה שה-AI לא טועה עוד לפני ההשקה: מתחת לרף שנקבע, המודל מעדיף לעצור ולא לנחש. עוזר וירטואלי המכיר במגבלות הידע שלו הוא שימושי ובטוח פי כמה מעוזר שמפגין ביטחון עצמי מופרז בכל מצב.
איכות התשובה תלויה לחלוטין במידע שהמערכת מצליחה לקרוא
תהליך העיגון הופך את שאלת הדיוק לבעיה של אחזור מידע. אם המסמך הרלוונטי חסר, מתויג באופן שגוי או מפוזר בין שלוש מערכות שונות, למודל לא יהיה בסיס נתונים לעגן עליו את תשובתו, ואתם תחזרו לשלב הניחושים. לכן, פרויקט AI רציני המבוסס על עיגון מתחיל לרוב דווקא בעבודה הסיזיפית והפחות זוהרת: ניקוי וארגון של מקורות המידע, והגדרת הרשאות גישה מדויקות, כדי שהעוזר הווירטואלי יאחזר אך ורק מידע שהמשתמש מורשה להיחשף אליו. עוזר וירטואלי של חברת ביטוח אחת המשיך להמציא תשובות עד שבוצעה בדיוק העבודה הזו, והשדרוג ששיפר את הדיוק הוא זה שהפך אותו לבטוח מספיק כדי להעמיד אותו מול העובדים.
ההבדל בין צ'אטבוט שמציג דמו מרשים לבין מערכת בשלה שאפשר להציב מול לקוחות או רגולטורים אינו טמון ברהיטות שלו, אלא בשאלת המקור: מאיפה הגיעה התשובה. אחזור מידע ממקור אמין, ציטוט מדויק שלו ומתן אפשרות למערכת להודות בפערים שאינה יכולה להשלים הם המפתח. ביטחון עצמי מופרז הוא משהו שמודלים מספקים בקלות ובחינם. לעומת זאת, מתן תשובה מדויקת לצד היכולת להציג את המקורות שעליהם היא נשענת, זהו הערך האמיתי ששווה לפתח.
שאלות נפוצות
מה זה אומר לעגן את תשובות ה-AI?
המשמעות היא שהמערכת מאחזרת את הקטעים הרלוונטיים מתוך המסמכים הארגוניים שלכם, ומנחה את המודל להשיב אך ורק על בסיסם תוך ציטוט המקור המדויק, במקום להסתמך על הזיכרון הכללי שלו. כך ניתן להתחקות אחר כל תשובה עד למסמך המקור שממנו נלקחה.
האם עיגון ימנע מה-AI להמציא עובדות?
תהליך העיגון מצמצם באופן דרמטי את תופעת הזיות המידע (המצאת עובדות), במיוחד בשילוב עם רף ביטחון המנחה את המערכת להודות בחוסר ידע ולהעביר את הטיפול לנציג אנושי כאשר המקורות המאוחזרים אינם מספקים מענה, במקום להמציא תשובה רהוטה אך שגויה.
האם חייבים דאטה מושלם כדי להתחיל?
לא, אך איכות התשובה תהיה תמיד תלויה באיכות המידע שהמערכת מצליחה לאחזר. ניקוי, ארגון והגדרת גבולות למקורות המידע המרכזיים הם חלק בלתי נפרד מתהליך הפיתוח, ולא תנאי סף שחייבים להשלים מראש.