LLMOps: הופכים תיעוד ריצות לראיות לשחרור.

תיעוד ריצה צריך לשנות החלטה

הדגמת AI מבטיחה עלולה להסתיר מודל תפעולי שברירי. כשמשתמש מדווח על תשובה שגויה, קריאה חוזרת לכלי או פעולה שלא הושלמה, הצוות זקוק לראיות מספיקות לאיתור הכשל. לוח מלא בתיעודי ריצות הוא רק נקודת פתיחה.

ההנחיות ההנדסיות של LangChain מחברות בין יכולת תצפית בסוכנים להערכה: ריצות מייצור יכולות לחשוף מקרי כשל שכדאי לשחזר מחוץ לייצור. זו מסגרת תפעולית של ספק, לא מבחן ניטרלי. המשמעות המוצרית היא להגדיר מי הופך כשל לבדיקה ומי מחליט אם התיקון מספיק.

הפרידו תוצאה שהמשתמש חווה מתשובה שנשמעת סבירה. האם הפעולה המבוקשת אכן התרחשה, והאם הייתה מורשית? הודעת השלמה בטוחה אינה הצלחה אם המערכת החיצונית נשארה ללא שינוי.

מעריכים את המסלול ואת התוצאה

מדריך ההערכה של Anthropic מ־9 בינואר 2026 מבחין בין המסלול המתועד של ניסיון לבין המצב הסופי בסביבת הביצוע. הוא מתאר שילוב בודקים מבוססי קוד, מודל ואדם, עם התאמה של סוג הבדיקה למשימה.

בעוזר תמיכה היפותטי, בדיקת מצב סופי עשויה לוודא שהחשבון הנכון עודכן. בדיקת מסלול עשויה לזהות קריאה מיותרת לכלי או הפרת הרשאה. מחוון המכויל מול בני אדם יכול לבחון אם ההסבר מועיל ומסויג כראוי.

השאירו את הממדים גלויים. ציון איכות יחיד עלול להסתיר תשובה שוטפת שליוותה פעולה שגויה. השתמשו בבדיקות דטרמיניסטיות לתנאים מדויקים כשאפשר, והגדירו אמות מידה לשיפוט שדורש הקשר. מודל שופט הוא מערכת נוספת שיש להעריך, לא מקור אמת אוטומטי.

בונים אוסף הערכה קטן ומנומק

בחרו מקרי הצלחה מייצגים, כשלים חוזרים ומקרי קצה משמעותיים. הסבירו מדוע כל מקרה נכלל ומהי התנהגות טובה בו. אוסף מקרי של כל מה שתועד קשה לשימוש כרף שחרור.

לפני שימוש חוזר בחומר מייצור, הפעילו את כללי הפרטיות, הגישה ושמירת המידע של הארגון. העדיפו שחזורים מצומצמים או סינתטיים כשהם משמרים את הכשל. אל תעתיקו סודות או שיחות לקוחות ללא הגבלות למאגר בדיקות נגיש לרבים.

תעדו את התצורה הנחוצה לפרשנות התוצאה: גרסאות מודל ופרומפט, גרסאות כלים, הקשר אחזור רלוונטי, גרסת הבודק וסוג המשימה. בסוכנים בעלי מצב תעדו גם את מצב ההתחלה הרלוונטי. בלי ההקשר הזה, שתי ריצות עשויות להיראות בנות השוואה אף שהן בודקות מערכות שונות.

בונים החלטת שחרור, לא טקס ציונים

הריצו את הגרסה המוצעת ואת הנוכחית על אותם מקרי הערכה. השוו איכות תוצאה, הפרות מדיניות, זמן תגובה ועלות לפי סוג משימה. חזרו על מקרים לא ודאיים כשהשונות של המודל עשויה לשנות את המסקנה.

הגדירו אילו כשלים חוסמים שחרור, אילו דורשים חקירה ואילו אפשר לנטר בהשקה מוגבלת. ממוצע טוב יותר אינו מצדיק כשל חמור חדש בתהליך קריטי. שלבו הערכה מחוץ לייצור עם ניטור ייצור מורשה ודרך לחזרה לאחור.

השתמשו בזהירות בעלות למשימה מוצלחת. הגדירו הצלחה קודם, כללו ניסיונות חוזרים והסלמות רלוונטיים ובדקו את המכנה. חיסכון בטוקנים עלול להיות עסקה גרועה אם המשתמשים נאלצים לחזור על העבודה או מקבלים תשובות אמינות פחות.

תרגיל מנטורינג: הופכים תלונה אחת לבדיקת שחרור

הביאו דוגמה ללא פרטים מזהים או דוגמה סינתטית של סוכן שנכשל מול משתמש. בחמש דקות תארו את התוצאה הרצויה ואת הכשל שנצפה בלי להאשים מראש את המודל.

הקדישו חמש דקות לזיהוי ההקשר המינימלי הדרוש לשחזור. רשמו את מצב הכלים, ההרשאות וקלטי הידע הרלוונטיים. החליטו מה צריך להסיר או להחליף לפני הכנסת הדוגמה לאוסף ההערכה.

בחמש הדקות הבאות כתבו בדיקה מדויקת אחת ואמת מידה איכותנית אחת. למשל: השינוי הלא מורשה אסור שיתרחש, והתשובה צריכה להסביר בבירור את הצעד המותר הבא. בקשו מעמית לדרג מדגם קטן באופן עצמאי ודונו באי־הסכמות.

סיימו בבחירת אחראי, תנאי שחוסם שחרור ומועד לבדיקה הבאה. התוצר הוא מקרה בדיקה קצר וכלל החלטה. השתמשו בו לדיון במשמעות של התנהגות אמינה לפני הגדלת התעבורה או שינוי מודלים.

שאלות שכדאי לשאול

מקורות וקריאה נוספת

• Anthropic — Demystifying evals for AI agents (9 January 2026)
• LangChain — How to Debug AI Agents: observability and evaluation

מקורות ראשוניים נבדקו ב־19 באוקטובר 2026. תיאורי ספקים מיוחסים למקורם; מסגרות החשיבה, התרחישים והתרגילים הם ניתוח עריכתי, ולא דיווח על ניסיון אישי או תוצאות ביצועים שאומתו.