מהי מעטפת הפעלה לסוכן AI (Agent Harness)?
מעטפת הפעלה לסוכן היא המערכת שמריצה תהליך מבוסס מודל: היא מטפלת בכלים, במצב, במגבלות ביצוע, במשוב ובהתאוששות. המודל הוא רק חלק מהסוכן. תכנון המעטפת משפיע על המשימות שאפשר לבצע ועל האופן שבו הצלחה או כשל נעשים גלויים.
מה אומר המקור?
העבודה של Anthropic על תכנון מעטפות עוסקת בפיתוח יישומים ארוך טווח ובהערכתו. היא מדגימה שינוי של מערכת הביצוע סביב המודל, במקום הסתמכות על ניסוח הפרומפט בלבד.
איך מיישמים את זה?
שרטטו לולאה אחת: קלט, החלטה, קריאה לכלי, תוצאה, בדיקה ותנאי עצירה. דמו חריגה מזמן ההמתנה לכלי, ריצה שנקטעה ופלט שגוי. הגדירו איזה מצב נשמר בכל אירוע ומה הריצה הבאה חייבת לדעת. הגדירו את כפתור העצירה ואת האחראי להתאוששות באופן קונקרטי, בדיוק כמו את מסלול ההצלחה. בקשו מעמית להסביר את מסלול ההתאוששות בעזרת התרשים בלבד, ותקנו כל שלב שתלוי בידע סמוי.
למה כדאי לשים לב?
לולאה שממשיכה לנסות אינה בהכרח מתקדמת. הגבילו ניסיונות חוזרים, עלות כוללת ואת הפעולות שמותר לבצע לאחר כשל חוזר.