איפה כדאי להשאיר אדם בתהליך של סוכן AI?
מקמו התערבות אנושית במקום שבו אדם יכול לשנות החלטה משמעותית לפני שקשה לבטל אותה. נקודות מתאימות כוללות כוונה לא ברורה, שינוי הרשאות, התחייבות כלפי גורם חיצוני והתאוששות מכשל חוזר. הבדיקה צריכה להציג את הפעולה המוצעת ואת הראיות, ולא לבקש אישור עיוור.
מה אומר המקור?
LangChain מתעדת עצירות הניתנות להגדרה לצורך בדיקה של קריאות סוכן לכלים. זהו דפוס מימוש אחד; המדיניות הנכונה תלויה בהשלכות הפעולה וביכולת הבודק לקבל החלטה מושכלת.
איך מיישמים את זה?
רשמו את הפעולות בתהליך סוכני אחד ומיינו לפי הפיכות ופוטנציאל נזק. בחרו פעולה שדורשת בודק. כתבו איזה מידע יוצג בנקודה הזאת: השינוי המיועד, מקור תומך, השפעה צפויה וחלופות. בדקו מה קורה כשהבודק מסרב, עורך את הפעולה או אינו זמין.
למה כדאי לשים לב?
ריבוי אישורים חסרי ערך עלול להרגיל אנשים לאשר אוטומטית. השאירו צעדים פשוטים והפיכים אוטומטיים כשגבול ההרשאות והטיפול בכשלים ברורים.