מהי הנדסת הקשר לסוכני AI?
הנדסת הקשר היא בחירה וארגון של המידע שמערכת AI מקבלת לצורך משימה. היא כוללת הוראות, ראיות שנשלפו, תיאורי כלים ומצב רלוונטי של המערכת. המטרה היא הקשר שימושי במסגרת המגבלות, ולא הפרומפט או מאגר הזיכרון הגדולים ביותר.
מה אומר המקור?
Anthropic מתארת הנדסת הקשר כהתפתחות של הנדסת פרומפטים, ודנה בבחירת מידע, בצמצומו ובאסטרטגיות זיכרון. אלה שיטות מימוש; יש לבדוק את ערכן מול תהליך העבודה שצריך לתמוך בו.
איך מיישמים את זה?
בחרו תשובה שנכשלה ובדקו איזה מידע היה זמין בנקודת ההחלטה. סמנו מה היה חסר, לא רלוונטי, סותר או מיושן. הכינו חבילת הקשר קטנה יותר שמתקנת בעיה אחת. הריצו מחדש את אותה משימה ודוגמה שונה כדי לבדוק אם השינוי מועיל באופן רחב או רק מתאים לכשל המקורי. שמרו את חבילות הראיות לפני ואחרי עם התוצאות, כך שאדם נוסף יוכל לשחזר ולבחון את ההשוואה.
למה כדאי לשים לב?
חלון הקשר ארוך יותר אינו מבטיח תשומת לב לראיות הנכונות. שמרו על זיהוי המקורות ועל בקרות גישה לצד המידע שנשלף.