הוראות
מה תפקיד הסוכן, איך הוא מדבר ומה אסור לו לעשות.
בניית סוכן AI לעסק מתחילה בהגדרה פשוטה: סוכן AI הוא מערכת שמקבלת מטרה, מפעילה כלים, שומרת הקשר ומבצעת כמה צעדים עד לתוצאה. זה שונה מצ׳אטבוט שעונה רק על שאלה אחת.
מקורות רשמיים: Anthropic: Building effective agents · OpenAI Agents SDK documentation
סוכן יכול לקרוא פנייה, לבדוק נתונים במערכת, ליצור משימה, להכין טיוטת תשובה, לעדכן סטטוס, לחפש במסמכים או להפעיל אינטגרציה. הערך מגיע מהחיבור לתהליך עבודה אמיתי, לא מעצם השיחה עם מודל.
דוגמה נפוצה היא סוכן מיון: הוא מקבל פנייה, מסווג אותה, אוסף מידע רלוונטי ומעביר אותה לסוכן או אדם מתאים. כך אפשר לחבר AI לשירות, מכירות, תפעול או תמיכה פנימית.
מגדירים הוראות, כלים, הרשאות, guardrails, לוגים ומצבים שבהם הסוכן עוצר. פעולה כמו שליחת הודעה, שינוי נתונים, מחיקה או חיוב צריכה בקרה ברורה.
סוכן טוב לא מנסה לעשות הכל. לרוב נכון לבנות סוכנים קטנים וממוקדים שקל לבדוק, לנטר ולשפר.
ממיינים כל פעולה של הסוכן לשלוש קבוצות: פעולות קריאה או פעולות הפיכות, כמו חיפוש או ניסוח טיוטה, רצות לבד. פעולות שאי אפשר להחזיר, כמו שליחת מייל ללקוח, תשלום, שינוי נתונים או מחיקה, עוצרות לאישור של אדם. ופעולות שאסור לסוכן לעשות בכלל לא מחוברות אליו.
האישור צריך לעצור את המערכת עצמה, לא רק לבקש מהמודל לשאול. מי שמאשר רואה בדיוק מה עומד לקרות: למי, כמה, ומה ישתנה. ואם אף אחד לא אישר בזמן, ברירת המחדל היא לא לבצע. הוראות בפרומפט כמו אל תחשוף מידע הן לא בקרת אבטחה; את הגבולות אוכפים בקוד, ברמת הכלים וההרשאות.
איתי קרקסון מגדיר קודם את התהליך העסקי, בוחר משימה אחת שהסוכן צריך לבצע, מחבר כלים ומידע, ואז בודק תרחישים אמיתיים. רק אחרי שהסוכן עובד באופן יציב, מרחיבים אותו לעוד פעולות.
מה תפקיד הסוכן, איך הוא מדבר ומה אסור לו לעשות.
חיפוש, יצירת רשומה, שליחת הודעה, קריאה ל־API או עדכון סטטוס.
אישורים לפני פעולות רגישות, הרשאות ולוגים.
מעבר לאדם או לסוכן אחר כשהמשימה דורשת טיפול מיוחד.
כן, אבל לא בכל פעולה. פעולות רגישות צריכות בקרה, אישור או מעבר לאדם.
כן, אם יש תהליך שחוזר על עצמו מספיק פעמים כדי להצדיק אוטומציה חכמה.
בוחרים תהליך אחד, מגדירים אילו כלים ונתונים הסוכן צריך ומה אסור לו לעשות, בונים גרסה ראשונה עם בקרה אנושית ובודקים אותה על פניות אמיתיות לפני הרחבה.
העמוד נבנה כמדריך קצר על בסיס מחקר NotebookLM ומקורות מקצועיים. המקורות המרכזיים:
אפשר להתחיל ממשימה אחת ברורה ולבדוק אם היא מתאימה לאוטומציה.
השאירו פרטים