מומחים קוראים למנהלי טכנולוגיה לנהל סוכני בינה מלאכותית כעובדים אך לא להעניק להם זהות אנושית

מנהלי טכנולוגיה רבים החלו להתייחס לסוכני בינה מלאכותית כאל עובדים, קולגות או מתמחים במקום כאל תוכנה, בשל יכולתם לעדכן רשומות, לבצע החזרים כספיים ולפעול במערכות ארגוניות שונות.

מחקר של Harvard Business Review שכלל 1,261 מנהלים מצא כי כאשר בינה מלאכותית נתפסת כעובד ולא ככלי, מנהלים עם ניסיון בעבודה עם סוכנים נטלו פחות אחריות אישית על התוצאות והטילו אחריות רבה יותר על הבינה המלאכותית. בנוסף, הם העלו יותר בעיות וגילו פחות שגיאות. מהמחקר עולה כי 31 אחוזים מהנשאלים ציינו שחברתם כבר רואה בבינה מלאכותית כחבר צוות או עובד, ו-23 אחוזים ציינו כי הסוכנים מופיעים בתרשימי ארגון.

Amy Loomis מ-IDC מדגישה כי יש להבדיל בין גישה לנתונים לבין אחריות, שכן אחריות היא תכונה אנושית ייחודית. היא טוענת כי הגדרת סוכן כקולגה עלולה לעודד בני אדם להסמיך על מערכת שאינה מסוגלת להבין מה נדרש בפועל. לשיטתה, יעיל יותר להגדיר לסוכן תקנון תפעולי הכולל הגדרת פעולות, גישה לנתונים ואחריות אנושית, במקום להעניק לו זהות אנושית.

Raja Iqbal ממסדרי Ejento AI טוען כי המטאפורה של חבר צוות נועדה לסייע למנהלי טכנולוגיה לאמץ עקרונות ניהול מוכרים, כגון פיקוח אנושי, הגבלות הוצאות ונתיבי ביקורת. הוא דוחה שימוש בזהויות אנושיות או שמות עבור סוכנים, שכן הדבר יוצר בעיות אחריות. Iqbal ממליץ על אוטונומיה מדורגת, שבה סוכן מתחיל באישור אנושי לכל פעולה ועולה בשלבים בהתאם לביצועיו.

בחברת DXC Technology, תחת הניהול של Russell Jukes, סוכנים מחולקים לשני סוגים: סוכנים אישיים העובדים עבור עובד בודד, וסוכנים מקצועיים המשרתים תהליכי עבודה רחבים. בחברה נוצרו כ-8,000 סוכנים אישיים לעומת כ-100 סוכנים מקצועיים, כאשר האחרונים נמצאים תחת פיקוח הדוק יותר עם זהות לא אנושית והרשאות מוגדרות. Jukes מדגיש כי בינה מלאכותית אינה תוכנת SaaS קונבנציונלית ודורשת הגדרת נתיבי אחריות ברורים.

Nina Tatsiy מ-Quadient משתמשת במטאפורה של מתמחים כדי להסביר את הצורך בהדרכה ופיקוח הדרגתי. היא נמנעת ממתן שמות אנושיים לסוכנים כדי למנוע אמון מופרז. ביישום אחד של החברה בתחום חשבונות ספקים, סוכן ליווה עובדים ולמד מהם לפני שהחל לתת המלצות, כאשר בני האדם המשיכו לקבל את ההחלטות הסופיות.