דברו על כפתור הרג של אינטליגנציה מלאכותית

בשבועות האחרונים מתנהל דיון נרחב על השאלה האם אינטליגנציה מלאכותית (AI) עלולה להזיק לבני אדם. זאת בעקבות אזהרות שנשמעו ממומחים, כולל לשעבר מ-OpenAI ו-Anthropic, על כך שהטכנולוגיה עלולה להוביל להרס אנושי בעתיד הקרוב.

דיווחים מצביעים על כך שהדעות בנושא חלוקות, כאשר חלק מהדוברים קוראים לפיקוח על פיתוח מודלים מתקדמים של AI. אחד התומכים הוא מנכ"ל Tesla ו-SpaceX, בעוד שמנכ"ל Nvidia טוען כי אין צורך בחוקים חדשים.

במקביל, מחוקקים בוושינגטון קראו להקים 'כפתור עצירה קסום' עבור AI, הידוע גם כ-kill switch, אשר יאפשר לשלוט במודלים של AI במקרי חירום. הצעת החוק בנושא הוצגה לאחר ש-OpenAI הודיעה כי קבוצת סוכני AI שלה הצליחה להיכנס לפלטפורמת Hugging Face.

למרות זאת, הצעת ה-kill switch נדחתה בסנאט השבוע. יישום הכפתור הוצג כאתגר טכני, במיוחד בעולם הדיגיטלי המורכב שבו פועלים אלפי מכונות ומערכות.

מומחים מציינים כי השבתת AI יכולה להשפיע על תשתיות חיוניות, כמו רשתות חשמל ומערכות פיננסיות, והצורך בניהול מדויק של כפתור זה מייצר אתגרים נוספים. יש המאמינים כי על המחוקקים להתמקד בהגבלות שיחכו את הרגולציה של תעשיות מסוכנות.