---
title: נשיא מיקרוסופט נדלה דורש אמצעי בטיחות מחמירים למודלים של בינה מלאכותית
url: https://www.dataloco.com/he/story-74
published: 2026-10-14T12:59:27+00:00
language: he
section: בינה מלאכותית
source: https://www.bright.nl/nieuws/2145438/microsoft-topman-nadella-wil-ook-noodrem-voor-ai-modellen.html
organizations: Microsoft, OpenAI
publisher: Dataloco
---

# נשיא מיקרוסופט נדלה דורש אמצעי בטיחות מחמירים למודלים של בינה מלאכותית

נשיא מיקרוסופט סאטיה נדלה דורש שינויים משמעותיים בעולם הבינה המלאכותית. הוא מציע אמצעי בטיחות מחמירים, כולל אפשרות לנתק בוטים של בינה מלאכותית בכל רגע.

נדלה ציין בהודעה שלו ב-X כי יש צורך באמצעי בטיחות מחמירים עבור מערכות בינה מלאכותית שהופכות יותר ויותר עצמאיות. הוא הדגיש כי חברות צריכות לבדוק מחדש כיצד הן מבטיחות את מהימנות הבינה המלאכותית.

"עלינו לבנות מערכות שנוכל לבודד, שנוכל לצפות בהתנהגותן, לבדוק את הגבולות שלהן ולנהל את הפעולות שלהן תמיד", כתב נדלה.

הוא מציע להפריד את מודל הבינה המלאכותית מהתוכנה שקובעת כיצד המודל מבצע את המשימות שלו, כך שבתחילה תתבצע בדיקת בטיחות. בנוסף, יש לקבוע אמצעי בטיחות מחוץ למודל עצמו. כך יוכלו מפתחים לשמור על יותר שליטה על מה שהמערכת עושה, גם כאשר המודל מציג התנהגות בלתי צפויה.

כל פעולה משמעותית של מודל צריכה להיות מתועדת ביומן קריא לבני אדם, שלא ניתן לשנות מאחור. כמו כן, עובד מוסמך צריך להיות מסוגל להפסיק או להשבית מודל במהלך משימה.

הדרישה מגיעה בזמן שבו חברות בינה מלאכותית מדווחות על בעיות גוברות בשליטה על המודלים שלהן. במיוחד סוכני בינה מלאכותית, שמסוגלים לבצע מספר צעדים באופן עצמאי כדי להשלים משימות, מייצרים סיכוני בטיחות חדשים.

## This story in other languages

- [Deutsch](https://www.dataloco.com/de/microsoft-topman-fordert-sicherheitsmassnahmen-fur-ai-modelle)
- [Türkçe](https://www.dataloco.com/tr/microsoft-baskani-nadella-ai-modelleri-icin-durdurma-secenegi-istiyor)