# האם נכון לתת ל-AI להשפיע על החלטות אשראי, החלטות רפואיות או החלטות שנוגעות לבטיחות?

תמיר חסון · עדכון 2026-10-07

הגדירו מראש מה מותר למערכת ה-AI לעשות: להציג מידע, להכין טיוטה לבדיקה אנושית או לקבל החלטה בעצמה. לאחר מכן תדרשו הוכחות על בסיס מקרים אמיתיים שלכם, כולל המורכבים ביותר, ותוודאו שיש גורם אנושי שבודק ולוקח אחריות על כל קביעה. הרחיבו את סמכויות המערכת רק כשממצאי הבדיקות וחוות הדעת של המומחים מצדיקים זאת.

## שרטטו גבולות לפני הטמעת הכלי

מפו את ההחלטות שהבינה המלאכותית תקבל בעצמה לעומת מידע שהיא רק תציג. הערה שנציג עורך שונה מרישום בתיק רפואי. המלצה למפעיל שונה לגמרי מהפעלה אוטומטית של פעולה בשטח.

האחראים על הציות, הייעוץ המשפטי, התחום הרפואי ובטיחות התהליכים בארגון מגדירים את גבולות השימוש המותרים בתחום שלכם. השאירו את מנגנוני הבטיחות וההכרעה האנושית ללא שינוי עד לקבלת אישורם. ודאו שיש מעקף ידני שיכול להיכנס לפעולה מיד אם המערכת מושבתת.

## הוכחות על המקרים שלכם

בחנו את המערכת על בסיס ההיסטוריה שלכם, כולל תרחישי קיצון ותקלות עבר. הערכה שמנפה מקרי כישלון בלי סיבה מוצדקת לא שווה הרבה. ספרו השמטות, הזיות ותשובות שגויות בנפרד.

הפכו את הבקרה לאמיתית. אם הצוות מאשר תוצרים בלי לקרוא אותם בלי לקרוא, עצרו את מה שיוצא החוצה ושנו את שלב האישור מיד. הראו לבודק מה המערכת שינתה ועד כמה היא בטוחה בזה. תעדו כל המלצה וכל עריכה.

## תלוי איפה יושבים

אם אתם בדירקטוריון, בקשו קודם כל מיפוי של כל מודל שמשפיע על החלטות, כולל ייעוד, אחראי, אישור ובקרה. התחילו באלה שמקבלים החלטות לגבי לקוחות, מטופלים או עובדים. לאחר מכן קבעו שגרה: אישור לפני שימוש ודיווח תקופתי אליכם.

אם אתם מנהלים את המערכות וספק מספק את המודל, בדקו את הזכויות החוזיות שלכם לקלטים, לפלטים ולגרסאות. אחר כך בקשו מהספק להסביר עשרה מקרים שהוכרעו, כולל תלונות, בשפה שחברי הוועדה יוכלו להבין.

## מה לבדוק לפני שמחליטים

- רשמו אילו החלטות ה-AI מקבלת ואיזה מידע היא רק מציגה.
- דרשו מהאחראים על הציות, הייעוץ המשפטי, התחום הרפואי או הבטיחות לאשר את השימוש המותר.
- בדקו על מקרי עבר שלכם, כולל המקרים הקשים והבעייתיים, ותעדו החרגות עם נימוקים.
- בדקו זכויות בחוזה לתיעוד המודל, לקלטים, לפלטים ולהיסטוריית הגרסאות.
- הגדירו אדם ששמו יירשם כגורם האחראי, ותעדו כל המלצה ועריכה.
- ודאו שיש מסלול ידני שיכול להחליף את המערכת אם ה-AI מושהית.
- שמרו מיפוי של כל מודל שמשפיע על הכרעות, כולל האחראי לכל מודל ואופן המעקב אחריו.

## שאלות נפוצות

### ועדת הסיכונים גילתה שמודלים משפיעים על החלטות הנוגעות ללקוחות, בלי רשימה מסודרת ובלי מעקב. מה צריך לדרוש?

דרשו מיפוי של כל מודל בשימוש עם ייעודו, בעליו, אישורו ובקרתו, ולאחר מכן נוהל קבוע לאישור ולפיקוח: אישור מראש, מעקב ביצועים, סקירה תקופתית ודיווח לוועדה. התחילו במודלים שקובעים לגבי לקוחות. זה תלוי בציפיות הרגולטור לסיכוני מודלים ובכמות המודלים שמגיעים מספקים.

### ההנהלה רוצה מערכת AI שתייעץ למפעילי חדר הבקרה. מה הדירקטוריון צריך לדרוש לפני שמשתמשים בה בפעילות שיש לה השלכות בטיחותיות?

דרשו שה-AI תישאר מייעצת, שהחלטת המפעיל ומערכות הבטיחות יישארו ללא שינוי, שהכלי ייבדק על נתוני העבר של המתקן, שהמפעילים יוכשרו למגבלותיו, ושכל המלצה תתועד. דרשו סקירת בטיחות על ידי הגורם האחראי על בטיחות התהליכים במפעל לפני השימוש. זה תלוי בפעולות שהכלי מייעץ עליהן ובמערך ניהול הבטיחות באתר.

### האם לאשר אוטומציה בבית חולים כשאירועים חריגים הוחרגו מהבדיקה?

אל תסתמכו על הערכה שמשמיטה מקרי כשל מהותיים ללא הצדקה. אישור תלוי בשימוש המיועד, בתנאי קיצון מייצגים ובבדיקה של מומחים קליניים ומומחי בטיחות ייעודיים.

### מה על הדירקטורים לדרוש לפני שמערכת טלמטיקה מבוססת AI משפיעה על נקיטת צעדים משמעתיים נגד נהגים?

הפרידו בין מדדים תפעוליים לראיות שמספיקות להחלטה מהותית. השימוש תלוי בהקשר, בטיפול בשגיאות ובבדיקה של גורמי בטיחות, משאבי אנוש ומשפט.

### בפיילוט לניסוח מסמכים בעזרת AI נשלחו לאזרחים מסמכים שגויים, כי הצוות אישר אותם בלי לקרוא. לעצור או לתקן?

הקפיאו את השליחה, המשיכו בניסוחים ותקנו את שלב האישור: האישור חייב לחייב קריאה, והמערכת חייבת להראות מה שונה ולסמן אי-ודאות. מדדו את שיעור השגיאות במדגם לפני שחוזרים לשלוח. זה תלוי בסוגי השגיאות וביכולת הצוות לבדוק בעומס שהפיילוט מייצר.

### האם חברת הביטוח שלנו צריכה לאפשר ל-AI לתת הצעות מכירה מותאמות אישית?

הגדירו את תפקיד המכירות המותר לפני רכישת היכולת. ההחלטה תלויה בממצאי הבדיקות, באפשרות להעביר מקרים לאדם, במה שהלקוח מבין ובדרישות רלוונטיות שיאושרו מול גורמי הציות והמשפט.

### מודל החיתום של הספק כבר בשימוש. איך מראים לוועדת הסיכונים שאפשר להסביר את ההחלטות שלו?

הסבר פירושו שניתן להראות, עבור החלטה נתונה, אילו קלטים הובילו אליה ושאותם קלטים נותנים אותה תוצאה. בקשו מהספק הסברים ברמת ההחלטה הבודדת ובחנו אותם על מקרי תלונה. זה תלוי בשאלה אם החוזה מאפשר גישה לקלטים, לפלטים ולגרסאות של המודל.

### המוקד רוצה סיכומי שיחות מבוססי AI בתיקי לקוחות, מה צריך לבדוק לפני פיילוט?

החליטו קודם למה הסיכום מיועד: הערה שהנציג עורך שונה מרישום בתיק רפואי. בצעו בדיקה על שיחות אמיתיות כשנציגים בודקים כל סיכום, ומדדו השמטות והמצאות בנפרד. זה תלוי באישורי הפרטיות שלכם להקלטה ולעיבוד שיחות ובשאלה מי חותם על הרישום.

### מה יצדיק מעבר של AI בבית זיקוק מהמלצות לשליטה תפעולית ישירה?

הרחיבו סמכויות רק לאחר שהיקף הפעילות המיועד והטיפול בתקלות קיבלו אישור מומחים מתאים. זה תלוי בהשלכות של פעולות שגויות, בפיקוח המפעילים ובמנגנוני הגנה בלתי תלויים.

## איך אני יכול לעזור בהחלטה הזו

- **שאלה או שיחה (ללא עלות):** אני נותן את דעתי לגבי השימוש שבטוח לפיילוט ואילו תנאים הכי קריטיים. אני גם מצביע על הזכות החוזית שכדאי לבדוק לפני שמבקשים משהו מהספק.
- **בדיקה והערכה (משלמים רק אם קיבלתם ערך):** אני כותב הערכה עצמאית על השימוש המוצע, הראיות במקרים שלכם ומנגנוני האישור והפיקוח על השימוש. אני ממליץ על תנאים לאישור, צמצום היקף או דחיית השימוש.
- **ליווי שוטף (בזמן ובקצב שמתאימים לכם):** אני נשאר זמין לבחון תוצאות, שינויי מודל של הספק ואירועים חריגים ביחס להיקף שהוסכם.

## מתלבטים בנושא? כתבו לי

אשיב באופן אישי בתוך שני ימי עסקים, עם כיוון ראשוני.

[כתבו לי על המקרה שלכם](https://1pf.co.il/#q=%D7%90%D7%A0%D7%97%D7%A0%D7%95%20%D7%A9%D7%95%D7%A7%D7%9C%D7%99%D7%9D%20AI%20%D7%A9%D7%AA%D7%A9%D7%A4%D7%99%D7%A2%20%D7%A2%D7%9C%20%D7%94%D7%97%D7%9C%D7%98%D7%95%D7%AA%20%D7%90%D7%A9%D7%A8%D7%90%D7%99%2C%20%D7%A8%D7%A4%D7%95%D7%90%D7%94%20%D7%90%D7%95%20%D7%91%D7%98%D7%99%D7%97%D7%95%D7%AA.%20%D7%9E%D7%94%20%D7%A2%D7%9C%D7%99%D7%A0%D7%95%20%D7%9C%D7%93%D7%A8%D7%95%D7%A9%20%D7%9C%D7%A4%D7%A0%D7%99%20%D7%9B%D7%9F%3F&field=other&src=guide) · [קביעת שיחה של 45 דקות](https://1pf.co.il/book/)

---

[מדריכים לקבלת החלטות](https://1pf.co.il/guides/) · [דף הבית](https://1pf.co.il/index.md)