מערכת שטועה בהחלטה אחת היא תקלה, מערכת שטועה באלפי החלטות בבת אחת היא אירוע. מדריך תגובה לרשות: לעצור, למפות את ההיקף, לתקן יזומה את ההחלטות שנפגעו, להודיע לנפגעים, ולשמר תיעוד. העיקרון המרכזי: השעון מתחיל ברגע הגילוי, לא ברגע שתושב מתלונן.
מערכת שטועה בהחלטה אחת היא תקלה שמטפלים בה במסלול הערעור הרגיל. מערכת שטועה באלפי החלטות בבת אחת, סיווג שגוי שהוחל על רחוב שלם, הטיה שנפלה על קבוצה, או דליפת מידע דרך הספק, היא אירוע. אירוע כזה דורש תגובה מסודרת ומהירה, לא טיפול פרטני בכל תלונה. מאמר זה הוא מדריך לניהול אירוע AI ברשות, והוא נשען על עיקרון אחד: חובת ההגינות מחייבת את הרשות לפעול מרגע שגילתה את הטעות, לא מרגע שתושב התלונן.
זו הנקודה הקריטית. כשהרשות יודעת שהחלטות שגויות יצאו, היא אינה רשאית להמתין שכל נפגע יגלה בעצמו ויערער. חובת ההגינות המנהלית מחייבת אותה לתקן יזומה את מה שידוע לה כשגוי. שתיקה והשהיה אינן ניטרליות, הן מעמיקות את הפגיעה ואת החשיפה, כפי שהרחבנו באחריות הרשות לנזק מהחלטת AI שגויה.
בלי לוגים שמראים מה קרה, מתי התגלה ומה נעשה, הרשות מתקשה להראות שפעלה בסבירות, וקשה לה לברר את ההיקף. התיעוד שנשמר שגרתית הוא שמאפשר תגובה מהירה בשעת אירוע, ולכן הוא חלק מההיערכות, לא ממנה והלאה.
אירוע מנוהל טוב הוא כזה שנערכו אליו מראש: נוהל תגובה כתוב, יכולת עצירה, לוגים, וסעיף בהסכם שמחייב את הספק לשתף פעולה בבירור. על סעיפי הספק ראו הסכם עיבוד ושיתוף נתונים עם ספק AI, ועל הודעה והגנת מידע ראו הגנת פרטיות ומידע תושבים.
הנושא יושב בלב תחום ה-AI & Law של המשרד. על מפת השימושים ברשות ראו את עוגן הסדרה, בינה מלאכותית ברשות מקומית.
ד״ר עו״ד אברהם ללום מלווה רשויות מקומיות בהיערכות ובניהול של אירועי כשל במערכות בינה מלאכותית. העמדה שד״ר ללום מיישם קבועה: ברגע שהרשות יודעת שההחלטה שגויה, חובת התיקון שלה מתחילה, והיא אינה תלויה בשאלה אם התושב כבר הבחין.
מאמר זה מתבסס על עקרונות המשפט המנהלי ודיני הגנת המידע בישראל, ומתאר מסגרת כללית. אין באמור ייעוץ משפטי, ויישום ברשות מסוימת מחייב בחינה פרטנית מול עורך דין מורשה.
מרגע שהרשות גילתה את הטעות, לא מרגע שתושב התלונן. חובת ההגינות המנהלית מחייבת תיקון יזום.
לעצור את המערכת כדי למנוע נזק נוסף, ואז למפות את היקף הפגיעה: מי נפגע, כמה, אילו החלטות ומה הנזק.
לא. הרשות צריכה לתקן יזומה את ההחלטות שנפגעו ולהודיע לנפגעים, וכשמעורב מידע אישי גם לקיים חובת הודעה על אירוע אבטחה.
היערכות מראש: נוהל תגובה כתוב, יכולת עצירה, לוגים, וסעיף בהסכם שמחייב את הספק לשתף פעולה בבירור.
נושא: בינה מלאכותית וממשל סיכונים
השירות בתחום: ייעוץ וחוות דעת שנייה בנושא AI
ייעוץ וחוות דעת נדל״ן · ייעוץ וחוות דעת AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · לתיאום פגישת ייעוץ
כל שינוי בקוד נבדק בשער פיתוח מאובטח לפי עקרונות OWASP Top 10, ISO/IEC 27001:2022 (A.8.28) ו-NIST SSDF. בדיקה אחרונה: 2.11.2026. פירוט הבקרות