בינה מלאכותית ברפואה מזרזת אבחון, הדמיה ותיעוד, אך היא תמיכה בהחלטה ולא החלטה, והאחריות נשארת על הרופא והמוסד. מדריך לאחריות הרפואית, לרגולציה של תוכנה כמכשיר רפואי, לפרטיות מידע בריאותי, ולשיקול דעת קליני שאינו ניתן להאצלה.
עודכן
בינה מלאכותית נכנסת לרפואה במהירות: תמיכה באבחון, פענוח הדמיה, מיון ותעדוף מטופלים, תיעוד קליני, וניהול. ההבטחה גדולה, אך רפואה היא בדיוק התחום שבו טעות של כלי פוגעת ישירות באדם, והמסגרת המשפטית סביבה צפופה: אחריות רפואית, רגולציה של תוכנה כמכשיר רפואי, פרטיות מוגברת של מידע בריאותי, הסכמה מדעת, ושיקול דעת קליני שאינו ניתן להאצלה.
מאמר זה ממפה היכן AI נכנס לרפואה והיכן מתרכזת החשיפה המשפטית של רופאים ושל מערכות בריאות.
רוב השימושים כיום הם תמיכה בהחלטה, לא החלטה: מערכת שמסמנת ממצא בהדמיה, כלי שמתעדף פניות לפי דחיפות, סיוע בכתיבת סיכום קליני, התראות על אינטראקציות בין תרופות, וייעול תהליכים מנהליים. בכל אלה הכלי מזרז ומצמצם עומס, ובלבד שהוא עזר לרופא ולא תחליף לשיקול דעתו. התקלה מתחילה כשההמלצה האלגוריתמית הופכת, בשתיקה, לבסיס ההחלטה בלי שרופא מוסמך בחן אותה לגופה.
זו שאלת הליבה. כלי בינה מלאכותית אינו רופא מורשה, אין לו אחריות מקצועית, והיא נשארת על הרופא ועל המוסד הרפואי. "המערכת המליצה" אינו הגנה: הרופא אחראי לבדוק את התוצר ולהפעיל שיקול דעת, והמוסד אחראי להטמיע את הכלי באופן בטוח ולפקח עליו. לצד זה עשויה לקום אחריות נוספת של יצרן הכלי, אך היא אינה גורעת מאחריות נותן הטיפול כלפי המטופל.
ככל שההשפעה על המטופל גדולה יותר, כך נדרשת בקרה אנושית הדוקה יותר לפני הפעולה.
על אחריות יצרן הכלי, ומה משנה בה הוראת אחריות המוצר האירופית החדשה, ראו אחריות מוצר ל-AI.
כלי בינה מלאכותית המשמש להחלטה קלינית עשוי להיות כפוף לרגולציה של מכשור רפואי, הן בישראל והן במסגרות בינלאומיות, ובאירופה שימוש קליני נוטה להיכנס לקטגוריית סיכון גבוה תחת רגולציית ה-AI. שימוש בכלי שלא עבר את האישור המתאים לשימוש קליני, או שימוש בו מעבר למה שאושר, הוא חשיפה בפני עצמו. המוסד צריך לדעת לא רק שהכלי "עובד", אלא שהוא מורשה לשימוש שנעשה בו בפועל, ושהשימוש תואם את תחולת האישור.
איך בודקים אם מערכת נכנסת לקטגוריית הסיכון הגבוה של הרגולציה האירופית פירטנו בסיווג מערכת AI בסיכון גבוה לפי EU AI Act.
מידע רפואי הוא מהמידע הרגיש ביותר, ונהנה מהגנה מוגברת. הזנת מידע מטופלים לכלי בינה מלאכותית, ובמיוחד לכלי של ספק חיצוני, מחייבת בסיס חוקי, צמצום המידע לנדרש, אבטחה, ובקרה על שימוש משני. הסכנה הגדולה היא שימוש במידע מטופלים לאימון מודלים בלי בסיס, או העברתו לצד שלישי בלי הסדר. כמו בכל שימוש של גוף באחריות ציבורית או מקצועית, האחריות על המידע נשארת על המוסד הרפואי גם כשהעיבוד נעשה אצל ספק.
על החובות שחוק הגנת הפרטיות מטיל על מי שמעבד מידע בעל רגישות מיוחדת, ובכלל זה מידע על מצב בריאותי, ראו את המדריך לחוק הגנת הפרטיות ותיקון 13.
ההכרעה הקלינית מסורה לרופא המורשה ואינה ניתנת להעברה למכונה. הכלי יכול להציף, לסכם ולהציע, אך הרופא הוא שמחליט, מאמת מול המטופל הקונקרטי, ומתעד את נימוקיו. במקרים המתאימים, מעורבות של בינה מלאכותית בטיפול היא חלק מהמידע שהמטופל זכאי לו במסגרת הסכמה מדעת. רופא שמאמץ המלצה אלגוריתמית בלי בדיקה עצמאית אינו ממלא את חובת הזהירות שלו, גם אם הכלי מדייק בממוצע.
מודל שאומן על אוכלוסייה שאינה מייצגת עלול לטעות דווקא בקבוצות שלא היו מיוצגות בנתונים, וברפואה טעות כזו מתורגמת לפגיעה בבריאות. לכן תיקוף הכלי על האוכלוסייה הרלוונטית, מעקב אחר ביצועיו לאורך זמן, ובדיקת הטיה אינם שיקולים תאורטיים אלא תנאי לבטיחות ולחוקיות השימוש. כלי בטוח בממוצע אינו בהכרח בטוח במקרה הקונקרטי שלפני הרופא.
מוסד רפואי או נותן שירות שמכניס בינה מלאכותית צריך לתקף את הכלים לשימוש שנעשה בהם, לשמר את אחריות הרופא ואת שיקול דעתו, להגן על מידע המטופלים ולהסדיר שימוש משני, לבדוק הטיה ובטיחות, ולקבל בדיקה משפטית לפני הטמעה קלינית. המשרד, בהובלת ד״ר עו״ד אברהם ללום, מלווה גופים וארגונים בבניית ממשל כזה לשימוש בבינה מלאכותית.
העיקרון שד״ר ללום חוזר אליו קבוע: ברפואה, מה שלא ניתן להסביר, לתעד ולהעמיד לבדיקה אנושית אינו מוכן לשמש בהחלטה שנוגעת לגוף אדם.
הערה: אין באמור ייעוץ משפטי או רפואי או תחליף להם. השימוש בבינה מלאכותית ברפואה כפוף לדין המשתנה, לרגולציה של מכשור רפואי ולדיני הגנת הפרטיות, ומחייב בחינה פרטנית מול עורך דין מורשה ומול הגורמים המוסמכים.
מאמר זה הוא עמוד העוגן של סדרת LALUM על בינה מלאכותית ברפואה. להעמקה לפי נושא ראו את הטמעת מערכת קלינית מול הספק, הסכמה מדעת ושקיפות, אבחון ופענוח הדמיה, ואת פרטיות מידע בריאותי.
לפי המאמר, רוב השימושים כיום הם תמיכה בהחלטה ולא החלטה: מערכת שמסמנת ממצא בהדמיה, כלי שמתעדף פניות לפי דחיפות, סיוע בכתיבת סיכום קליני, התראות על אינטראקציות בין תרופות, וייעול תהליכים מנהליים. בכל אלה הכלי מזרז ומצמצם עומס, ובלבד שהוא עזר לרופא ולא תחליף לשיקול דעתו.
לפי המאמר, כשההמלצה האלגוריתמית הופכת, בשתיקה, לבסיס ההחלטה בלי שרופא מוסמך בחן אותה לגופה. ההכרעה הקלינית מסורה לרופא המורשה ואינה ניתנת להעברה למכונה: הכלי יכול להציף, לסכם ולהציע, אבל הרופא מחליט, מאמת מול המטופל הקונקרטי ומתעד את נימוקיו. ככל שההשפעה על המטופל גדולה יותר, נדרשת בקרה אנושית הדוקה יותר לפני הפעולה.
לפי המאמר, כן. רופא שמאמץ המלצה אלגוריתמית בלי בדיקה עצמאית אינו ממלא את חובת הזהירות שלו, גם אם הכלי מדייק בממוצע, כי כלי בטוח בממוצע אינו בהכרח בטוח במקרה הקונקרטי שלפני הרופא. ״המערכת המליצה״ אינו הגנה: הרופא אחראי לבדוק את התוצר ולהפעיל שיקול דעת לפני שהוא פועל לפיו.
היא עשויה להיחשב כזו. לפי המאמר, כלי בינה מלאכותית המשמש להחלטה קלינית עשוי להיות כפוף לרגולציה של מכשור רפואי, בישראל ובמסגרות בינלאומיות, ובאירופה שימוש קליני נוטה להיכנס לקטגוריית סיכון גבוה תחת רגולציית ה-AI. השאלה נבחנת לפי מה שהכלי עושה בפועל: כלי שמשמש להחלטה קלינית הוא המועמד המובהק לרגולציה הזו.
לפי המאמר, שימוש בכלי שלא עבר את האישור המתאים לשימוש קליני, או שימוש בו מעבר למה שאושר, הוא חשיפה משפטית בפני עצמה, גם כשהכלי עובד היטב. המוסד צריך לדעת שהכלי מורשה לשימוש שנעשה בו בפועל, ושהשימוש תואם את תחולת האישור. בהמלצה המעשית שלנו, בודקים את תחולת האישור לפני ההטמעה, ובודקים אותה שוב בכל פעם שמחלקה מרחיבה את השימוש בכלי.
כן. סעיף 3 לחוק הגנת הפרטיות מונה 12 קטגוריות של מידע בעל רגישות מיוחדת, ובהן מצב בריאותי ומידע גנטי. ארגון שמחזיק מידע כזה נושא בחובות מוגברות: לפי סעיף 8א, מאגר שאינו חייב ברישום ויש בו מידע בעל רגישות מיוחדת על יותר מ-100,000 בני אדם מחייב הודעה לרשות להגנת הפרטיות בתוך 30 ימים. המאמר מוסיף שמידע רפואי הוא מהמידע הרגיש ביותר ונהנה מהגנה מוגברת.
כן. סעיף 3 לחוק הגנת הפרטיות מגדיר ״עיבוד״ ככל פעולה על מידע אישי, לרבות קבלה, אחסון, גילוי, העברה ומתן גישה, ולכן הזנת מידע לכלי, שמירת ההנחיות והפלטים ומתן גישה לספק הכלי נכנסים להגדרה. לפי סעיף 8, עיבוד מותר רק למטרת המאגר ובהרשאת בעל השליטה. לפי המאמר, הזנה כזו מחייבת גם בסיס חוקי, צמצום המידע לנדרש, אבטחה ובקרה על שימוש משני.
לפי סעיף 17ב1 לחוק הגנת הפרטיות, חובת המינוי חלה בין היתר על גוף ציבורי, למעט גוף ביטחוני, ועל מי שעיסוקו כרוך בעיבוד מידע בעל רגישות מיוחדת בהיקף ניכר. מצב בריאותי הוא מידע כזה לפי סעיף 3, ולכן מוסד רפואי שמעבד מידע מטופלים בהיקף ניכר, בכלי AI או בלעדיו, בודק אם הוא בתחולת החובה. הממונה מכין תוכנית הדרכה ובקרה, מטפל בפניות ומשמש איש קשר מול הרשות.
לפי המאמר, מודל שאומן על אוכלוסייה שאינה מייצגת עלול לטעות דווקא בקבוצות שלא היו מיוצגות בנתונים, וברפואה טעות כזו מתורגמת לפגיעה בבריאות. לכן תיקוף הכלי על האוכלוסייה הרלוונטית, מעקב אחר ביצועיו לאורך זמן ובדיקת הטיה אינם שיקולים תאורטיים, אלא תנאי לבטיחות ולחוקיות השימוש.
לפי המאמר, רק כשאפשר להסביר אותו, לתעד את השימוש בו ולהעמיד את המלצתו לבדיקה אנושית: מה שלא עומד בכך אינו מוכן לשמש בהחלטה שנוגעת לגוף אדם. לפני הטמעה קלינית המאמר ממליץ לתקף את הכלי לשימוש שנעשה בו, לשמר את אחריות הרופא ואת שיקול דעתו, להגן על מידע המטופלים ולהסדיר שימוש משני, לבדוק הטיה ובטיחות ולקבל בדיקה משפטית.
נושא: בינה מלאכותית וממשל סיכונים
השירות בתחום: ייעוץ וחוות דעת שנייה בנושא AI
ייעוץ וחוות דעת נדל״ן · ייעוץ וחוות דעת AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · לתיאום פגישת ייעוץ
כל שינוי בקוד נבדק בשער פיתוח מאובטח לפי עקרונות OWASP Top 10, ISO/IEC 27001:2022 (A.8.28) ו-NIST SSDF. בדיקה אחרונה: 2.11.2026. פירוט הבקרות