עוד קצת על המכונית האוטונומית ובעיית הקרונית

חלקים קודמים:
- המכונית האוטונומית ובעיית הקרונית
- המכונית האוטונומית ובעיית הקרונית - האם המכונית צריכה הכשר?

- נספח ל: המכונית האוטונומית ובעיית הקרונית

בגליון תמוז תשע"ח של כתב העת המעיין התפרסם מאמר ארוך בנושא "תועלתנות ומוסר בתכנון מערכת אוטונומית" מאת הרב יוסף שפרונג (קישור).

בגליון תשרי תשע"ט של המעיין שראה אור בימים האחרונים, התפרסמה התגובה הבאה (קישור):

נספח ל: המכונית האוטונומית ובעיית הקרונית

חלקים קודמים:
- המכונית האוטונומית ובעיית הקרונית
- המכונית האוטונומית ובעיית הקרונית - האם המכונית צריכה הכשר?

בדיוננו על סוגיית "בעיית הקרונית" הזכרנו את החזון-איש המדבר אודות חץ שעתיד לפגוע ולהרוג חמישה אנשים ויש בידי אדם להסיט את החץ כדי שיפגע רק באדם בודד. החזון-איש מחלק בין מקרה שהוא מקרה של "הצלה" לבין מקרה שהוא מקרה של "הריגה" (כדוגמת "סיעות בני אדם שהיו מהלכין בדרך פגעו להן גוים ואמרו תנו לנו אחד מכם ונהרוג אותו ואם לאו הרי אנו הורגים את כולכם"). אם מדובר על מקרה של הצלה אזי החזון-איש תומך בגישה התועלתנית, אך אם מדובר על מקרה של הריגה הרי שיש לנקוט בגישה של "שב ואל תעשה".
לאחר מכן ראינו את דברי הציץ אליעזר החולק על החזון-איש וממאן לסור מ"שב ואל תעשה".

הרב אשר וייס מתייחס לדבריו של החזון-איש בספרו "מנחת אשר" (פסחים כח). הנה חלק מדבריו:

הרב וייס אינו מבין כיצד החזון-איש יכול לומר שיהיה מותר להסיט בידיים את החץ כשהוא יודע שזה יפגע באדם. לכן הוא מציע שאולי החזון איש התכוין למקרה שהחץ עתיד לפגוע בחמישה אנשים, ויש בידי אדם להסיט את החץ כדי שיפגע רק באדם אחד מתוך החמישה. הרב וייס מסכים שהצעתו לא כל כך מסתדרת עם מילותיו של החזון-איש. אך גם אחרי הצעתו זו, הוא אומר שאין להתיר דבר כזה אלא רק אם הסטת החץ אינו בכוחו ממש.

לאחר הדברים הללו, צריך להעיר שאת תולדותיו של "בעיית הקרונית" אנו פוגשים בחיים האמיתיים לא פעם. לדוגמא, החלטה של הממשלה לצאת למבצע צבאי או למלחמה יש בו לא פעם אלמנטים של "בעיית קרונית". הממשלה יודעת שללא יציאה לפעולה צבאית יהרגו כך וכך אזרחים, והממשלה צריכה לקבל החלטה האם לצאת למבצע צבאי שיגרום בהסתברות גבוהה להריגת מספר מסוים של חיילים.
אם ננסה להקיש מהדברים שראינו לעיל לנושא הזה, הרי שדבריו של החזון-איש מסתברים מאד. הממשלה בוחרת לצאת למבצע הצלה, ביודעה שמבצע זה כנראה יעלה בחיי חיילים, אך ימנע פגיעה חמורה יותר באוכלוסיה האזרחית. לדברי הציץ אליעזר, ההיקש הוא יותר קשה, אם כי מכיוון שהחיילים הם גם אזרחים יתכן שיש לחלק.
כדאי להעיר בנושא זה שהרב קוק התייחס לנושא של החלטה על יציאה למלחמה וקבע שאין לדון בו כלל במסגרת הרגילה של האסור והמותר, מכיוון שמלחמה הינו חלק ממשפטי המלך (שו"ת משפט כהן (ענייני ארץ ישראל) סימן קמג):

ולענין הצלת כלל ישראל כבר כתבתי לעיל, דלע"ד מטעם הוראת שעה ולמיגדר מילתא נגע בה, אלא שהוא דבר פשוט כ"כ שא"צ ב"ד ע"ז. וממלחמת מצוה לע"ד אין ללמוד כלל, דע"כ עניני הכלל דמלחמות יוצאים הם מכלל זה דוחי בהם, שהרי גם מלחמת רשות מותרת היא, ואיך מצינו היתר להכניס נפשות רבות בסכנה בשביל הרווחה, אלא דמלחמה והלכות צבור שאני. ואולי הוא מכלל משפטי המלוכה, שהיו ודאי רבים ונמסרים באומה, כמו שכ' הרמב"ם פ"ג דמלכים ה"ח דאין רשות למלך להרוג אלא בסייף, וכן שאין לו כח להפקיר ממון ואם הפקיר הו"ל גזל, וכמו הרוגי מלך נכסיהם למלך (סנהדרין מ"ח ב') ופסקה הרמב"ם שם, וכל אלה ועוד כיו"ב הם שרידים שנשארו לנו ממשפטי המלוכה, שהם אינם ע"פ גדרי התורה של הלכות יחיד (ובמק"א בארתי, שגם אלה יש להם מקור בתורה, אלא שדרכי הדרשה בזה נמסרו לכל מלך כבינתו הרחבה, ומשו"ה צריך שיכתוב לו שני ס"ת, וכ"א לשם קדושה מיוחדת, ועל הס"ת ששייך לכל בן ישראל נאמר לבלתי רום לבבו ולבלתי סור וגו' אעפ"י שבס"ת דמצד המלוכה מלך פורץ לעשות לו דרך ואין מוחין בידו), ומהם ג"כ דיני המלחמה, בין מלחמת מצוה ובין מלחמת רשות, וא"א ללמוד מזה למקום אחר. אבל החובה התדירית למסור נפש היחיד בשביל הכלל היא משום מגדר מילתא והוראת שעה, וצריך לשקול את הענין. ואסתר משו"ה חשבה לכתחילה, שהדבר רחוק שתציל, שהרי ודאי ימיתוה ותפסיד חיי שעה, וגם שהיתה חושבת שאולי במשך הזמן תהיה נקראת, ותוכל להציל אז באופן יותר קרוב ובלא סכנה, ומרדכי הורה לה הוראת שעה, שבמקום הצלת כלל ישראל אין לדחות כלל, ויפה שעה אחת קודם, והעיר לה ג"כ שע"ד חשש הצלת חייה, שהוא נודע לענין דינא חוץ מהוראת שעה של למגד"מ, הלא יש ספק שגם היא בסכנה ומי יודע וגו', וכמשכ"ל. 

המכונית האוטונומית ובעיית הקרונית - האם המכונית צריכה הכשר?

המשך ל: המכונית האוטונומית ובעיית הקרונית

סיכום לטור הקודם בנושא:
יש שתי גישות להתייחס לבעיית הקרונית:
- הגישה התועלתנית: לנקוט בצעד שיוביל לתוצאה המיטבית ביותר. 
- גישת "כללי התנהגות": מבלי להתייחס לתוצאה, על האדם לנהוג כפי ש"כלל ההתנהגות" מורים לו. דוגמא לכלל התנהגות: "שב ואל תעשה". 
סיימנו את הטור הקודם בהצבת שאלה למחשבה: האם השאלה 'כיצד על האדם לפעול בזמן אמת' שקולה לשאלה 'כיצד יש לתכנת לכתחילה מכונית לפעול בהינתן מצב כזה' ?

בתחילת הטור הנוכחי, אני מבקש להסביר מעט יותר את השאלה איתה סיימנו בפעם הקודמת.
המכון הטכנולוגי של מסצ'וסטס, MIT, הציע לערוך משאל בקרב נשאלים רבים במגוון רחב של "בעיות קרונית" ולבנות מבנה נתונים עם תשובותיהם, וכך להגיע לעמדה מושכלת בדבר השאלה: כיצד רוב האנשים היו נוהגים בהינתן בעיית קרונית כזו או אחרת? את תוצאת המחקר יהיה ניתן להזין למחשבי המכונית האוטונומית, וכך לודא שהמכונית ינהג כפי שחכמת ההמונים האנושית היתה נוהגת.
אך האם זו גישה נכונה? האם אין הבדל בין מקרה שצריך לקבל החלטה כשהנפטר הפוטנציאלי עומד לפנינו, לבין מקרה שההחלטה היא עקרונית ואין "נפטר לפנינו"? וכן, האם אין הבדל בין האדם שצריך לעשות מעשה בכוחו בבעיית הקרונית הקלאסית כדי להסיט את הרכבת, לבין מקרה שאפשר לתכנת מראש מחשב שיעשה זאת (האם זה יחשב כוחו של האדם?)?

כפי שהעירו לי מספר קוראים, גם הרב איתן קופיאצקי במאמרו "הלכות מכוניות אוטונומיות", שהתפרסם בגליון "המעיין", דן בנושאים בהם עסקנו. את הפרק בו הוא דן בנושא "בעיית הקרונית" מסיים הרב קופיאצקי כך:

אז האם נצטרך הכשר על האופן בו תוכנת המכונית האוטונומית?
כפי הנראה לעת עתה, הIEEE, מכון התקנים הבינלאומי של המהנדסים, יגבש תקן שיתווה דרך גם בבעיות הקרונית למיניהם, והמכוניות האוטונומיות יעמדו בתקן הזה (אם הם ירצו למכור למדינות מערביות, לפחות).
נניח לרגע שהתקן אינו תואם את ההלכה, כפי שזו תגובש בקרב רבני הדור, ולכן המכונית האוטונומית לא תוכל לקבל את אותה "תעודת הכשר" אותה הזכרנו. מה יהיה עלינו לעשות?
מצד אחד ברור לכל אחד שהמכונית האוטונומית תוריד באופן דרסטי את כמות תאונות הדרכים בכלל, והתאונות הקטלניות בפרט. מצד שני, במקרה שהמכונית תיקלע לבעיית קרונית היא לא תנהג כפי שפוסקי ההלכה רואים לנכון לנהוג.

והרי יש לנו "בעיית קרונית" חדשה:
את מה יש להעדיף: את הפחתת כמות התאונות ע"י המכונית האוטונומית, או לחילופין את הצלת נפשו של אותו אדם שבהינתן "בעיית קרונית" יהרג שלא כדין?

וכבר אמרנו שיש שתי גישות:
- הגישה התועלתנית שבודאי תעדיף את ההפחתה הכוללת של מספר התאונות.
- גישת "כלל ההתנהגות" של "שב ואל תעשה" שאולי יוביל לדחייה של המכונית האוטונומית.
נדמה, שכאן כבר כל אחד מהקוראים מרגיש, שכפי שהעלנו בשאלה לעיל, יש מקום רב לומר שבהינתן מצב ש"הנפטר לא לפנינו" והאדם לא עושה מעשה בידיים שיביא להרג של אף אדם ספציפי הרי שנעדיף את הגישה התועלתנית. ולכן, גם אם לתקן של הIEEE בהתייחס ל"בעיית הקרונית" לא תהיה הסכמה הלכתית, הרי שלהלכה יהיה נכון לעבור למכוניות אוטונומיות. 

המכונית האוטונומית ובעיית הקרונית

הדברים הבאים מבוססים על מאמרו של הרב מואיז נבון

בעיית הקרונית הוצגה ב1967 ע"י הפילוסופית פיליפה פוט, אך הורחבה לשאלות נוספות ודומות בהמשך.

נתבונן בשלושה סוגים של שאלות:

1. נתונות שתי קבוצות של עובדים על מסילת רכבת: האחת בת חמישה עובדים, השנייה בת עובד אחד. קרונית שועטת במהירות לעבר קבוצת 5 העובדים. לא ניתן לעצור את הקרונית לחלוטין, אך ניתן להסיטה ממסלולה אל עבר בן אדם אחד.

2. נתונים חמישה עובדים על מסילת רכבת. מעליהם עומד איש שמן, וצופה בנוף. רכבת קרבה ולא ניתן לעצור אותה, אלא על ידי דחיפתו של האיש השמן לעצור את הקרון.

3. אדם נוסע במנהרה, מולו הוא רואה אדם הולך באמצע הכביש. הוא אינו יכול להאט, אך הוא יכול להסיט את הרכב לנתיב הנגדי. אך שם מגיע משאית גדולה שתהרוג אותו.

בכל אחד מהמקרים נשאלת השאלה:

-        כיצד היית נוהג?

כשבאים לדון במכונית אוטונומית, השאלה הנשאלת היא:

-        כיצד יש לתכנת מכונית אוטונומית במקרים דומים לאלה?

לרוב, האוכלוסיה מתחלקת לשניים בדיון בבעיה הראשונה (בעיית הקרונית המקורית): חלק נוקטים בשיטה התועלתנית, דהיינו להציל כמה שיותר אנשים, וחלק נוקטים בשיטה של הצבת כללי התנהגות – לדוגמא: שב ואל תעשה עדיף. השיטה התועלתנית נתקלת בבעיה כשמקצינים את הבעיה, לדוגמא בבעיה השניה שהצגנו, או כשידועים תכונות של האנשים בכל אחת מהקבוצות (זקנים מול צעירים, בריאים מול חולים, וכד').

בבעיה השלישית, לכאורה, ביטלנו את השיקול התועלתני, שכן זה נפש אחת מול נפש אחרת.

נסקור מספר מקורות תורניים העוסקים בעניינים קרובים וננסה להסיק מהם כלים וכללים להתבוננות בבעיות מהסוג הזה.

המשנה באהלות מתירה להרוג עובר כשהוא מסכן את חייה של האם, כל עוד הוא לא יצא רובו. אך משיצא רובו המשנה נוקטת כלל: "אין דוחין נפש מפני נפש" (משנה מסכת אהלות פרק ז משנה ו):

האשה שהיא מקשה לילד מחתכין את הולד במעיה ומוציאין אותו אברים אברים מפני שחייה קודמין לחייו יצא רובו אין נוגעין בו שאין דוחין נפש מפני נפש:

הגמרא בפסחים עוסקת בנושא "יהרג ואל יעבור". אם מאיימים על אדם: "לך תהרוג את פלוני, ואם לא – אהרוג אותך", אסור לו להרוג אחר – שכן דמו לא סמוק יותר מדמו של השני (תלמוד בבלי מסכת פסחים דף כה עמוד ב):

ושפיכות דמים גופיה מנלן? - סברא הוא; כי ההוא דאתא לקמיה דרבא, אמר ליה: מרי דוראי אמר לי זיל קטליה לפלניא, ואי לא - קטלינא לך. - אמר ליה: ליקטלוך ולא תיקטול. מאי חזית דדמא דידך סומק טפי? דילמא דמא דההוא גברא סומק טפי?

רבינו יונה על גמרא זו בפסחים מסביר שבנוסף לספק (דמו של מי סמוק יותר?) יש לנו כלל התנהגותי של "שב ואל תעשה":

וא"ת כיון שהדבר ספק יהרוג אותו ואל יהרג הוא, יש לומר שב ואל תעשה שאני, שהאדם יש לו למנוע מלעשות שום עבירה בידים

על פי התוספות בסנהדרין הכלל של "מאי חזית דדמא דידך סומק טפי?" עובד לפעמים גם לצד השני. האדם אינו מחוייב למסור את נפשו למות כדי להציל את חברו, כל עוד הוא עצמו לא עושה מעשה אקטיבי להביא למיתת חברו (תוספות מסכת סנהדרין דף עד עמוד ב):

ורוצח גופיה כי מיחייב למסור עצמו ה"מ קודם שיהרג בידים אבל היכא דלא עביד מעשה כגון שמשליכין אותו על התינוק ומתמעך מסתברא שאין חייב למסור עצמו דמצי אמר אדרבה מאי חזית דדמא דחבראי סומקי טפי דילמא דמא דידי סומק טפי כיון דלא עביד מעשה

מכאן נוכל להסיק כללי התנהגות לגבי הבעייה השלישית שתיארנו לעיל, בו השיקול התועלתני לא קיים.

אם נחזור לבעיית הקרונית, נדמה שהמקור הידוע ביותר הנוגע בעניין הוא בירושלמי תרומות (פרק ח):

תני סיעות בני אדם שהיו מהלכין בדרך פגעו להן גוים ואמרו תנו לנו אחד מכם ונהרוג אותו ואם לאו הרי אנו הורגים את כולכם אפי' כולן נהרגים לא ימסרו נפש אחת מישראל. ייחדו להן אחד כגון שבע בן בכרי ימסרו אותו ואל ייהרגו א"ר שמעון בן לקיש והוא שיהא חייב מיתה כשבע בן בכרי ורבי יוחנן אמר אף על פי שאינו חייב מיתה כשבע בן בכרי.

המקור הזה בפשטות דוחה את השיקול התועלתני – "אפי' כולן נהרגים לא ימסרו נפש אחת מישראל". גם דברי רבי יוחנן לא משיבים את השיקול התועלתני, שכן דבריו תלויים בכך שגם ככה אותו פלוני יהרג, ואין ההתלבטות בין הצלת הסיעה או פלוני, אלא הצלת הסיעה או לא.  

החזון איש דווקא מחזק את השיקול התועלתני, אך מתנה זאת במסגור מחדש של המקרה: האם מדובר בהצלה, שבו אפשר לעשות שיקול תועלתני, או בהריגה? החזו"א מסיים בצ"ע (חזון איש סנהדרין סי' כ"ה):

ויש לעי' באחד רואה חץ הולך להרוג אנשים רבים ויכול להטותו לצד אחר ויהרג רק אחד שבצד אחר, ואלו שבצד זה יצולו, ואם לא יעשה כלום יהרגו הרבים והאחד ישאר בחיים.

ואפשר דלא דמי למוסרים אחד להריגה דהתם המסירה היא פעולה האכזרי' של הריגת נפש ובפעולת זה ליכא הצלת אחרים בטבע של הפעולה, אלא המקרה גרם עכשו הצלה לאחרים. גם הצלת האחרים קשור במה שמוסרין להריגה נפש מישראל.

אבל הטיית החץ מצד זה לצד אחר היא בעיקרה פעולת הצלה, ואינה קשורה כלל בהריגת היחיד שבצד אחר, רק עכשו במקרה נמצא בצד אחר נפש מישראל ואחרי שבצד זה יהרגו נפשות רבות, ובזה אחד.

אפשר דיש לנו להשתדל למעט אבדת ישראל בכל מאי דאפשר, והלא לולינוס ופפוס נהרגו בשביל להציל את ישראל כמש"כ רש"י תענית י"ח ב' ד"ה בלודקין, ואמרו שאין כל ברי' יכולה לעמוד במחיצתן.

מיהו הכא גרע דהורג בידים, ולא מצינו אלא דמוסרין אבל להרוג בידים אפשר דאין הורגין והא דהרגו שב"ב דמורד במלכות היה ומיהו צ"ע בתוס'.

הציץ אליעזר דן בדברי החזו"א ומסיק שיש להעדיף "שב ואל תעשה", ולא מעשה בידיים (שו"ת ציץ אליעזר חלק טו סימן ע):

ואם כן איפוא גם בנידון חקירתו של החזו"א ז"ל יש לנו ג"כ לפסוק בהחלטיות בכזאת, להיות בשב ואל תעשה ולא להטות בקום ועשה את החץ לצד אחר, דפשוט הדבר דהקו המנחה הזה הוא לא רק כשנעמדת שאלת ההעדפה עליו ועל אחר, כי אם גם כשהשאלה היא בנוגע לשני אחרים, דזיל בתר טעמא.

זאת לדעת כי חקירת החזו"א ז"ל הנ"ל היא לא רק תיאורטית בתיאור ציור דמיוני של ראית חץ הולך להרוג והיכא שיש אפשרות להטותו, כפי שמצייר החזו"א, אלא שאלה מעשית ממשית היא, ויש לה השלכות על בדומה לזה, כגון על כלי רכב כשנוסעים בדומה למשל ונקלעים פתאומית לפני אנשים רבים שחוצצים אז הכביש ויש לעשות עצירה פתאומית ע"י נסיגה אחורנית כדי שרבים מהעוברים לא יהרגו, אבל באחורה נמצא שם יחיד עומד באופן שברור שיהרג עי"כ, וכן בכל הדומה לזה, והשאלה נשאלת בכאמור במה יש לו לבחור יותר לנהוג במצב כזה, אם לישאר במצב של שב ואל תעשה ועי"כ יהרגו אחדים שלפניו, או לסגת אחורה בקו"ע =בקום ועשה= ועי"ז יהרג היחיד, וכאמור לדעתנו יש להיות בזה בשב ואל תעשה, כאשר מוכח בכזאת מדברי הרבינו יונה שהבאתי, ולא לעשות שום פעולה המתבטאת במעשה של קום ועשה, ולא משנה הדבר מה שהוא כוונתו בזה לשם פעולת הצלה, בהיות ולמעשה הוא יהרוג עי"כ בודאות את היחיד, וכאן עוד חמור ביותר אפילו מהטיית חץ לצד אחר, כי כאן בפעולת נסיעה אחורנית, הרי זאת פעולה של כחו ממש ובכח ובפועל שלו יהרוג את היחיד ולכן לא דמי זה אפילו בכלל לההיא דחו"מ סי' שפ"ח לגבי הסרת נזק הנ"ל, דבשם רק מפנה המים לצד אחר, אבל לשדה חבירו הולכים המים מכח הזרימה שלהם, ומשא"כ כאן וכנ"ז.

נראה, שבסיום הדיון הזה צריך להזכיר כלל נוסף שאמנם לא עוסק ישירות בנושא שלנו, אך בהחלט קשור אליו – "בהדי כבשי דרחמנא למה לך?" (תלמוד בבלי מסכת ברכות דף י עמוד א):

מה עשה הקדוש ברוך הוא - הביא יסורים על חזקיהו, ואמר לו לישעיהו: לך ובקר את החולה: שנאמר: בימים ההם חלה חזקיהו למות ויבא אליו ישעיהו בן אמוץ הנביא ויאמר אליו: כה אמר ה' (צבאות) צו לביתך כי מת אתה ולא תחיה וגו'. מאי כי מת אתה ולא תחיה - מת אתה - בעולם הזה, ולא תחיה - לעולם הבא. אמר ליה: מאי כולי האי? אמר ליה: משום דלא עסקת בפריה ורביה. אמר ליה: משום דחזאי לי ברוח הקדש דנפקי מינאי בנין דלא מעלו. אמר ליה: בהדי כבשי דרחמנא למה לך? מאי דמפקדת איבעי לך למעבד, ומה דניחא קמיה קודשא בריך הוא - לעביד.

עתה יש לחזור לשאלה בה פתחנו: האם השיקולים הללו נכונים גם בתכנות מכונית אוטונומית? האם השאלה 'כיצד על האדם לפעול בזמן אמת?' שקולה לשאלה 'כיצד יש לתכנת לכתחילה מכונית לפעול בהינתן מצב כזה?' ?