המכונית האוטונומית ובעיית הקרונית

הדברים הבאים מבוססים על מאמרו של הרב מואיז נבון

בעיית הקרונית הוצגה ב1967 ע"י הפילוסופית פיליפה פוט, אך הורחבה לשאלות נוספות ודומות בהמשך.

נתבונן בשלושה סוגים של שאלות:

1. נתונות שתי קבוצות של עובדים על מסילת רכבת: האחת בת חמישה עובדים, השנייה בת עובד אחד. קרונית שועטת במהירות לעבר קבוצת 5 העובדים. לא ניתן לעצור את הקרונית לחלוטין, אך ניתן להסיטה ממסלולה אל עבר בן אדם אחד.

2. נתונים חמישה עובדים על מסילת רכבת. מעליהם עומד איש שמן, וצופה בנוף. רכבת קרבה ולא ניתן לעצור אותה, אלא על ידי דחיפתו של האיש השמן לעצור את הקרון.

3. אדם נוסע במנהרה, מולו הוא רואה אדם הולך באמצע הכביש. הוא אינו יכול להאט, אך הוא יכול להסיט את הרכב לנתיב הנגדי. אך שם מגיע משאית גדולה שתהרוג אותו.

בכל אחד מהמקרים נשאלת השאלה:

-        כיצד היית נוהג?

כשבאים לדון במכונית אוטונומית, השאלה הנשאלת היא:

-        כיצד יש לתכנת מכונית אוטונומית במקרים דומים לאלה?

לרוב, האוכלוסיה מתחלקת לשניים בדיון בבעיה הראשונה (בעיית הקרונית המקורית): חלק נוקטים בשיטה התועלתנית, דהיינו להציל כמה שיותר אנשים, וחלק נוקטים בשיטה של הצבת כללי התנהגות – לדוגמא: שב ואל תעשה עדיף. השיטה התועלתנית נתקלת בבעיה כשמקצינים את הבעיה, לדוגמא בבעיה השניה שהצגנו, או כשידועים תכונות של האנשים בכל אחת מהקבוצות (זקנים מול צעירים, בריאים מול חולים, וכד').

בבעיה השלישית, לכאורה, ביטלנו את השיקול התועלתני, שכן זה נפש אחת מול נפש אחרת.

נסקור מספר מקורות תורניים העוסקים בעניינים קרובים וננסה להסיק מהם כלים וכללים להתבוננות בבעיות מהסוג הזה.

המשנה באהלות מתירה להרוג עובר כשהוא מסכן את חייה של האם, כל עוד הוא לא יצא רובו. אך משיצא רובו המשנה נוקטת כלל: "אין דוחין נפש מפני נפש" (משנה מסכת אהלות פרק ז משנה ו):

האשה שהיא מקשה לילד מחתכין את הולד במעיה ומוציאין אותו אברים אברים מפני שחייה קודמין לחייו יצא רובו אין נוגעין בו שאין דוחין נפש מפני נפש:

הגמרא בפסחים עוסקת בנושא "יהרג ואל יעבור". אם מאיימים על אדם: "לך תהרוג את פלוני, ואם לא – אהרוג אותך", אסור לו להרוג אחר – שכן דמו לא סמוק יותר מדמו של השני (תלמוד בבלי מסכת פסחים דף כה עמוד ב):

ושפיכות דמים גופיה מנלן? - סברא הוא; כי ההוא דאתא לקמיה דרבא, אמר ליה: מרי דוראי אמר לי זיל קטליה לפלניא, ואי לא - קטלינא לך. - אמר ליה: ליקטלוך ולא תיקטול. מאי חזית דדמא דידך סומק טפי? דילמא דמא דההוא גברא סומק טפי?

רבינו יונה על גמרא זו בפסחים מסביר שבנוסף לספק (דמו של מי סמוק יותר?) יש לנו כלל התנהגותי של "שב ואל תעשה":

וא"ת כיון שהדבר ספק יהרוג אותו ואל יהרג הוא, יש לומר שב ואל תעשה שאני, שהאדם יש לו למנוע מלעשות שום עבירה בידים

על פי התוספות בסנהדרין הכלל של "מאי חזית דדמא דידך סומק טפי?" עובד לפעמים גם לצד השני. האדם אינו מחוייב למסור את נפשו למות כדי להציל את חברו, כל עוד הוא עצמו לא עושה מעשה אקטיבי להביא למיתת חברו (תוספות מסכת סנהדרין דף עד עמוד ב):

ורוצח גופיה כי מיחייב למסור עצמו ה"מ קודם שיהרג בידים אבל היכא דלא עביד מעשה כגון שמשליכין אותו על התינוק ומתמעך מסתברא שאין חייב למסור עצמו דמצי אמר אדרבה מאי חזית דדמא דחבראי סומקי טפי דילמא דמא דידי סומק טפי כיון דלא עביד מעשה

מכאן נוכל להסיק כללי התנהגות לגבי הבעייה השלישית שתיארנו לעיל, בו השיקול התועלתני לא קיים.

אם נחזור לבעיית הקרונית, נדמה שהמקור הידוע ביותר הנוגע בעניין הוא בירושלמי תרומות (פרק ח):

תני סיעות בני אדם שהיו מהלכין בדרך פגעו להן גוים ואמרו תנו לנו אחד מכם ונהרוג אותו ואם לאו הרי אנו הורגים את כולכם אפי' כולן נהרגים לא ימסרו נפש אחת מישראל. ייחדו להן אחד כגון שבע בן בכרי ימסרו אותו ואל ייהרגו א"ר שמעון בן לקיש והוא שיהא חייב מיתה כשבע בן בכרי ורבי יוחנן אמר אף על פי שאינו חייב מיתה כשבע בן בכרי.

המקור הזה בפשטות דוחה את השיקול התועלתני – "אפי' כולן נהרגים לא ימסרו נפש אחת מישראל". גם דברי רבי יוחנן לא משיבים את השיקול התועלתני, שכן דבריו תלויים בכך שגם ככה אותו פלוני יהרג, ואין ההתלבטות בין הצלת הסיעה או פלוני, אלא הצלת הסיעה או לא.  

החזון איש דווקא מחזק את השיקול התועלתני, אך מתנה זאת במסגור מחדש של המקרה: האם מדובר בהצלה, שבו אפשר לעשות שיקול תועלתני, או בהריגה? החזו"א מסיים בצ"ע (חזון איש סנהדרין סי' כ"ה):

ויש לעי' באחד רואה חץ הולך להרוג אנשים רבים ויכול להטותו לצד אחר ויהרג רק אחד שבצד אחר, ואלו שבצד זה יצולו, ואם לא יעשה כלום יהרגו הרבים והאחד ישאר בחיים.

ואפשר דלא דמי למוסרים אחד להריגה דהתם המסירה היא פעולה האכזרי' של הריגת נפש ובפעולת זה ליכא הצלת אחרים בטבע של הפעולה, אלא המקרה גרם עכשו הצלה לאחרים. גם הצלת האחרים קשור במה שמוסרין להריגה נפש מישראל.

אבל הטיית החץ מצד זה לצד אחר היא בעיקרה פעולת הצלה, ואינה קשורה כלל בהריגת היחיד שבצד אחר, רק עכשו במקרה נמצא בצד אחר נפש מישראל ואחרי שבצד זה יהרגו נפשות רבות, ובזה אחד.

אפשר דיש לנו להשתדל למעט אבדת ישראל בכל מאי דאפשר, והלא לולינוס ופפוס נהרגו בשביל להציל את ישראל כמש"כ רש"י תענית י"ח ב' ד"ה בלודקין, ואמרו שאין כל ברי' יכולה לעמוד במחיצתן.

מיהו הכא גרע דהורג בידים, ולא מצינו אלא דמוסרין אבל להרוג בידים אפשר דאין הורגין והא דהרגו שב"ב דמורד במלכות היה ומיהו צ"ע בתוס'.

הציץ אליעזר דן בדברי החזו"א ומסיק שיש להעדיף "שב ואל תעשה", ולא מעשה בידיים (שו"ת ציץ אליעזר חלק טו סימן ע):

ואם כן איפוא גם בנידון חקירתו של החזו"א ז"ל יש לנו ג"כ לפסוק בהחלטיות בכזאת, להיות בשב ואל תעשה ולא להטות בקום ועשה את החץ לצד אחר, דפשוט הדבר דהקו המנחה הזה הוא לא רק כשנעמדת שאלת ההעדפה עליו ועל אחר, כי אם גם כשהשאלה היא בנוגע לשני אחרים, דזיל בתר טעמא.

זאת לדעת כי חקירת החזו"א ז"ל הנ"ל היא לא רק תיאורטית בתיאור ציור דמיוני של ראית חץ הולך להרוג והיכא שיש אפשרות להטותו, כפי שמצייר החזו"א, אלא שאלה מעשית ממשית היא, ויש לה השלכות על בדומה לזה, כגון על כלי רכב כשנוסעים בדומה למשל ונקלעים פתאומית לפני אנשים רבים שחוצצים אז הכביש ויש לעשות עצירה פתאומית ע"י נסיגה אחורנית כדי שרבים מהעוברים לא יהרגו, אבל באחורה נמצא שם יחיד עומד באופן שברור שיהרג עי"כ, וכן בכל הדומה לזה, והשאלה נשאלת בכאמור במה יש לו לבחור יותר לנהוג במצב כזה, אם לישאר במצב של שב ואל תעשה ועי"כ יהרגו אחדים שלפניו, או לסגת אחורה בקו"ע =בקום ועשה= ועי"ז יהרג היחיד, וכאמור לדעתנו יש להיות בזה בשב ואל תעשה, כאשר מוכח בכזאת מדברי הרבינו יונה שהבאתי, ולא לעשות שום פעולה המתבטאת במעשה של קום ועשה, ולא משנה הדבר מה שהוא כוונתו בזה לשם פעולת הצלה, בהיות ולמעשה הוא יהרוג עי"כ בודאות את היחיד, וכאן עוד חמור ביותר אפילו מהטיית חץ לצד אחר, כי כאן בפעולת נסיעה אחורנית, הרי זאת פעולה של כחו ממש ובכח ובפועל שלו יהרוג את היחיד ולכן לא דמי זה אפילו בכלל לההיא דחו"מ סי' שפ"ח לגבי הסרת נזק הנ"ל, דבשם רק מפנה המים לצד אחר, אבל לשדה חבירו הולכים המים מכח הזרימה שלהם, ומשא"כ כאן וכנ"ז.

נראה, שבסיום הדיון הזה צריך להזכיר כלל נוסף שאמנם לא עוסק ישירות בנושא שלנו, אך בהחלט קשור אליו – "בהדי כבשי דרחמנא למה לך?" (תלמוד בבלי מסכת ברכות דף י עמוד א):

מה עשה הקדוש ברוך הוא - הביא יסורים על חזקיהו, ואמר לו לישעיהו: לך ובקר את החולה: שנאמר: בימים ההם חלה חזקיהו למות ויבא אליו ישעיהו בן אמוץ הנביא ויאמר אליו: כה אמר ה' (צבאות) צו לביתך כי מת אתה ולא תחיה וגו'. מאי כי מת אתה ולא תחיה - מת אתה - בעולם הזה, ולא תחיה - לעולם הבא. אמר ליה: מאי כולי האי? אמר ליה: משום דלא עסקת בפריה ורביה. אמר ליה: משום דחזאי לי ברוח הקדש דנפקי מינאי בנין דלא מעלו. אמר ליה: בהדי כבשי דרחמנא למה לך? מאי דמפקדת איבעי לך למעבד, ומה דניחא קמיה קודשא בריך הוא - לעביד.

עתה יש לחזור לשאלה בה פתחנו: האם השיקולים הללו נכונים גם בתכנות מכונית אוטונומית? האם השאלה 'כיצד על האדם לפעול בזמן אמת?' שקולה לשאלה 'כיצד יש לתכנת לכתחילה מכונית לפעול בהינתן מצב כזה?' ?