המשך ל: המכונית האוטונומית ובעיית הקרונית
סיכום לטור הקודם בנושא:
יש שתי גישות להתייחס לבעיית הקרונית:
- הגישה התועלתנית: לנקוט בצעד שיוביל לתוצאה המיטבית ביותר.
- גישת "כללי התנהגות": מבלי להתייחס לתוצאה, על האדם לנהוג כפי ש"כלל ההתנהגות" מורים לו. דוגמא לכלל התנהגות: "שב ואל תעשה".
סיימנו את הטור הקודם בהצבת שאלה למחשבה: האם השאלה 'כיצד על האדם לפעול בזמן אמת' שקולה לשאלה 'כיצד יש לתכנת לכתחילה מכונית לפעול בהינתן מצב כזה' ?
בתחילת הטור הנוכחי, אני מבקש להסביר מעט יותר את השאלה איתה סיימנו בפעם הקודמת.
המכון הטכנולוגי של מסצ'וסטס, MIT, הציע לערוך משאל בקרב נשאלים רבים במגוון רחב של "בעיות קרונית" ולבנות מבנה נתונים עם תשובותיהם, וכך להגיע לעמדה מושכלת בדבר השאלה: כיצד רוב האנשים היו נוהגים בהינתן בעיית קרונית כזו או אחרת? את תוצאת המחקר יהיה ניתן להזין למחשבי המכונית האוטונומית, וכך לודא שהמכונית ינהג כפי שחכמת ההמונים האנושית היתה נוהגת.
אך האם זו גישה נכונה? האם אין הבדל בין מקרה שצריך לקבל החלטה כשהנפטר הפוטנציאלי עומד לפנינו, לבין מקרה שההחלטה היא עקרונית ואין "נפטר לפנינו"? וכן, האם אין הבדל בין האדם שצריך לעשות מעשה בכוחו בבעיית הקרונית הקלאסית כדי להסיט את הרכבת, לבין מקרה שאפשר לתכנת מראש מחשב שיעשה זאת (האם זה יחשב כוחו של האדם?)?
כפי שהעירו לי מספר קוראים, גם הרב איתן קופיאצקי במאמרו "הלכות מכוניות אוטונומיות", שהתפרסם בגליון "המעיין", דן בנושאים בהם עסקנו. את הפרק בו הוא דן בנושא "בעיית הקרונית" מסיים הרב קופיאצקי כך:
אז האם נצטרך הכשר על האופן בו תוכנת המכונית האוטונומית?
כפי הנראה לעת עתה, הIEEE, מכון התקנים הבינלאומי של המהנדסים, יגבש תקן שיתווה דרך גם בבעיות הקרונית למיניהם, והמכוניות האוטונומיות יעמדו בתקן הזה (אם הם ירצו למכור למדינות מערביות, לפחות).
נניח לרגע שהתקן אינו תואם את ההלכה, כפי שזו תגובש בקרב רבני הדור, ולכן המכונית האוטונומית לא תוכל לקבל את אותה "תעודת הכשר" אותה הזכרנו. מה יהיה עלינו לעשות?
מצד אחד ברור לכל אחד שהמכונית האוטונומית תוריד באופן דרסטי את כמות תאונות הדרכים בכלל, והתאונות הקטלניות בפרט. מצד שני, במקרה שהמכונית תיקלע לבעיית קרונית היא לא תנהג כפי שפוסקי ההלכה רואים לנכון לנהוג.
והרי יש לנו "בעיית קרונית" חדשה:
את מה יש להעדיף: את הפחתת כמות התאונות ע"י המכונית האוטונומית, או לחילופין את הצלת נפשו של אותו אדם שבהינתן "בעיית קרונית" יהרג שלא כדין?
וכבר אמרנו שיש שתי גישות:
- הגישה התועלתנית שבודאי תעדיף את ההפחתה הכוללת של מספר התאונות.
- גישת "כלל ההתנהגות" של "שב ואל תעשה" שאולי יוביל לדחייה של המכונית האוטונומית.
נדמה, שכאן כבר כל אחד מהקוראים מרגיש, שכפי שהעלנו בשאלה לעיל, יש מקום רב לומר שבהינתן מצב ש"הנפטר לא לפנינו" והאדם לא עושה מעשה בידיים שיביא להרג של אף אדם ספציפי הרי שנעדיף את הגישה התועלתנית. ולכן, גם אם לתקן של הIEEE בהתייחס ל"בעיית הקרונית" לא תהיה הסכמה הלכתית, הרי שלהלכה יהיה נכון לעבור למכוניות אוטונומיות.
סיכום לטור הקודם בנושא:
יש שתי גישות להתייחס לבעיית הקרונית:
- הגישה התועלתנית: לנקוט בצעד שיוביל לתוצאה המיטבית ביותר.
- גישת "כללי התנהגות": מבלי להתייחס לתוצאה, על האדם לנהוג כפי ש"כלל ההתנהגות" מורים לו. דוגמא לכלל התנהגות: "שב ואל תעשה".
סיימנו את הטור הקודם בהצבת שאלה למחשבה: האם השאלה 'כיצד על האדם לפעול בזמן אמת' שקולה לשאלה 'כיצד יש לתכנת לכתחילה מכונית לפעול בהינתן מצב כזה' ?
בתחילת הטור הנוכחי, אני מבקש להסביר מעט יותר את השאלה איתה סיימנו בפעם הקודמת.
המכון הטכנולוגי של מסצ'וסטס, MIT, הציע לערוך משאל בקרב נשאלים רבים במגוון רחב של "בעיות קרונית" ולבנות מבנה נתונים עם תשובותיהם, וכך להגיע לעמדה מושכלת בדבר השאלה: כיצד רוב האנשים היו נוהגים בהינתן בעיית קרונית כזו או אחרת? את תוצאת המחקר יהיה ניתן להזין למחשבי המכונית האוטונומית, וכך לודא שהמכונית ינהג כפי שחכמת ההמונים האנושית היתה נוהגת.
אך האם זו גישה נכונה? האם אין הבדל בין מקרה שצריך לקבל החלטה כשהנפטר הפוטנציאלי עומד לפנינו, לבין מקרה שההחלטה היא עקרונית ואין "נפטר לפנינו"? וכן, האם אין הבדל בין האדם שצריך לעשות מעשה בכוחו בבעיית הקרונית הקלאסית כדי להסיט את הרכבת, לבין מקרה שאפשר לתכנת מראש מחשב שיעשה זאת (האם זה יחשב כוחו של האדם?)?
כפי שהעירו לי מספר קוראים, גם הרב איתן קופיאצקי במאמרו "הלכות מכוניות אוטונומיות", שהתפרסם בגליון "המעיין", דן בנושאים בהם עסקנו. את הפרק בו הוא דן בנושא "בעיית הקרונית" מסיים הרב קופיאצקי כך:
אז האם נצטרך הכשר על האופן בו תוכנת המכונית האוטונומית?
כפי הנראה לעת עתה, הIEEE, מכון התקנים הבינלאומי של המהנדסים, יגבש תקן שיתווה דרך גם בבעיות הקרונית למיניהם, והמכוניות האוטונומיות יעמדו בתקן הזה (אם הם ירצו למכור למדינות מערביות, לפחות).
נניח לרגע שהתקן אינו תואם את ההלכה, כפי שזו תגובש בקרב רבני הדור, ולכן המכונית האוטונומית לא תוכל לקבל את אותה "תעודת הכשר" אותה הזכרנו. מה יהיה עלינו לעשות?
מצד אחד ברור לכל אחד שהמכונית האוטונומית תוריד באופן דרסטי את כמות תאונות הדרכים בכלל, והתאונות הקטלניות בפרט. מצד שני, במקרה שהמכונית תיקלע לבעיית קרונית היא לא תנהג כפי שפוסקי ההלכה רואים לנכון לנהוג.
והרי יש לנו "בעיית קרונית" חדשה:
את מה יש להעדיף: את הפחתת כמות התאונות ע"י המכונית האוטונומית, או לחילופין את הצלת נפשו של אותו אדם שבהינתן "בעיית קרונית" יהרג שלא כדין?
וכבר אמרנו שיש שתי גישות:
- הגישה התועלתנית שבודאי תעדיף את ההפחתה הכוללת של מספר התאונות.
- גישת "כלל ההתנהגות" של "שב ואל תעשה" שאולי יוביל לדחייה של המכונית האוטונומית.
נדמה, שכאן כבר כל אחד מהקוראים מרגיש, שכפי שהעלנו בשאלה לעיל, יש מקום רב לומר שבהינתן מצב ש"הנפטר לא לפנינו" והאדם לא עושה מעשה בידיים שיביא להרג של אף אדם ספציפי הרי שנעדיף את הגישה התועלתנית. ולכן, גם אם לתקן של הIEEE בהתייחס ל"בעיית הקרונית" לא תהיה הסכמה הלכתית, הרי שלהלכה יהיה נכון לעבור למכוניות אוטונומיות.
3 תגובות:
לדעתי התשובה הברורה היא לא ללכת על שאלון שיאמר לנו מה אנשים בוחרים במודע אלא לבנות את מערכת ההחלטות הזו על בסיס חיישנים בכלי הרכב הקיימים ולמידת מכונה - מה שמתאים הרבה יותר למה שנעשה בפועל.
אם נתקין בכמה עשרות מיליוני רכבים ברחבי העולם מערכת חיישנים שיעקבו אחרי פעולות בתרחישים כאלו נגלה לא רק מה האוטו צריך לעשות אלא מה אנשים באמת עושים
(גם אם לא נקבל תשובה ברורה אלא נצטרך להזין לתוך הרשת החישובית תרחישים שונים ולראות כיצד היא תנהג)
מה שאנשים עושים בפועל זה אמנם המצוי, אבל מדוע החלטת שזה צריך להיות הרצוי?
1. מפני שכשבאים לדון בין אידאלים סותרים, ובין שתי אפשרויות גרועות, בדילמה מוסרית, עקרונות כמו ״פוק וראה מה עמא דבר״ או ״אם אינם נביאים הם בני נביאים הם״יכולים לתת לנו כיוון לא רע.
2. הזנה של מערכת מוסרית פורמלית של רשימת חוקים פשוט לא תוכל לכסות על מקרה ומקרה מבחינת המכונית. אבל תוצר של למידה של פעילות אנושית היא דבר שהרשת תוכל לבצע לו הכללה בצורה הרבה יותר טובה.
הוסף רשומת תגובה