סיכום הסדנא שהתקיימה ב – 13.5.2018
מערכות אוטונומיות אינטליגנטיות (Autonomous Intelligent Systems, AIS) הוא שם כולל לטכנולוגיות המביאות מוצרים בעלי יכולת למידה וקבלת החלטות עצמאית, כגון רובוטים, מכוניות אוטונומיות ואפליקציות האוספות דטה ומשתמשות בה להשפעה על התנהגות אנושית. מפתחי מערכות כאלו הם אנשי ונשות תכנה וחומרה, שהוכשרו כמהנדסים, מדעני מחשב, מתכנתים וכד’.
למערכות אינטליגנטיות אוטונומיות תהיה השפעה עצומה על האנושות – לצד פוטנציאל עצום לתועלת לפרט ולחברה, קיימים סיכונים לפרטיות, לבטיחות, להטיות ועוד. מוסדות וארגונים רבים עוסקים בלימוד הנושא ובגיבוש המלצות להסדרה בחקיקה בנושאים קשורים.
ה IEEE, שהוא ארגון בינ”ל המאגד מקצועית למעלה מ 400,000 מהנדסי חשמל ואלקטרוניקה וטכנולוגים אחרים, בחר לפעול אחרת. בשנתיים האחרונות מתקיימת בארגון יוזמה גלובלית להתמודדות עם האתגרים האתיים שעולים מהטכנולוגיה שמביאה לנו מערכות אוטונומיות אינטליגנטיות, כדי להבטיח רתימתה למיקסום התועלת לאנושות, במובן הרחב.
המיקוד והייחודיות של יוזמה זו היא בהצפת הנושא אל מול העוסקים במלאכת התכנון והעיצוב של מערכות כאלו, תוך צפייה ללקיחת אחריות מהדרג המבצע, ולא מקובעי המדיניות, כפי שמנוסח במטרות היוזמה:
“To ensure every stakeholder involved in the design and development of autonomous and intelligent systems is educated, trained, and empowered to prioritize ethical considerations so that these technologies are advanced for the benefit of humanity.”
“להבטיח שכל המעורבים בתכנון ופיתוח של מערכות אוטונומיות ואינטליגנטיות ממוקדים למתן עדיפות לשיקולים אתיים, כך שטכנולוגיות אלו מקודמות לטובת האנושות”. IEEE ישראל ארגן סדנא בנושא והשתתפו בה כ 60 חברי וחברות IEEE ואחרים, מהאקדמיה, מהתעשייה, מהמגזר הפרטי, הציבורי ואחרים.
- את הסדנא פתח יו”ר IEEE בישראל, פרופ’ אורי שקד שהדגיש בדבריו את המחויבות של ארגון IEEE בכלל ושל הסניף הישראלי בפרט לקידום טכנולוגיות למען האנושות.
- אח”כ ניתנה הרצאה ע”י אורח שהגיע במיוחד לסדנא, Dr Ing Konstantinos Karachalios, Managing Director IEEE Standards Association and Member of IEEE Management Council “The IEEE Global Initiative on Ethics of Autonomous an Intelligent Systems and the Ethically Aligned Design Report” ובה הוצגה היוזמה, התהליכים שעברה ומנגנוני העבודה שלה.
- פרופ’ יצחק בן ישראל , ראש המרכז למחקר סייבר בינתחומי ע”ש בלווטניק, אוניברסיטת תל אביב, נשא הרצאה שכותרתה: “בעיות אתיות ולמידה ממוחשבת“. בהרצאה זו התייחס פרופ’ בן ישראל לקשרים האפשריים בין בני אדם למכונות אוטונומיות אינטליגנטיות והציע חלוקה למשפחות של בעיות אתיות: סוגיות אתיות המתעוררות מהיחס של המכונה לאדם; סוגיות שבין מכונה למכונה; סוגיות שבין האדם למכונה; סוגיות המתעוררות מיחסים בין בני אדם – כאשר האדם מסתמך על מכונה. בנוסף, קיימת השאלה לגבי הצורך בהגבלת מחקר ופיתוח בנושאים אלו בגלל הפוטנציאל של שימוש לא אתי בתוצאותיו.
- פרופ’ חגית מסר ירון המכהנת (בין היתר) כחברה בועד המנהל של יוזמת IEEE לאתיקה של מערכות אוטונומיות אינטליגנטיות, פתחה והנחתה פאנל מומחים בנושא. פרופ’ מסר ירון הדגישה בדבריה חשיבות הקניית החשיבה האתית לעושים במלאכה, ולא רק למקבלי החלטות. מקבלי ההחלטות יכולים להביא לחקיקת חוקים, שכמובן יחולו על העושים במלאכה, אך האתגר לאלו שעסקים בתכנון ובפיתוח מערכות אוטונומיות אינטליגנטיות הוא לתת דעתם על ההשלכות הפוטנציאליות של העשייה שלהם על הפרט והחברה, גם אם החוק הקיים מאפשר עשייה זו.
ראשון הדוברים בפאנל היה דר’ אסף דגני, שביחד עם דר’ יגאל ביליק הציגו את הפן התעשייתי, כפי שבא לידי ביטוי במדיניות ובהתנהלות חברת GM המפתחת רכבים אוטונומים (AIS). אסף הציג גישה לבניית מדיניות תפעול (operational policy) שמבוססת על תפיסת המשילות של אריסטו.
הוא תיאר פעילות נרחבת במסגרות בינ”ל שונות (Society of Automotive Engineers, International Organization for Standards) לקביעת מדיניות תפעול של רובוטים ורכבים במרחב הציבורי. הודגש כיGM , בתור חברה עולמית, שמה לפניה שלוש מטרות עיקריות (company mission) בפיתוח רכבים– 0 תאונות, 0 גזי פליטה, ו 0 גודש בדרכים.
- הדוברת הבאה, גב’ זיוה פתיר, דירקטורית בחברות טכנולוגיה, לשעבר מנכ”לית מכון התקנים , יו”ר ההנהלה הטכנית של ISO העולמי, יו”ר הרשות לבטיחות בדרכים ו VP בבטר פלייס, הציגה את השאלה האם האתיקה תהרוג את הקידמה? היא סקרה את מגוון השיקולים והסוגיות הציבוריות שיושפעו ממכוניות אוטונומיות, לרבות: בטיחות, תעסוקה, זמן פנוי, הכנסות מדוח”ות, מנגנוני ביטוח וכד’. היא מאמינה שהמאזן מחייב התקדמות בטכנולוגיה ה AIS לצד קביעת מדיניות והסדרה בנושא שתיתן מענה למגוון ההיבטים ולאיזונים הראויים.
- ד“ר נמרוד קוזלובסקי מביה”ס למינהל עסקים באוניברסיטת ת”א, המכהן גם כ, Investor, Cyber & Big Data, JVP Labs and Head of Tech & Cyber Regulation, HFN ציין שאנו נמצאים בנקודה מרתקת בזמן בה נדרש לקדד ערכים באופן מודע. לטענתו, כוחות השוק עלולים לגרום למרוץ לתחתית וחייבים רגולציה, למשל שתחייב בכל מערכת kill switch אנושי. הוא הדגיש שיש מתח מובנה בין accountability ל utility שבא לידי ביטוי במיוחד במערכות תומכות החלטות.
- פרופ’ קרין נהון, מהמרכז הבין תחומי הרצליה, שגם מכהנת כנשיאת איגוד האינטרנט, התייחסה, בליווי דוגמאות מאלפות, לסוגיות הקשר בין AIS לדמוקרטיה ועל השפעת טכנולוגיות כאלו על היחסים בין שלטון לאזרח.
הדובר האחרון, פרופ’ שיזף רפאלי מהמרכז לחקר האינטרנט באוניברסיטת חיפה ומוסד שמואל נאמן, הזכיר למשתתפי הסדנא כי האתיקה היא הרף והמשפט הוא הסף. הוא הציג את המונח “שאון דיגיטלי” וסקר את הנושא ממגוון היבטים מרתקים.
הסדנא הסתיימה בדיון מרתק עם במשתתפים, ובטעם של עוד.
- Prof. hagit Messer Yaron
- Prof. Sheizaf Rafaeli
- Prof. karin nahoon
- Dr. konstantinos