בשיתוף האיחוד האירופי
08/09/2020

רובוטים משתלטים על העולם? לא בדיוק - אז מהי בינה מלאכותית ואיך היא מתקשרת לאיחוד האירופי?

מערכות מתקדמות של קודים יודעות היום לנתח מידע ולחזות תוצאות אפשריות, אך מציבות בפנינו גם אתגרים מורכבים כמו שמירה על פרטיות ואובייקטיביות. ד"ר אביב גאון, חוקר ומרצה, מסביר

צילום: עידו שחם עריכה: דפי מקל

רובוטים משתלטים על העולם וסרטים של ארנולד שוורצנגר? אולי אנחנו מדמיינים ככה את המושג "בינה מלאכותית", אלא שזה לא ממש נכון במציאות. אז מהי בעצם בינה מלאכותית ומה מדיניות האיחוד האירופי בנושא? ד"ר אביב גאון, חוקר תחום המשפט והטכנולוגיה בבית ספר הארי רדזינר למשפטים ומרצה במרכז סימון וייל למחקר וללימודי אירופה באוניברסיטת בן גוריון, מסביר.

בינה מלאכותית היא למעשה מערכת קודים של מחשב, שיכולים לנתח מידע. הקודים הללו בונים מערכות ממוקדות מטרה, אך חסרות הבנה ויכולת אנושית (לפחות בינתיים...), כך שאין חשש שהן יקומו על יוצריהן וישתלטו על העולם. המערכות הללו יכולות ללמוד לבצע משימות מוגדרות באופן כמעט אוטומטי, אבל חסרות ההבנה והיכולת האנושית.

אלה מערכות המבוססות על אלגוריתמים מתקדמים מהסוג של למידת מכונה ולמידת עומק, שיכולים לעבד מידע בצורה מהירה מאוד ואף לבצע תיקונים בקוד תוך כדי תנועה כדי לשפר את הביצועים. ישנם כמה יישומים בתחום הבינה המלאכותית כמו זיהוי פנים, דיבור, יכולת וזיהוי כתב ואפילו יכולת להבין שפה טבעית. כמובן שישנן גם מערכות המסוגלות לקבל החלטות או לחזות תוצאות על בסיס למידה של מקרים קודמים.

אחת הדילמות המרכזיות הנוגעות לכל הקשור להסדרה ופיקוח על מערכות בינה מלאכותית נוגעת לפגיעה אפשרית בפרטיות המשתמשים. תחשבו על חברות תקשורת כנטפליקס, אמאזון, פייסבוק, טוויטר ואחרות, שאוספות מכל אחד מאתנו אינספור נתונים שניתן ללמוד מהם עלינו. הן יכולות ליצור פרופיל צרכני, למשל, להבין יותר טוב מאיתנו מה אנחנו אוהבים, ואפילו להסיק מסקנות אישיות ואינטימיות, שאנחנו לא בהכרח רוצים לחלוק עם העולם. למשל, על בסיס בצפייה בסדרות רומנטיות בינה מלאכותית יכולה לזהות שאנחנו חווים משבר או צפייה בסרטים מסוגים מסוימים יכולים להעיד על העדפה מינית.

פרטיות, כאמור, היא חשש אחד ומאוד משמעותי בשימוש והפצה של מערכות בינה מלאכותית. בעיות נוספות הן מתן העדפה או הטיה מודעת או בלתי מודעת לאנשים כאלה ואחרים, למשל, לאנשים רזים על פני אנשים שמנים, גבוהים על פני נמוכים ועוד, כתוצאה מנתונים מוטים שהוזנו למערכת. דוגמה נוספת היא אם, למשל, נזין למערכות אלה מידע בעל הטיות מגדריות שעשוי ללמד את המערכת שרק גברים הם רופאים או שאנשים בעלי גוון עור מסוים מועדים יותר לפשע.

קושי נוסף הוא שלא תמיד אפשר להבין מדוע המערכת הגיעה לתוצאה שהגיעה. זו בעיה מוכרת בתחום ויש ניסיון להתמודד אתה בשנים האחרונות. מקרה מוכר הממחיש זאת הוא תקרית הצ'טבוט של פייסבוק שכיכבה בכותרות לאחרונה, ואשר במהלכה המערכת החלה לתקשר בשפה ייחודית שהיא יצרה, המהנדסים נבהלו והחליטו לכבות את המערכת. יש כמובן דוגמאות נוספות בנושא, אבל המסקנה היא שגם היום אנחנו לא ממש יודעים להבין את כל התהליכים המתקיימים בתוך המערכת. יש חששות נוספים. לדוגמה, שהטמעת המערכות תגרום לצמצום העבודה במשק, נושא שעלה לדיון ציבורי בזמן הקורונה.

רגולציה של בינה מאכותית אינה נושא חדש. האיחוד האירופי עוסק בכך בהרחבה, תוך התקנה של חקיקה חשובה ומשמעותית בתחום ההגנה על פרטיות. ה-GDPR, הרגולציה הכללית להגנת מידע, היא אחת מהתקנות החשובות שחוקק האיחוד האירופי בשנים האחרונות. מדיניות האיחוד האירופי בנויה על שלושה רבדים מרכזיים: מחקר ופיתוח, התמודדות עם ההיבטים הסוציו-אקונומים של הטכנולוגיה והבטחת שימוש ראוי במערכות הן מבחינה אתית והן מבחינה משפטית. במסגרת התכנית התחייב האיחוד להגדיל את ההשקעה במערכות בינה מלאכותית, מתוך מטרה לחזק את המחקר בתחום בכל מדינות האיחוד, תוך שימת דגש על תחומים אסטרטגיים.

בינה מלאכותית היא בשורה אדירה לאנושות, אך מציבה אתגרים מורכבים עמם יש להתמודד על מנת להבטיח את השמירה על זכויות בסיסיות כשקיפות, אחריות, פרטיות והוגנות.

  • בינה מלאכותית

טרם התפרסמו תגובות

הוסף תגובה חדשה

בשליחת תגובה אני מסכים/ה
    לוגו - פיקוד העורףפיקוד העורף

    התרעות פיקוד העורף

      walla_ssr_page_has_been_loaded_successfully