על מושג האמון בעידן הסייבר

מאת: רוני זהבי

לפני מאה חמישים וחמש שנים, בחוצות פאריס, פגש סופר צעיר ומתחיל בשם ז'ול וורן טייס כדור פורח ונשבה בסיפוריו. שהייתו במחיצת הטייס ההרפתקן הניבה את הרעיון לספר שהודפס בשנת 1863 בשם" חמישה שבועות בכדור פורח" על מסע בכדור פורח באפריקה. היה זה הראשון מבין כשבעים ספרים שכתב ורן ואשר הניחו את היסודות לסוגת המדע הבדיוני כולה. 

שבעים ושש שנים מאוחר יותר, ביוני 1939 כתב ג'ורג' אורוול את הספר 1984 המתאר עולם קודר שבו אין לאדם חופש חשיבה, וכל סטייה ולו הקטנה ביותר, כמו חיוך בלתי צפוי, הליכה לכיוון שונה מהרגיל או עלייה פתאומית בקצב פעימות הלב, יאותרו מיידית ויביאו להענשתו. שני ספרים אלה ורבים מאוד כמותם, משקפים שתי מגמות עיקריות בניבוי העתיד עתיר הטכנולוגיה בחברה האנושית: אופטימיות והתרגשות לקראת מציאות הרפתקנית ומופלאה מחד מול פסימיות וחשש לאובדן שליטה וכליון מאידך.  

תהליך זה החל למעשה כבר עם פריצתה של המהפכה התעשייתית במאה ה 19 ומאז רק הולך ומתעצם. בבסיסן של שתי המגמות טמונה ההנחה שלהתפתחות הטכנולוגיה אין גבולות אבסולוטיים, והשאלה אינה אם ניתן להגיע שמה שנראה כיום כחלום, אלא מתי ובאיזה מחיר. זמן ומשאבים. מבנה החשיבה האנושי, שהוא פרדיקטיבי  במהותו, מציג בדמיוננו את מצבנו העתידי על בסיס מיקומנו וכיוון תנועתנו הנוכחיים לעבר העתיד. בהקשר זה אנו מדמיינים את החברה האנושית מתקיימת על כוכבים אחרים, מתניידת ברכבים מעופפים, נהנית מזיהוי מחלות וריפויין טרם פריצתן, ואולי יותר מהכל – נהנית מהשתלבות ישויות טכנו-אינטיליגנטיות במארג חיינו כפי שמתואר היטב בסרט Ex_Machina.

ההתקדמות האדירה ביכולות העיבוד, האחסון והתקשורת במרחב הסייברי מותירה הרחק מאחור את תשתיות החיים הבסיסיות ששימשו אותנו במאה וחמישים השנים האחרונות ואלה כושלות נוכח הצרכים המתנפחים אקספוננציאלית ומשתנים לבלי הכר אם כתוצאה מחוסר יכולת לספק את הכמות הנדרשת (מזון, רווחה תחבורה) ואם כתוצאה מחוסר התאמה (חינוך, רפואה). פערים אלה מציבים בפני החברה האנושית אתגרים עצומים שמענה להם מחייב שיתוף פעולה עולמי חוצה גבולות גיאוגרפיים ותרבותיים ברמה שלא הכרנו בעבר. שיתוף פעולה מגזרי קיים בצורה מוגבלת וממוקדת במספר תחומים מזה זמן, כמו ברפואה, במדע, בתעופה וכדומה, אשר במסגרתו מתקיים שיתוף מידע, מפותחת שפה מקצועית, מוגדרים מקצועות ותחומי התמחות מוכרים ומשמשים סטנדרטים בינלאומיים.

אולם אלה ממוקדים ומתוחמים בגבולות תחומי ידע ותעשייה מסוימים ומשמשים בידי העוסקים בתחומים אלה בלבד. האתגר המונח לפתחה של החברה האנושית נוכח ההאצה בהתפתחויות הטכנולוגיות גדול ומורכב עשרות מונים. זהו אתגר שלא ניתן יהיה להתמודד עמו ללא שיתוף פעולה רב מגזרי, רב ממדי ורב תחומי ברמה של המין האנושי כולו. לא פחות. על אף יכולתנו לעמוד במשימה מרחף איום חדש ומשמעותי והוא: חוסר אמון. Lost of trust.

הבנת הבעיה מחייבת הכרה במה שהשתנה במרקם החיים בעשור האחרון, שכן רק הבנה עמוקה של התופעה תאפשר התמודדות אמיצה ותכליתית עמה. החל מתחילת השפעתה של המהפכה התעשייתית וביתר שאת עם התנפחות כמות הידע בעולם, נחלקה האוכלוסייה לשניים: בעלי הידע מזה וצרכני הידע מזה. הרב המוחלט של האנשים היו בעלי ידע בתחום אחד (תחום עיסוקם) וצרכני ידע בתחומי החיים האחרים (לקוחות, משתמשים, פציינטים וכו'). בין שני ממלאי התפקידים היה הסכם בלתי כתוב, קוד אתי בר-קיימא, על פיו בעל הידע מתחייב למקצוענות ולמומחיות בתחום הידע המקצועי, ובתמורה צרכן הידע מתחייב לתת בו אמון.

די אם נחשוב לרגע על העובדה שאנו מפקידים את גורלנו באוסף של בעלי ידע בתחום התעופה בעלותנו עם היקרים לנו מכל למטוס שמשייט בגובה עשרה קילומטרים מעל הים, או לחילופין מפקידים את גופנו בידיהם הנאמנות של בעלי הידע בתחום הרפואה בעלותנו על שולחן הניתוחים. שתי דוגמאות אלה מבין אינספור אחרות משקפות את המרכיב הבסיסי המאפשר את התנהלותנו בחברה המודרנית – האמון.

בשנים האחרונות, עם התפתחותו של המרחב הסייברי נבקע סדק בהסכם זה. ניוד המידע במרחבי הרשת הציבוריים ואחסנתו בענן מביאים אמנם בשורה גדולה בקצבי זמינות המידע, בפשטות הנגישות אליו, בטיוב יישומים כתוצאה מניתוח של נתוני עתק (Big Data), ובהתאמתם למגוון שימושים. דע-עקא שכ"תופעת לוואי" נפתח נתיב כניסה לגורמים שאינם מחויבים לקוד האתי של ניהול המידע, וביניהם אף גורמים זדוניים שכל מטרתם ערעור ההסכם מיסודו.  התערבות גורמים אלה מהשלבים המוקדמים של תכנון המוצרים, דרך מערכות ההפעלה ועד השתלטות עליהם בעת התפעול המבצעי הינם לא פחות מחלום בלהות שממדיו אינם ניתנים לשיעור.

כאשר טייס לא יוכל חלילה לסמוך על תצוגת נתוני הטיסה, הרופא על מערכת ההדמיה והניטור, הצרכן על תאריך התפוגה הרשום על מוצר המזון, האזרח על תוכן החדשות, התלמיד על העובדות בחומר הלימוד הנלמד בבית-הספר, המדען על אמינות נתוני הניסוי והמשקיע על מצב חשבון הבנק שלו – יאבד הבסיס המאפשר את קיומה של חברה בעידן המודרני, ותקצר מאוד הדרך להתפוררות אותו מארג המבטיח את קיומנו באיכות חיים ראויה. אין המדובר רק בנבואת זעם מבית מדרשו של אורוול המבקשת לקרוא תגר על תיאורי העתיד המרתק והמרגש מבית מדרשו של ורן.

למעשה זו תמונה ריאליסטית ומציאותית שסימנים לה כבר ניכרים בחיינו מדי יום. אין המדובר רק במתקפות סייבר פרי מלאכתם של האקרים נבלים או במלחמה עתידית בין מדינות עוינות. שילובם של ישויות בעלות אינטליגנציה מלאכותית כפרטים בחברה המודרנית, מבוססי מערכות מקושרות ולמידת מכונה (machine learning)  מהווים ממד חדש לחלוטין שבהכרח יהווה גורם מפר-איזון ומערער לציוויליזציה כולה. עד כמה שהדבר יישמע מופרך, נכון להיום מצויה בידנו טכנולוגיה בסיסית (יחסית) לפיתוח מערכות בעלות אינטליגנציה מלאכותית ראשונית, אולם בד בבד אין לנו ולו קצה חוט בהבנה איך בוחנים מערכות כאלה, לא בשלב התכנון ולא בשלבי הפעולה.

משימה זו נראית כמעט בלתי אפשרית בעיקרון עקב שני גורמים: האחת קישוריות – בכדי לבחון את המכונה ברמת מרכיבים או מכלול נדרשת הכלה של כלל הגורמים המקושרים אליה והמשפיעים על תפקודה, ובמרחב הסייברי המשמעות היא למעשה אינסופית. השנייה למידת מכונה – בהנחה שמערכת ההפעלה עצמה משתנה בכל מחזור פעילות, אובדת יכולת הצפי המבוסס על קשר אלגוריתמי קבוע בין קלט לפלט. באין יכולת ייחוס כזו, לא ניתן להגדיר מהו ניסוי מוצלח ומהו כישלון (בהיבט זה יהיו מכונות אלו דומות יותר ויותר לנו עצמינו, וכל שיוותר לנו לוודא הוא שהתנהגות המכונה אינה חורגת מתחום התנהגות מוגדר במפת תרחישים מסוימת).

נכון להיום מוגדר העיסוק באתגרים אלו במסגרת  התחום של אבטחת סייבר, אולם השקעה במחקרים אקדמיים ב"למידת מכונה זדונית (adversarial machine learning) וחיפוש פתרונות חדשניים בתחום מסמנים את מה שיהפוך בעתיד הלא רחוק לעשייה העיקרית בשמירת הסף של קיום החברה המודרנית בנוכחות טכנולוגיות מתקדמות במרחב הסייברי.