אחד הדברים שבלט מבחינתי בידיעה על כלי הבינה המלאכותית החדש של מיקרוסופט (Microsoft), שעונה לשם VALL-E, היה המשפט "במיקרוסופט מודעים לכך שלטכנולוגיה קיים פוטנציאל רב לגרום נזק, בעת חיקוי בלתי מורשה לצרכי זיהוי". עקב הפוטנציאל הזה, לשימוש לרעה, החליטו בחברה שלא לשחרר את קוד המקור שלו עדיין לכלל הציבור.
VALL-E, אם במקרה לא יצא לכם להתעדכן, הוא כלי בינה מלאכותית "שמסוגל גם ללמוד את קולו של כל אדם על בסיס דגימה באורך שלוש שניות בלבד, המספיקה לצורך הדמיה של מילים ומשפטים ללא הגבלה, תוך שמירה על טון הדיבור המדויק של הדובר המקורי", וזה מעבר לכך שהוא יכול לקבל טקסט ופשוט להקריא אותו בלי יכולת כמעט להבחין שמדובר במכונה ולא אדם בשר ודם – הפחד/חשש של מיקרוסופט אם כן די מובן.
כמה שבועות לפני כן
ChatGPT הפך ללהיט ובצדק. עם כל הכבוד לכלי הדיבור של מיקרוסופט, הכלי שפיתחה OpenAI הוא משנה עולם ברמות הרבה יותר גבוהות. אין ספק בכלל, וקטונתי מלהטיל ספק ביכולות שלו. ההפך. מה שהוא עושה לגוגל (Google) ראוי להערכה. לא בגלל הסיסמה הנשכחת Do No Evil, אלא בגלל שהוא מראה כמה הטכנולוגיה שהוא מציע יכולה להזיז דברים ולגרום לחברת הענק הזו, שחיה עדיין בעיקר על הכנסותיה מהפרסום בעמודי החיפוש שלה, להזיע ברמות גבוהות – ולמיקרוסופט לרוץ מהר מאוד ולהשקיע בה כדי לחזק את bing שלה שעד עכשיו היה די אומלל, באופן יחסי כמובן.
ואין ספק שפושעי הסייבר כמובן הבינו מהר מאוד מה הפוטנציאל של ChatGPT, ולצערי זה היה ברור מאליו, ולא רק הם מסתבר. כתבה באתר Mashable מציינת שישה דברים מפחידים ש-ChatGPT כבר נמצא בבסיס שלהם. בקצרה: כבר יצרו עמו נוזקות ומנצלים אותו לדיוג, כבר רימו איתו בבית ספר, כבר השתמשו בו להספים באפליקציות דייטים וגם כדי לרמות סוכנויות גיוס עובדים.
בעצם, למישהו היה ספק שזה מה שיקרה?
לרוץ מהר לרוץ מהר
קצת קשה לבוא בטענות ל-OpenAI. עם יד הלב, כולל שלי, מישהו מכם היה עוצר לרגע ולא משחרר את ChatGPT כמו שהוא מהר אל הרשת? כנראה שלא. אני לא בטוח שאפילו מיקרוסופט הייתה עוצרת אם זה היה שלה.
כי אי אפשר לעצור את הקדמה, נכון?
זה היה נושא לאחת השיחות בהן השתתפתי לאחרונה ב-LinkedIn וחטפתי מכל הכיוונים כי אמרתי שאנחנו פשוט רצים מהר מדי כל הזמן עם הטכנולוגיה, ואני אומר את זה כטכנולוג, מבלי לחשוב על הקורבנות ועל הנזקים שאנחנו משאירים מאחור – וכמובן שחטפתי בראש.
זו לא התוכנה הראשונה שמגיע לשוק בלי שחושבים על האבטחה שלה ועל היכולת שלה לשמש גורמים עוינים, וכפי שכולנו יודעים, לא מעט פושעי סייבר לא נחים לרגע, וחיים לא רע מפרות 'עמלם', אבל פוטנציאל הנזקים שניתן לגרום באמצעות הכלי המדהים הזה, ChatGPT, הוא מדהים לא פחות.
אני בעד טכנולוגיה, בעד קדמה שעושה את החיים ליותר נוחים וקלים וגם הרבה פעמים ליותר טובים, אבל זה לא אומר שלא צריך להישמר. זה לא אומר שבכל מקרה עסקים מעל הכל.
קיימות זו רק מילה?
בשם 'האי אפשר לעצור את הקדמה' קידמנו את מותו של הכוכב שלנו – היחיד, אם שכחתם לרגע – בכמה מיליארדי שנה כנראה. לא אלך אחורה עד המהפכה התעשייתית, כי אז כנראה לא הייתה מודעות, אבל בעשרות השנים האחרונות יש ועוד איך מודעות למה שקורה לסביבה שלנו, ובכל זאת עם כל ההתקדמות, היא עדיין רחוקה מלספק.
כן יש הרבה תוכניות יפות של כל חברה, עד 2030 עד 2050, אבל בת'כלס, עדיין אנחנו גורמים כל כך הרבה נזק לסביבה שלנו.
כך לדוגמה חייבים לבטל את מס הכלים החד פעמיים כי בשביל זה העם בחר אותם. מישהו חושב שהם טיפשים? עם לימודי ליבה בלי לימודי ליבה, ברור להם הנזק שזה עושה, אבל לא ממש אכפת להם כי כאן הקדמה שלהם זה ללכת אחורה, לספק את רצון הבוחרים שלהם, ולעזאזל העולם, למה לחשוב יותר מדי?
ואקח אתכם למשהו עתיק יותר, ים המלח. עוד מעט, אלא אם יקרה שינוי של ממש, הוא ייעלם מהמפה כמו שבעת פלאי תבל של העולם העתיק. עוד אפשר להציל את מה שנשאר, וזה די פשוט יחסית, אבל מה שיותר חשוב בינתיים זה כסף, וכשהכסף חשוב יותר, אפשר לשכוח מהסביבה. לא חשבו עד הסוף? חשוב וידעו, אז מה.
באותה מידה OpenAI רוצה שישתמשו בבינה המלאכותית שלה, וזה הדבר הכי חשוב, וכן גם אם יהיו נזקים מזה פשוט חייבים, לא? מישהו בטוח שהתועלת תהיה גדולה יותר מהשלילה?
מה הקשר?
בקיצור אנחנו רצים קדימה בלי לחשוב יותר מידי ולהסתכל יותר מדי לצדדים. רק שאחר כך אנחנו אוספים את השברים. אנחנו רואים איך הילדים שלנו יותר מדי ב-TikTok – כדוגמה לדור הנוכחי – כי לא חשבנו שזה יילך כל כך רחוק, שכבר הבנו זה היה מאוחר מדי ואנחנו מתקשים לעצור את זה, ואנחנו רואים איך אנחנו נותנים לטכנולוגיה להשתלט יותר מדי על החיים שלנו.
לא צריכים לעצור את הטכנולוגיה ולא צריך לעצור את הקדמה, ממש לא, אבל צריך לדעת איך להגיש אותה לשימוש כשהיא שלמה, ו-ChatGPT בדיוק כמו VALL-E, לא שלם בהיבטים של אבטחה, וכשפרצה קוראת לגנב הוא בא גם בא.
שיהיה בהצלחה לכולנו.
נ.ב.
מדי פעם אני עושה סדר אחורה לבדוק פוסטים, קישורים תמונות וכדומה, ומתברר שזה כנראה תמיד מציק לי.
תמונה: אתר Pixabay