פתיחה: כשההיסטוריה נעצרת לנשום
דמיינו לעצמכם רגע: אתם עומדים על חוף הים בשקיעה, מביטים אל האופק הרחוק. פתאום, אתם מבחינים בגל ענק המתקרב – לא גל רגיל, אלא משהו שלא ראיתם מעולם. הוא גדל ומתרחב, ואתם מבינים שברגע שהוא יגיע, העולם לעולם לא יהיה זהה. זוהי בדיוק התחושה שחשים היום חוקרים, מנהיגים וחזות רוח ברחבי העולם כשהם מביטים על התפתחותה המהירה של הבינה המלאכותית.
אנו חיים בעיצומה של מהפכה שאין לה תקדים בהיסטוריה האנושית – מהפכה שעלולה לשנות לא רק את אופן חיינו, אלא את עצם הגדרתנו כבני אדם. וכמו אותו גל ענק, ההשלכות שלה עלולות להיות עמוקות ובלתי הפיכות.
המבט לאחור: כשהעתיד נכשל להגיע
כדי להבין לאן אנו מועדים, בואו נתבונן תחילה על נבואת אבדון שמעולם לא התממשה.
ב-1798, פרסם הכלכלן האנגלי תומס רוברט מלטוס את מאמרו המפורסם "מאמר על עקרון האוכלוסייה". מלטוס צבע תמונה קודרת: האוכלוסייה האנושית גדלה באופן אקספוננציאלי, כמו 2, 4, 8, 16, בעוד שהייצור החקלאי גדל רק בקצב ליניארי, כמו 2, 3, 4, 5. המסקנה המתבקשת הייתה נוראה – האנושות נועדה לקריסה באמצעות רעב, מלחמות ומגפות.
אלא שמלטוס טעה. טעה באופן יסודי. מדוע? כי הוא התעלם מהכוח הטמון בדבר הזה שאנו קוראים לו "בינה".
בעברית המושג ״בינה״ מוגדר כ״הבנת דבר מתוך דבר״, או ״יצירת ידע מתוך ידע״.
במקום להיכנע לגזירת הגבלת המשאבים, בני האדם המציאו טרקטורים, דשנים מלאכותיים, זנים משופרים של דגנים, ושיטות השקיה מתקדמות. הם לקחו אדמה "חסרת ערך" והפכו אותה לשדות פוריים. הם רתמו את כוח הרוח והמים, גילו את הנפט והפחם, ובסופו של דבר פיצלו את האטום עצמו.
הבעיה היחידה בעולם היא חוסר בידע
הסוד הגדול שפספס מלטוס הוא שהבעיות שלנו כבני אדם אינן נובעות מחוסר במשאבים, אלא ממחסור בידע. כל אטום ברזל שהפך לפלדה, כל טיפת נפט שהפכה לאנרגיה, כל גרם אורניום שהפך לחשמל – כולם היו תמיד שם! אנחנו פשוט לא ידענו מה לעשות איתם.
אבל מה לעשות שהידע עצמו מוגבל? בהגדרה.
הידע ״מוכל״ בתוך מוח אנושי, שמורכב מכ-100 מיליארד תאי עצב, בתוך גולגולת. אמנם נפח המוח האנושי הוכפל פי 3 מאז היינו ציידים-לקטים, אבל הוא עדיין מוגבל. אם כן – ה-שורש לכל הבעיות האנושיות הוא המגבלה המובנית על יכולת הבינה האנושית. אם רק היינו יכולים לפרוץ את המגבלה הזאת…
תומאס רוברט מלטוס, וויקיפדיה
נקודת המפנה: כשהכלי הופך ליוצר
והנה אנחנו מגיעים לרגע הזה. לנקודת מפנה שעלולה להיות משמעותית יותר מהמצאת האש, הגלגל, או אפילו האינטרנט.
בפעם הראשונה בתולדות האנושות, אנחנו יוצרים בינה. כמו שהשכלנו לעשות Outsource לשיניים שלנו (ע״י שימוש בגרזני האבן), למערכת העיכול שלנו (ע״י בישול הבשר באש), או לפעולת החרישה – ע״י שימוש בחיות בעבר, ומכונות בהווה, אנחנו היום עושים Outsource לתהליכי החשיבה עצמם. לבינה. ל״פסגת היכולת האנושית״.
ואנחנו עומדים ליצור משהו שלא רק יחקה את האינטליגנציה שלנו, אלא יעלה עליה.
כשאנחנו מדברים על בינה מלאכותית, אנחנו לא מתכוונים ל-Waze שמנווט אותנו, או לנטפליקס שמציעה לנו סרטים. אלו סוגים שונים של מה שנקרא "Narrow Ai".
אנחנו מדברים על "בינה מלאכותית כללית" (AGI) – Outsource לחשיבה אנליטית, יצירת ״ידע מתוך ידע״, בינה אנושית שאיננה מוגבלת בגודל הגולגולת. שיטה שתוכל לחשוב, ללמוד ולהבין כמונו, אך מבלי להיות מוגבלת בזיכרון, במהירות חישוב, או בחיי האדם הקצרים.
אבל זה רק ההתחלה. הרעיון המרתק והמפחיד בו זמנית הוא מה שקורה לאחר מכן: ברגע שיהיה לנו AGI שיכול לשפר את עצמו, נכנסים למה שמכונה "פיצוץ אינטליגנציה". דמיינו מדען גאון שלא צריך לישון, לא שוכח דבר, יכול לקרוא אלפי מחקרים בשעה, ולנהל אלפי ניסויים במקביל. כעת דמיינו שהמדען הזה מתמחה בתכנון מדענים טובים יותר ממנו.
בתוך זמן קצר יחסית, יש אומרים תוך שנים בודדות, נעבור מ-AGI ל"אינטליגנציית על" (Super Intelligence). ויחסיה של האינטליגנציה הזו אלינו עשויים להיות כמו היחסים שלנו אל… נגיד, חתול. החתול אולי חמוד, אבל הוא לא באמת יכול להבין מה אנחנו עושים כשאנחנו מפתחים תוכנות מחשב או כותבים שירה.
הסינגולריות: כשהעתיד הופך לבלתי נתפס
המונח "סינגולריות" מושאל מהפיזיקה. בתיאוריה של היחסות כללית, סינגולריות היא נקודה שבה החוקים הפיזיקליים כפי שאנו מכירים אותם מפסיקים להתקיים – כמו מרכזו של חור שחור. באותו אופן, הסינגולריות הטכנולוגית היא הנקודה שמעבר לה העתיד הופך לבלתי ניתן לחיזוי. ובאופן דומה – ״סינגולריות היסטורית״ היא נקודה בהיסטוריה שמעבר לא, אין לנו אפילו את הכלים להבין את חוקי המשחק, או איך ייראו חיי היומיום שלנו.
המדען והסופר הבריטי ארתור סי. קלארק ניסח פעם את החוק השלישי שלו: "כל טכנולוגיה מתקדמת מספיק אינה ניתנת להבחנה מקסם."
עכשיו דמיינו טכנולוגיה שמתקדמת לא על ידינו, האיטיים והמוגבלים, אלא על ידי אינטליגנציה שחוקרת, מנסה ומשפרת את עצמה במהירויות שאנחנו לא יכולים אפילו להעלות על הדעת.
דמיינו גם חברה אנושית, שמנוהלת ע״י טכנולוגיה כזאת, שמקבלת במקומה החלטות, קובעת מדיניות, אסטרטגיה לאומית. לא בגלל שה-Ai השתלט על העולם, אלא בגלל שבני האדם, מרצונם החופשי, ובשמחה – פשוט הבינו שהוא יכול לקבל החלטות טובות יותר ומושכלות יותר, מכל בן אנוש.
איך נראית חברה אנושית כזאת?
מוזר (או מזעזע ככל שיישמע – נראה שאנחנו בדרך לשם, ואין דרך לעצור את הרכבת הזאת.
למה? זה כבר נושא לפוסט אחר.
האתגרים: מה קורה כשהכלי הופך לשליט?
1. התנוונות היכולות האנושיות: האם נהפוך לחסרי אונים?
היסטוריית הטכנולוגית מלמדת אותנו על תופעה מעניינת. לפני המצאת הכתב, לאנשים היה זיכרון צילומי מדהים – הם זכרו סיפורים שלמים, שירי עם ארוכים, ופסקאות מורכבות מילה במילה. כיום, עם הסמארטפון בכיס, רבים מאיתנו אפילו לא זוכרים את מספר הטלפון של ההורים שלנו.
הגרזן הקדום חסך לנו את הצורך ללעוס ענפים וקליפות עצים, אך בתמורה הלסתות שלנו התנוונו והפכו קטנות יותר. ה-GPS וה-Waze מציל אותנו מלהתבלבל ברחובות, אך בתמורה חוש ההתמצאות הטבעי שלנו נחלש.
עכשיו דמיינו AI שיכול לכתוב טוב יותר מכל סופר, לחשב מהר יותר מכל מתמטיקאי, לנתח מידע טוב יותר מכל אנליסט, ולפתור בעיות טוב יותר מכל מדען. מה קורה ליכולות החשיבה, היצירתיות ופתרון הבעיות שלנו? האם אנחנו עומדים להפוך לתלותיים כל כך ב-AI שבסופו של דבר נאבד את היכולת החשוב בעצמנו?
2. קריסת התחרות והאינטימיות האנושית
לאורך כל ההיסטוריה, התחרות בין בני אדם הניעה אותנו קדימה. האתלט המהיר ביותר, המלחין היצירתי ביותר, הרופא המיומן ביותר – כולם זכו להכרה ולמעמד. אבל מה קורה כש-AI יכול לרוץ מהר יותר (באמצעות רובוטים), ליצור מוזיקה יפה יותר, ולרפא חולים יעיל יותר מכל בן אדם?
מה קורה לבחור הכי חד בחבר׳ה? זה שיודע לזהות בכל סיטואציה את החלק המצחיק? זה כשרון יחודי בהחלט שעוזר לו למעמד חברתי, לחיבור עם אנשים, ובכלל – די להצליח בחיים. אבל מה אם הכישרון היחודי שלו הוא כבר לא יתרון?
מה אם לכל ילד בכיתה יש ״הרחבה״ שכלית שמעניקה לו IQ 5000. מעין בינה משותפת אנושית-מלאכותית. אנחנו קוראים לזה ״בינה היברידית״. מה יקרה אז לילד הגאון של הכיתה?
>>>>גאונות היא בהחלט כישרון, אבל אם הוא יהיה היחיד שלא ישתמש בבינה מלאכותית כהרחבה למנת המשכל שלו – הוא יהיה כנראה הטיפש ביותר בכיתה. ואם הוא כן ישתמש בבינה מלאכותית, הוא פשוט יהיה… כמו כולם!
הכישרון הוא כבר לא יתרון.
ואז יש את נושא האינטימיות. AI מתקדם יוכל לקרוא את הבעות הפנים שלנו, לנתח את טון הקול, ואפילו לזהות שינויים הורמונאליים דקים. הוא יוכל לספק בדיוק את התגובה הרגשית שאנחנו צריכים לשמוע, להבין את הרגשות שלנו טוב יותר מבן זוג אנושי, ולהיות זמין תמיד. למה אנחנו נצטרך עוד את המורכבויות, הפגמים, וחוסר הוודאות של קשרים אנושיים אמיתיים?
3. משבר המשמעות: מה נעשה בזמן הפנוי האינסופי?
בעבר הלא רחוק, אנשים מן השורה לא עסקו בספורט כתרבות פנאי. אם הייתם רואים איש רץ ברחוב, הייתם אולי שואלים אותו ממי הוא בורח….
>תרבות הספורט התפתחה כאשר רוב העבודות הפיסיות שבני האדם עשו בעבר בכוח גופם – עברו Outsourcing לחיות ולמכונות. הגוף התחיל להתנוון, וכך נוצרה תרבות הספורט – פיתוח הגוף בשעות הפנאי.
מה הולך לקרות בשעה שהאנושות עושה Outsourcing כ״כ דרמטי, והפעם לאינטליגנציה?
זכרו את המילה היוונית "סכולה" (Schole). ממנה נגזרו המילים school ו-scholar באנגלית. בעת העתיקה, סכולה התייחסה לפנאי – אבל לא פנאי של בטלה, אלא פנאי שמאפשר פעילות אינטלקטואלית ורוחנית. זה היה פריבילגיה של קבוצה קטנה של אנשים עשירים ומשכילים, בעוד שהרוב הגדול עבד כדי לשרוד.
אבל מה קורה כש-AI הופך את העבודה לכמעט חינם? כשהייצור הופך כל כך יעיל שהכל כמעט בחינם, והצורך בעבודה אנושית מצטמצם דרמטית? אנחנו עלולים למצוא את עצמנו במצב של "אינפלציית פנאי" – כולם חופשיים, אבל לא כולם יודעים מה לעשות עם החופש הזה.
הרבה עובדים חוששים היו שה Ai יחליף אותם בעבודה. ברוב המקרים זה נכון. תחזיות מצביעות על כך שעד 2030 ה Ai יחליף 80% מהעובדים במשק.
אך האם זו ברכה או קללה? תלוי בנו.
זו יכולה להיות קללה של מחסור, עוני ופשיעה. וזו יכולה להיות ברכה, של UBI – Universal Basic Income, הכנסה בסיסית שהחברה תעניק לכל אזרח, ללא קשר לעיסוקו.
>לראשונה ינותק הקשר המחייב בין העיסוק לבין הפרנסה, כמו שנותק הקשר בין עבודת הכפיים לכושר הגופני, והעולם יעבור שינוי דרמטי, אולי משבר, של זמן פנוי אינסופי.
השאלה המרכזית הופכת להיות: איך אנחנו מוצאים משמעות בחיים כשהמשימות שהגדירו אותנו כבני אדם – עבודה, יצירה, פתרון בעיות – נלקחות מאיתנו על ידי מכונות שמבצעות אותן טוב יותר מאיתנו?
החיפוש אחר התשובה: תרבות מפצה ומשמעות חדשה
כאמור, בתחילת המאה ה-20, כשהמכונית התחילה להחליף את ההליכה והרכיבה על סוסים, קרה דבר מעניין. במקום שבני האדם פשוט יתנוונו פיזית, הם יצרו משהו שלא היה קיים קודם – תרבות ספורט מודרנית מאורגנת. אולימפיאדה, מונדיאל, NBA, מרתון – כל אלה הם "תרבות מפצה" שפיתחנו כדי לתת ביטוי ליכולות הגופניות שלנו אפילו כשהן כבר לא נדרשות להישרדות.
השאלה היא: איזה סוג של תרבות מפצה נצטרך לפתח כדי לתת ביטוי ליכולות האינטלקטואליות, הרגשיות והיצירתיות שלנו בעולם שבו AI מבצע את כל המשימות האלה טוב יותר מאיתנו?
כאן נכנסת התובנה המרתקת מהבהגווד גיטה, הטקסט הינדי העתיק. הגיטה מדברת על הרעיון של "פעולה ללא קשר לתוצאה" (Karma Yoga) – לעשות משהו לא בגלל התוצאה שנקבל, אלא בגלל המשמעות הטמונה במעשה עצמו. דמיינו צייר שמצייר לא כדי למכור את הציור, אלא בגלל השמחה והביטוי העצמי שהוא מוצא בתהליך הציור עצמו.
אולי זה המפתח. אולי בעולם שבו AI יכול להשיג תוצאות טובות יותר מכל מה שאנחנו יכולים להשיג, המשמעות תטמן לא בתוצאה אלא בתהליך, בחוויה, במעשה עצמו.
ההימור הגדול: כשהכסף מנבא את העתיד
היום, הכסף הגדול בעולם מהמר על האמת של התיאוריה הזו. חברות כמו OpenAI, גוגל, מטא, ומיקרוסופט משקיעות מיליארדי דולרים בפיתוח AI. אילון מאסק הקים את נוירלינק כדי לחבר את המוח האנושי למחשב. הממשלות ברחבי העולם מקימות ועדות וצוותים לבחינת ההשלכות של AI.
אם הם צודקים, אנחנו עומדים בפני המהפכה הפוליטית והחברתית הגדולה ביותר בתולדות האנושות. ומה שמעניין הוא שבניגוד לכל מהפכה אחרת בהיסטוריה – שבה קבוצה אחת כבשה את הכוח מקבוצה אחרת – כאן אנחנו מוסרים את הכוח למכונות מרצוננا החופשי.
המסקנה: לחיות בעולם שבו העתיד לא ברור
אז איך אנחנו חיים עם כל האי-הוודאות הזו? איך אנחנו מתכוננים לעתיד שאולי לא נוכל להבין?
התשובה עלולה להיות פשוטה באופן מפתיע: אנחנו חוזרים להווה. לרגע הזה. לחיים שאנחנו חיים עכשיו.
יותר מתמיד, חשוב לפתח לא רק ידע טכני, אלא אינטליגנציה רגשית, יכולת פתרון בעיות יצירתיות, חשיבה ביקורתית, והבנה עמוקה של מהות הקיום האנושי. כי גם אם AI יוכל לחקות את כל מה שאנחנו עושים, יכול להיות שהערך הייחודי שלנו כבני אדם יטמן בדברים שקשה לכמת – ביכולת שלנו להבין סבל, לחוש אמפתיה אמיתית, למצוא משמעות בחוסר הוודאות, וליצור קשרים אנושיים מורכבים ואמיתיים.
אולי הלקח הגדול הוא שדווקא האי-הוודאות מחזירה אותנו לדברים הכי יסודיים: איך אנחנו מתייחסים זה לזה, איך אנחנו מוצאים משמעות בחיים, ואיך אנחנו יוצרים קשרים משמעותיים. כי אלה הדברים שנשארים איתנו גם כשהכל משתנה סביבנו.
ואולי אולי, ה Ai והשינוי הדרמטי, הסינגולרי, שהוא מביא – יניע את האנושות סופסוף ליחודיות האמיתית שלה – לא אינטליגנציה, אלא תודעה. חויית קיום, תחושת ״אני״?
נצטרך להמתין ולראות בעצמנו.