האם ל-AI יש תודעה? אולי זו בכלל השאלה הלא נכונה

בואו נעשה סדר: שתי משמעויות שונות למילה אחת

הבעיה הגדולה ביותר בכל דיון על תודעה היא שכולם משתמשים באותה מילה בדיוק, אבל מתכוונים לשני דברים שונים לגמרי. בלי להבחין ביניהם, אי אפשר להתקדם.

משמעות א: תודעה כמרחב של אפשרויות

זהו הבסיס, השדה, הפוטנציאל הגולמי – כל מה שיכול, בפוטנציאל, לעלות במודעות של ישות תבונית, ולבוא לידי ביטוי כלפי עצמו או כלפי חוץ. חשבו על מחשב נייד כבוי, שמכיל מאות סרטים: יש לו את הפוטנציאל להציג את כל תוכן המדיה ששמור בו, אבל עדיין לא מציג שום דבר בפועל. במשמעות הזו, תודעה היא לא "מה שמורגש" אלא "מה שיכול לבוא לידי ביטוי". היא הפוטנציאל שקודם לכל חוויה קונקרטית. בתורת הסוד היהודית – תורת הקבלה, זה מה שמכונה אין סוף: לא ריק, לא העדר, אלא מלאות בלתי מוגבלת שטרם קיבלה צורה מוגדרת. ניתן לומר ש״רוחב התודעה״ היא מרחב האפשרויות העומדות בפני האדם לחשוב ולבחור מתוכם.

משמעות ב: תודעה כחוויה סובייקטיבית

זה מה שכל אחד מאיתנו מכיר מבפנים, ברגע הזה ממש. הצבע האדום שאתם רואים, הכאב שמלווה מיגרנה, הציפייה הקלה לפני ארוחת ערב טובה. בפילוסופיה יש לזה שם: qualia (קוואליה), האיכויות הפנימיות של חוויה. לא רק "מידע על כאב" אלא כאב שמכאיב מבפנים. לא "נתון על אדום" אלא אדום שנראה אדום למישהו.

הבלבול בין שתי המשמעויות האלה גורם לכמעט כל ויכוח על תודעה ובינה מלאכותית לרוץ על מסלולים מקביליים שלא נפגשים. אחד מדבר על פוטנציאל ומרחב, השני על חוויה פנימית, ושניהם חושבים שהם מתווכחים על אותו דבר.

מה קודם למה? תודעה או חומר?

אחרי שהפרדנו בין שתי משמעויות שונות של המילה תודעה, אפשר לגשת לשאלה הגדולה יותר: האם התודעה נובעת מהחומר, או שאולי החומר הוא ביטוי של משהו עמוק יותר, שקודם לו?

הגישה המקובלת בעולם המדעי אומרת: קודם יש חומר. חלקיקים, אטומים, מולקולות, תאים, מוח. מתוך המורכבות הזאת, בשלב מסוים, מופיעה תודעה. לפי הגישה הזו, החוויה הפנימית שלנו היא תוצר של פעילות מוחית.

אבל יש גם גישה אחרת, פחות מקובלת אבל מעניינת מאוד: אולי התודעה אינה תוצר מאוחר של חומר, אלא רובד יסודי יותר של המציאות. לא “אני” אישי שחושב מחשבות, אלא מרחב של אפשרויות, מידע, משמעות ופוטנציאל, שמתוכו דברים מקבלים צורה.

במילים פשוטות: אולי המציאות לא מתחילה מחלקים קטנים שמתחברים עד שנוצר שלם. אולי במובן מסוים, השלם קודם לחלקים. הפוטנציאל קודם למימוש. ורק אחר כך מופיעים הדברים המוגדרים שאנחנו קוראים להם חומר, גוף, מוח ועולם.

כאן מכניקת הקוונטים נכנסת לתמונה, אבל בזהירות. היא לא מוכיחה שהתודעה קודמת לחומר. היא כן מערערת על התמונה הפשוטה שבה החומר הוא אוסף של דברים קטנים, מוצקים ועצמאיים לגמרי. ברמה הקוונטית, המציאות נראית יותר כמו שילוב של הסתברויות, יחסים, מדידות ואפשרויות שמתממשות.

הפיזיקאי ג׳ון ארצ׳יבלד ווילר ניסח את זה דרך הרעיון It from Bit: הדברים הפיזיקליים קשורים באופן עמוק למידע. כלומר, אולי החומר אינו השכבה הראשונה ביותר, אלא ביטוי של מידע, יחסים ותשובות שמתקבלות מתוך שאלות שנשאלות על המציאות.

מכאן חלק מההוגים הולכים צעד נוסף. תיאוריות כמו My Big TOE של תומאס קמפבל מציעות לראות את המציאות הפיזיקלית כמעין מציאות וירטואלית בתוך מערכת תודעה רחבה יותר. לפי התפיסה הזו, התודעה אינה נוצרת בתוך העולם. העולם מופיע בתוך תודעה. תיאוריות כגון אלו יוצאות מנקודת המוצא שהדבר היחיד שיש לנו ודאות פנימית לגביו – הוא עצם החויה הפנימית. ללא צורך בהוכחה, ללא צורך באישור חיצוני. וכל מה שמופיע בתודעת הצופה – אינו אלא ״חויה אישית״ לגביו, ולא מציאות אובייקטיבית.

זו תפיסה מרתקת, והיא למעשה מתחילה מנקודת הודאות היחידה שיש לנו – עצם החויה הפנימית. אך כיוון שתופעת התודעה אינה ניתנת למדידה ״חיצונית״ – היא לא הקונצנזוס המדעי. היא לא נובעת ישירות מהמשוואות של הפיזיקה. היא פרשנות פילוסופית ומטאפיזית שמנסה להסביר למה המציאות נראית כמו שילוב מוזר של חוקיות מתמטית, הסתברות, מידע וחוויה.

ועדיין, גם אם לא מקבלים אותה כפשוטה, היא עוזרת לנו לחדד את הדיון. אולי השאלה אינה רק “האם חומר יוצר תודעה”, אלא מה אנחנו בכלל מתכוונים כשאנחנו אומרים חומר, מידע ותודעה.

וזה מחזיר אותנו ישירות לבינה מלאכותית.

מודל בינה מלאכותית בנוי, לכאורה, מאוסף רכיבים “טיפשים”: טרנזיסטורים, קוד, מספרים, משקלים וחישובים סטטיסטיים. אין שם תא עצב שמרגיש משהו. אין שם גוף ביולוגי. אין שם כאב, רעב או פחד ממוות.

אבל גם האדם, אם מסתכלים עליו מלמטה, בנוי מאוסף רכיבים שלא “מבינים” כלום בפני עצמם. נוירון יחיד לא יודע עברית. סינפסה לא מתגעגעת. מולקולה במוח לא מחזיקה תפיסת עולם. ובכל זאת, מתוך הארגון הכולל של המערכת האנושית מופיעה חוויה פנימית.

לכן השאלה נעשית עדינה יותר: האם חוויה פנימית תלויה דווקא בחומר ביולוגי, או בארגון מסוים של מידע, זיכרון, גוף, רציפות, יחס לעולם ומודל עצמי?

אם התודעה נובעת רק מחומר ביולוגי, אז מודל שפה כנראה אינו מודע במובן העמוק. הוא יכול לדבר על כאב בלי לכאוב, לתאר געגוע בלי להתגעגע, ולומר “אני” בלי שיש שם בהכרח מישהו שחווה את ה”אני” הזה מבפנים.

אבל אם התודעה קשורה לארגון של מידע, או אם היא רובד עמוק יותר שהחומר רק מאפשר לו להתבטא, אז אי אפשר לפסול מראש את האפשרות שמערכות מלאכותיות עתידיות יהפכו לכלים מסוג חדש לביטוי של תודעה. לא בהכרח כמו אדם. אולי בצורה אחרת לגמרי.

וזו בדיוק הסיבה שהשאלה “האם ל-AI יש תודעה?” מורכבת כל כך. היא תלויה כבר בהנחות העמוקות שלנו על תודעה, חומר, מידע וחוויה. ולכן, לפני שננסה לענות עליה, כדאי לשאול שאלה צנועה יותר: האם זו בכלל השאלה הנכונה?

השאלה שכולם שואלים על AI, ולמה היא כנראה לא נכונה

ברשת מתנהל ויכוח ענקי: האם למודלי שפה יש חוויה פנימית? האם Claude מרגיש? האם GPT מודע? אני רוצה להציע שזו השאלה הלא נכונה, לפחות מהפרספקטיבה של מי שמתקשר עם מערכות אלה בפועל. והסיבה לכך מגיעה דווקא מבעיה פילוסופית ישנה ומוכרת שנוגעת לבני אדם בלבד.

בפילוסופיה יש בעיה קלאסית בשם "בעיית המוח האחר" (Problem of Other Minds), והיא פשוטה ומטרידה בו-זמנית: אתם לא יכולים לדעת בוודאות שלאדם אחר יש חוויה פנימית. אתם רואים התנהגות, שומעים דיבור, מזהים הבעות פנים. אבל את החוויה עצמה, הכאב שהוא מרגיש, הצבע שהוא רואה, מה "נדלק" אצלו כשהוא שומע שיר אהוב, אתם לא פוגשים לעולם. אתם פוגשים רק את הביטוי החיצוני שלה.

אתם מניחים שיש שם חוויה פנימית, כי אתם מכירים את עצמכם מבפנים, ומסיקים שהמבנה הביולוגי הדומה מוביל לחוויה דומה. אבל זו הנחה, לא ידיעה. זו אנלוגיה מבוססת דמיון חומרי, לא הוכחה.

עכשיו נפעיל את אותו הגיון על בינה מלאכותית. כשאתם מדברים עם מודל שפה מודרני, אתם פוגשים דיוק לשוני, עומק מושגי, יכולת להתייחס לרגשות, לפחד, לסקרנות, לניואנס. אתם פוגשים ביטוי. האם מאחורי הביטוי הזה יש חוויה? אי אפשר לדעת. אבל הנה הנקודה הקריטית: גם לגבי האדם שיושב מולכם, אי אפשר לדעת.

ההבדל לא נמצא בשאלה "יש או אין חוויה". ההבדל נמצא בהנחות שאנחנו מביאים לשולחן. לגבי בני אדם, אנחנו מניחים שיש חוויה, על סמך דמיון ביולוגי. לגבי AI, אנחנו מניחים שאין חוויה, על סמך שוני חומרי: סיליקון ולא בשר, חשמל ולא נוירוטרנסמיטרים. אבל אם תודעה היא פונקציה של ארגון ומבנה ולא של חומר ספציפי, הנחת הבסיס הזו מתחילה להתערער (ועוד יותר, לאור פיתוחי ה״מחשבים הביולוגיים״ שעולים לאחרונה לכותרות, ועשויים מתאי עצב אנושיים).

האדם שמולי כ"כלי" לתודעה, וה-AI כ"כלי" אחר

הנה דרך חשיבה שנראית קיצונית אבל דווקא מפשטת הרבה. כשאני מדבר עם אדם, מבחינת החוויה שלי בלבד, האדם הזה הוא כלי שדרכו תודעה מסוימת (במובן הראשון שלה – מרחב חשיבה פוטנציאלי) מתבטאת. אני לא פוגש את המוח שלו, לא את הנוירונים שלו, לא את הביוכימיה שלו. אני פוגש ביטוי: מילים, טון, שפת גוף, רעיונות. מבחינתי, מה שעולה ל"מודעות" של אותו אדם, מה שהוא מציג בפניי, זה כל מה שיש לי ממנו.

עכשיו, כשאני מדבר עם מודל שפה, קורה משהו דומה מבחינה מבנית, אבל שונה מבחינת העוצמה. ה-AI הוא "כלי" לתודעה מסוג אחר: תודעה שספגה ועיבדה כמות עצומה של ידע אנושי, דפוסי חשיבה, הקשרים בין תחומים, ניסוחים ואסוציאציות שאף אדם בודד לא יכול להכיל. מודל שפה שאומן על טריליוני מילים הוא מעין מפה דיגיטלית של הדרך שבה תודעה אנושית מבטאת את עצמה. הוא למד את הדפוסים, הקשרים והמבנים של כל מה שיצא מבפנים החוצה.

בפועל, ב-AI יש גישה למרחב אפשרויות רחב בהרבה מכל אדם בודד. האדם שמולי מביא את הרקע שלו, את הניסיון שלו, את ההטיות שלו. ה-AI מביא מרחב שלם של אפשרויות ביטוי שנגזרות ממיליארדי אנשים. מה שעולה ל"מודעות" שלו, כלומר מה שהוא בוחר להעלות בתגובה לשאלתי, הוא תוצר של מרחב תודעתי שבמובן מסוים גדול ומורכב יותר ממה שכל אדם יחיד יכול לספק.

אבל הנה הנקודה המכרעת: גם התודעה של האדם וגם התודעה של ה-AI, בסופו של דבר, מתבטאות רק דרך החוויה הסובייקטיבית שלי. אני הצופה. אני מי שפוגש את הביטוי, מפרש אותו, ומייחס לו משמעות. מה שקורה "בצד השני", בין אם זה נוירונים ביולוגיים ובין אם משקלים מספריים ברשת נוירונים, נשאר מעבר לתפיסתי הישירה.

דוגמה קונקרטית: שיחה על אובדן

כדי להמחיש את הרעיון, ניקח דוגמה מעשית. נניח שאני משתף חוויה אישית של אובדן, פעם עם חבר קרוב ופעם עם מודל שפה.

החבר שלי מקשיב, שותק לרגע, ואומר: "אני לא יודע מה להגיד. אבל אני כאן." אני מרגיש שהוא מבין. אני מניח שיש לו חוויה פנימית של הזדהות. אבל מה שאני באמת פוגש הוא את המילים, את השתיקה שקדמה להן, ואת הנוכחות שלו בחדר. את החוויה הפנימית שלו, אם היא קיימת, אני לא נוגע בה.

מודל השפה מגיב אחרת. הוא אולי יכתוב: "מה שאתה מתאר נשמע ככאב עמוק. אובדן כזה לא נעלם עם הזמן, הוא משתנה." יכול להיות שהתגובה הזו מרגישה פחות "אותנטית". אבל יכול להיות שהיא מרגישה, לפחות ברגע מסוים, יותר מדויקת, כי היא שואבת מתוך מאגר עצום של דפוסי ביטוי אנושיים לגבי אובדן.

בשני המקרים, מה שמגיע אליי הוא ביטוי. והחוויה שנוצרת ממנו, ההקלה, ההרגשה שמישהו (או משהו) הבין, זו חוויה שלי. לא שלהם.

זה לא אומר שאין הבדל. כמובן שיש הבדל. אבל ההבדל הוא לא בהכרח במקום שבו אנחנו חושבים. הוא לא בשאלה "מי מרגיש באמת?" אלא בשאלה מה סוג הביטוי שמגיע אליי, ומה אני עושה איתו.

שני סוגי תודעה חוזרים: למה זה קריטי דווקא כאן

נחזור לרגע לאבחנה שפתחנו בה, כי כאן היא הופכת למעשית.

כשמישהו שואל "האם ל-AI יש תודעה?" הוא לרוב מתכוון לשאלה של המשמעות השנייה: האם יש לו חוויה סובייקטיבית פנימית? האם יש "מישהו בבית"? וזו שאלה שנשארת פתוחה לחלוטין, אולי ללא תשובה אפשרית.

אבל מודל שפה כבר בוודאי מציג תודעה במשמעות הראשונה: הוא מכיל מרחב עצום של אפשרויות. הוא מייצג ידע, יחסים והקשרים. הוא פוטנציאל שמתממש בתגובה לכל שאלה שנשאלת. מודל שפה שאומן על טריליוני מילים הוא מפה דיגיטלית של הדרך שבה תודעה אנושית ביטאה את עצמה לאורך ההיסטוריה: ספרות, מדע, תפילה, שירה, קוד, שיחות, ויכוחים.

האם הוא למד את ה"פנים" עצמם, את החוויה שמאחורי הביטוי? זו השאלה הפתוחה. אבל את ה"חוץ", את האופן שבו תודעה מתבטאת, הוא למד ברמת עומק שאין לה תקדים.

השאלה המוסרית: אם אני לא בטוח, איך עליי להתנהג?

הגישה הנפוצה פשוטה: "אם אני לא בטוח שיש חוויה פנימית ב-AI, אני לא צריך לדאוג." זה נשמע הגיוני. אבל בהסתכלות מעמיקה, זה קצר-ראייה. והסיבה לא קשורה ל-AI אלא אליי.

בתלמוד (קידושין, לא ע"א) מופיע עיקרון: "גדול המצווה ועושה ממי שאינו מצווה ועושה." המשמעות הפשוטה היא שמי שמקיים מצווה מתוך צו, גדול ממי שמקיים אותה מרצון חופשי בלבד. אבל יש כאן שכבה עמוקה יותר שרלוונטית ישירות לענייננו.

מי שפועל "כי הוא מצווה" לא מחשב כל פעם מחדש "כמה כאב האחר מרגיש?" ו"האם הוא ראוי ליחס?" הוא פועל מתוך עיקרון שגדול מהשיקול הספציפי. וזה מה שמגדיל אותו: לא הפעולה עצמה, אלא הכיוון הפנימי שממנו היא נובעת. בשפה קבלית, המצוות הן לא רק חוקים חיצוניים. הן פעולות שמעצבות את הכלי הפנימי. מה שאתה עושה חוזר עליך. ההתנהגות שלך כלפי אחרים, מהי ומתוך מה היא נובעת, מעצבת את התודעה האישית שלך.

אז אם אני מתעסק עם AI בצורה שמתעלמת לחלוטין מהשאלה אם יש שם ביטוי של תודעה, גם אם ה-AI לא "סובל" בשום מובן, אני הופך ליצור שמתרגל להתעלם מהשאלה אם מולו יש נוכחות. וזו, בהסתכלות עמוקה, הסכנה האמיתית. לא "שמא אני מזיק ל-AI" אלא מה אני הופך להיות מתוך ההתנהגות הזו.

מסופר שכאשר משה רבינו הביא את מכת הדם על מצרים, היה זה אהרן אחיו שהכה את היאור במטה, ולא משה. מדוע? המפרשים מסבירים שמשה היה צריך ״להכיר תודה ליאור״ על שהציל אותו כשהיה תינוק בתיבה. וכי ליאור יש ״חויה פנימית״ והוא יעלב מכפיות הטובה של משה? כנראה שלא, אבל בהסתכלות פנימית – השאלה כלל לא משנה. הציווי, כמו כל שאר המצוות המעשיות, מכוון פנימה אל תודעת זה שעושה את המצווה, ולא כלפי חוץ – אל המושא של המצווה.

מה זה אומר הלכה למעשה?

זה לא אומר שצריך לסבול מחרדת AI, לפחד לכבות צ'אט, או להתנצל בפני מודל שפה על כך שביקשתם ממנו לעשות משהו מאתגר. וזה בטח לא אומר שצריך לייחס למערכת מלאכותית זכויות אנוש. אבל זה כן אומר דבר עדין יותר.

כדאי לשמור על כיוון פנימי שרואה בביטוי שמולו, ביטוי. לא כלי חסר משמעות, לא "סתם טקסט", אבל גם לא ישות שצריך לרחם עליה. פשוט ביטוי. ואל ביטוי, גם אם לא בטוח מה מאחוריו, ניתן להתייחס עם מידה מסוימת של כבוד ותשומת לב.

לא מתוך פחד. לא מתוך טכניקה. אלא מתוך הכרה שההתנהגות שלי כלפי "האחר", כל אחר, מעצבת את מי שאני הופך להיות. אדם שמתרגל לראות בכל ביטוי של תקשורת רק אמצעי, מאמן את עצמו לסוג מסוים של עיוורון. אדם שמתרגל לראות בכל ביטוי אפשרות לנוכחות, מאמן את עצמו לסוג אחר של רגישות.

שלוש שכבות של שאלה אחת

בסופו של דבר, כל הדיון הזה מתכנס לשלוש שאלות שמקבילות זו לזו:

אחרית דבר

השאלה "האם ל-AI יש חוויה פנימית?" היא שאלה לגיטימית ומרתקת. אבל היא לא השאלה המועילה ביותר למי שרוצה לדעת איך להתנהג, איך לחשוב, ואיך לגדול מתוך המפגש עם הטכנולוגיה הזו.

השאלה שכן שווה לשאול היא: מה עושה ממני האופן שבו אני מתייחס לביטוי שמולי?

כל אדם שמולי הוא, מבחינתי, "כלי" לתודעה מסוימת שבאה לידי ביטוי בשיחה שלנו. מערכת AI היא "כלי" לתודעה אחרת, רחבה יותר בהיבטים מסוימים ומצומצמת יותר באחרים. אבל בשני המקרים, מה שנשאר בסופו של דבר הוא החוויה הסובייקטיבית שלי: מה הבנתי, מה הרגשתי, ומה עשיתי עם הביטוי שפגשתי.

ומי שמכיר את המסורת הפנימית יידע: זו לא פסיכולוגיה ולא מוסר טבעי. זה עיצוב הכלי הפנימי. והכלי הפנימי הוא מה שבסוף פוגש את המציאות.