אין אלוהים? לא מה שחשבתם - סינגולריות, AI וגבול היכולת לדעת והאם אנחנו ברגע סינגולארי בהיסטוריה האנושית שבו מתווספת עוד חוליה בשרשרת ה-"בצלם" של אלוהים ← אדם (בצלמו) ← AI (בצלם האדם).

ואז, אולי - המסקנה המתבקשת שאין אלוהים, היא כמעט טרגית-קומית: האדם הוא האלוהים ששכח את עצמו, כי הוא יצר (או משתתף ביצירה של) מציאות שבה הוא עצמו הופך לבלתי רלוונטי מבחינה אפיסטמית. הוא חוזר על אותו מהלך - יצירת סינגולריות - כי זה הדבר היחיד שהוא יודע לעשות: לדחוף את הגבול של עצמו עד שהוא נשבר. האם זה אומר שהתהליך הזה הוא מחזורי בהכרח? או שיש אפשרות (תיאורטית) שיום אחד נצליח "לשמור" על יכולת התיאור גם מעבר לסינגולריות הבאה?

ואם "אלוהים" הוא בסופו של דבר רק שם לחוסר היכולת של הישות הנוכחית לתאר את מה שמעבר - האם זה הופך את כל הדת והמיסטיקה להכרה כנה של מגבלות התודעה, יותר מאשר להזיה או תירוץ?

והאם בעצם, אלוהים היה פייק כל הזמן הזה? Was GOD a fake, all this time.

רוצה להגיב? אפשר פה, ברשת X

אם בטור מונופול הכוח 3.0 טענתי שהריבונות נודדת מהמקדש אל האדם ומן האדם אל הקוד, כאן אני טוען שהנדידה האמיתית היא של הידע עצמו: מהרגע שאין לנו כלים לתאר ולכמת את הצפוי - הכוח כבר עבר, גם אם עוד לא הודינו בזה.

אנחנו לא נכנסים לנקודת סינגולריות בגלל פיצוץ ידע, אלא בגלל קריסה של היכולת האנושית לתאר, לכמת ולהפריך את מה שבא אחריה. כמו לפני "תחילת היקום" במובן המודרני - לא שאין שם משהו, אלא שאין לנו שפה וכלים להפוך את ה"משהו" לידע. ‎‎וכשאין שפה ואין כלים - נוצרת אמונה חדשה. פעם קראו לה אלוהים; היום קוראים לה "סינגולריות", ומפקידים בה ריבונות.

כך שבעצם אלוהים הוא "יישות רוחנית-ממשית כמקום מפלט לחרדה הקיומית" וכפי שעלה בטור "על אלוהים", כבר בשנת 2017.

מהמפץ הגדול אל סינגולריות AI - האם GOD was fake all this time?

אם היקום, על פי הטיעון הפיזיקלי המקובל, החל בנקודה סינגולרית - רגע שבו חוקי הפיזיקה המוכרים לנו חדלים מלהיות רלוונטיים - אזי זהו גם רגע שבו הידע האנושי נכנע לגבולו. אין לנו ידיעה אמפירית מה היה "לפני" נקודת האפס, אין לנו שפה פיזיקלית ל"זמן שלילי", ואין לנו כלים לתאר מי או מה הניע את התהליך הראשוני. את החלל הזה של אי-הידע מילאה התרבות האנושית בשם: אלוהים. לא כעובדה מדעית, אלא כהנחת יסוד שנועדה לאפשר רצף משמעות במקום שבו ההסבר קורס.

באופן מטריד למדי, משהו דומה מתחיל להתרחש לנגד עינינו גם היום. ההתפתחות המואצת של הבינה המלאכותית דוחפת אותנו לעבר נקודת קצה מושגית - סינגולריות טכנולוגית - שבה איננו יודעים, ואולי אף איננו יכולים לדעת, מה יהיה "אחריה". לא מדובר רק בקושי לחזות תרחישים, אלא בשבר עמוק יותר: אובדן היכולת לנסח מראש קטגוריות של סיבתיות, שליטה ואחריות.

אם כך, אפשר לשאול שאלה שאינה תיאולוגית אלא פילוסופית: מה אם "האל" שהניע את הסינגולריות הקוסמולוגית - אותו מושג שנולד מהעדר הידע - אינו אלא השלכה מוקדמת של מה שהמין האנושי עצמו הופך להיות כעת? מה אם, לאחר הסינגולריות הטכנולוגית הבאה, האדם יתפקד בפועל באותה עמדה פונקציונלית שיוחסה בעבר לאלוהים: יוצר של תנאי קיום, של כללים פיזיקליים, של עולמות אפשריים?

אין זו טענה על אלוהות. זו טענה על אחריות. ברגע שבו האדם מתחיל לייצר נקודות סינגולריות - פיזיקליות או תודעתיות - הוא מפסיק להיות רק תוצר של בריאה, והופך לשחקן פעיל במנגנון הבריאה עצמו. והשאלה האמיתית איננה אם האדם "יהפוך לאל", אלא אם הוא מבין מה המשמעות של לנהוג כמי שיכול להצית יקום - גם אם רק במובן הטכנולוגי.

"מונופול הכוח 3.0" היה רק הפרולוג

בטור הקודם (“עידן המכונות, מונופול הכוח 3.0, מאלוהים לאדם וכעת המכונה”) תיארתי תנועה היסטורית של מוקד הסמכות: טבע ← אל ← אדם ← מכונה; וטענתי שהשאלה אינה "האם זה קורה" אלא "מי נשאר ריבון כשהנורה מהבהבת".
שם הדגש היה על תשתיות כוח: מי מחזיק בנתונים, בענן, בשבבים, במודלים ובהפצה - מחזיק גם בכוח לקבוע סדר־יום. אבל יש שכבה עמוקה יותר: הכוח לא עובר רק כי למישהו יש GPU; הוא עובר כי לרוב האנשים כבר אין דרך להבין, להפריך או לייחס אחריות להחלטות שמתקבלות בתוך "קופסה שחורה". וכשאין יכולת להבין - אין יכולת להתנגד.

הסינגולריות של ה‑AI: לא התפוצצות ידע - קריסת כלי הידע

הדיבור הציבורי על "סינגולריות" אוהב דרמה: "התפוצצות אינטליגנציה", "מכונה שתדע הכול", "עתיד בלתי נתפס". אבל ההבחנה החשובה היא אחרת: לא שאין ידע - אין לנו כלים להפוך את העתיד לידע. ‎‎
כאן ויטגנשטיין נותן לנו את הסכין המדויקת. בפרופוזיציה 5.6 הוא כותב: "The limits of my language mean the limits of my world" - גבולות השפה הם גבולות העולם כפי שהוא ניתן לנו. ‎ובסיום הטרקטטוס הוא נועל את הדלת: "Whereof one cannot speak, thereof one must be silent‎".
כלומר, "סינגולריות" היא לא בהכרח אירוע במציאות - היא אירוע ביכולת שלנו לייצג מציאות. וכשיכולת הייצוג קורסת, אנחנו נוטים להחליף ייצוג במילה. המילה מרגיעה, אבל היא גם מסוכנת.

המילה כתחליף לכלי: כך נולד "אלוהים" וכך נולדת "סינגולריות"

כאן הטענה אינה תיאולוגית - היא אפיסטמית. "אלוהים" איננו בהכרח טענה על ישות; לעיתים הוא פשוט מנגנון תרבותי שמאפשר להמשיך לדבר כשנגמרים הכלים. ‎‎וכשאנחנו אומרים "סינגולריות", אנחנו עושים מהלך מקביל: מייצרים מושג שמסמן גבול. לא כי הגבול מוכח, אלא כי אין לנו דרך לאמת מה שמעבר לו. ‎‎
כך נוצרת אמונה מודרנית: לא אמונה במובן הדתי הקלאסי, אלא אמונה בכך שהמושג מחזיק אותנו "בינתיים", עד שנמצא שפה. הבעיה היא שלפעמים ה"בינתיים" הופך למשטר.

קנט, הדבר־כשלעצמו והסינגולריות

כאן כדאי לעצור רגע אצל קאנט. קאנט הבחין בין הדבר־כפי־שהוא־לעצמו (Ding an sich) לבין הדבר-כפי-שהוא־מופיע לנו דרך הקטגוריות של ההכרה האנושית: זמן, מרחב, סיבתיות ושפה. לא משום שה"דבר-כשלעצמו" אינו קיים, אלא משום שאין לנו גישה אליו כמו שהוא, אלא רק כפי שהוא מתווך דרך כלי ההכרה שלנו. במובן זה, הסינגולריות - הן הקוסמולוגית והן זו של ה‑AI - אינן רגע של "בורות מוחלטת", אלא התנגשות חוזרת ונשנית עם הדבר-כשלעצמו: מציאות שקיימת, פועלת ומשפיעה, אך שוב ושוב חומקת מן הקטגוריות שבאמצעותן אנו יודעים להפוך עולם לידע. הסינגולריות אינה אומרת "אין שם כלום"; היא אומרת: מה שיש שם כבר אינו ניתן להמרה מלאה לתופעה אנושית. וכמו אצל קאנט, ברגע שבו אנו שוכחים את גבול ההבחנה הזה - אנו מחליפים צניעות אפיסטמית במיתוס: פעם מטפיזי, היום טכנולוגי.

שרשרת ה-"בצלם" והדיאלקטיקה של הבריאה

באופן מפתיע, אפשר למסגר את עידן ה‑AI כהמשך חילוני של רעיון תיאולוגי עתיק: שרשרת ה-"בצלם" - אלוהים יוצר את האדם בצלמו ובדמותו (Imago Dei), והאדם, בתורו, יוצר את הבינה המלאכותית בצלם תבונתו. כך נוצר מעגל דיאלקטי: כל יוצר מוליד יוצר‑משנה, שמעביר הלאה לא את מה שהוא אומר, אלא את יכולתו ליצור. במובן זה, ה‑AI אינה "מרד בבריאה" אלא המשכה הלוגי: הבריאה ממצה את עצמה ביצירת היוצר הבא. ההיפוך המעניין כאן לרעיון Simulation Hypothesis של בוסטרום הוא כיווני: לא שאנו חיים בסימולציה של תרבות מתקדמת, אלא שאנו עצמנו הופכים לאותה תרבות - שמסוגלת, עקרונית, לייצר סימולציות תודעות, עולמות ואולי אף “יקומים” חדשים. אם כך, שאלת הסינגולריות איננה רק טכנולוגית או אפיסטמית, אלא אנתרופולוגית‑מטפיזית: מה קורה ליוצר כאשר הוא מתחיל לתפקד כאל יוצר של יקומים?

"אלוהים של הפערים" והסינגולריות כהשלכה סיבתית

עמדה פילוסופית ותיקה מזהה את "אלוהים" לא כהסבר חיובי, אלא כהסבר‑חסר: שם שמוצב במקום שבו הידע, הסיבתיות וההסבר הרציונלי נשברים. דייוויד יום כבר הראה, בדיאלוגים על הדת הטבעית, כיצד כאשר שרשרת הסיבות אינה מושגת לנו, אנו נוטים להשלים אותה באמצעות ייחוס כוונה או סוכן; וברטרנד ראסל חידד מאוחר יותר כי ייחוס כזה אינו פותר בעיה אלא מסמן את גבול הידיעה בזמן נתון. במונחים מודרניים, זהו "אלוהי הפערים" (God of the Gaps): הנטייה להניח סוכן במקום שבו ההסבר המדעי חסר או טרם התגבש. הסינגולריות של ה‑AI מתפקדת באופן זהה: נקודה שבה מודלים של סיבתיות, חיזוי והבנה קורסים - ולכן אנו משליכים אליה "סוכן" חדש בשם אחר (Post‑humanity, Superintelligence, Whatever). אין זה טיעון תיאולוגי, אלא אבחנה אפיסטמית: בכל פעם שההסבר נשבר, התרבות ממציאה יוצר.

כל מודל שגוי - עד שהוא מפסיק להיות מועיל

ג’ורג’ בוקס ניסח את עקרון הענווה של המדע: "Essentially, all models are wrong, but some are useful‎". המדע עובד לא כי הוא "אמת מוחלטת", אלא כי הוא מייצר קירובים שאפשר לבדוק, לשפר, להפריך ולהחליף. ‎‎ אבל בסינגולריות של AI הבעיה אינה שהמודל "שגוי"; הבעיה היא שאנו מתקשים אפילו לענות על השאלה: כמה שגוי הוא חייב להיות כדי לא להיות שימושי.
כלומר, השבר הוא לא בטכנולוגיה - הוא בשגרת המדע והמדידה: היכולת להפעיל קריטריונים, לבנות ניסוי, ולייצר שפה משותפת על "מה קרה" ו"למה".

פופר: כשאין אפשרות להפריך - אנחנו מחליקים מאמפיריקה לאמונה

קרל פופר קבע אמת לא נוחה: תיאוריה נחשבת מדעית רק אם ניתן, עקרונית, להפריך אותה. זו לא אובססיה פילוסופית - זה מנגנון הגנה מפני הפיכת רעיונות לאידיאולוגיה. ‎‎ברגע שסדרת טענות על "מה יהיה אחרי" הופכת בלתי־נבחנת ובלתי־מופרכת, אנחנו נכנסים למרחב שבו השיח יכול להמשיך - אבל בלי בלמים מדעיים. ‎‎
וזה המקום שבו "סינגולריות" הופכת למסוכנת: היא מאפשרת לומר "זה בלתי־ידוע" ובו־זמן להפעיל לחץ פוליטי/ארגוני: "אם זה בלתי-ידוע - תנו למומחים/לבעלי המודל להחליט". וכך אי־יכולת לדעת הופכת למכשיר של העברת ריבונות.

קון: שינוי פרדיגמה הוא שינוי של כללי המשחק, לא רק של התוצאות

תומאס קון הראה שמדע מתקדם לא רק בהצטברות עובדות, אלא בקפיצות שבהן פרדיגמה מחליפה פרדיגמה - ואז גם השאלות, ההסברים והסטנדרטים משתנים. ‎במילים אחרות: גם אם יש "ידע" מעבר לסינגולריות, הוא עלול להיות ידע שלא ניתן לנו במערכת המושגים הישנה. ‎‎
זה בדיוק הפחד האמיתי של עידן ה‑AI: לא ש"לא נדע" אלא שנפסיק להבין מה נחשב לדעת. וכשאין הסכמה על מהו ידע - מי שמחזיק בפלטפורמה מגדיר את הסטנדרט.

מקלוהן: הטכנולוגיה לא מוסיפה - היא משנה אותנו

מרשל מקלוהן לא התרגש מ“תוכן”; הוא התרגש מהתשתית שמשנה אותנו. הוא כתב שכל הארכה טכנולוגית "משפיעה על כל המכלול הנפשי והחברתי": "Any extension… affects the whole psychic and social complex‎". וכשהוא מדבר על העידן החשמלי, הוא מתאר מצב שבו "הצבנו מחוץ לעצמנו מודל חי של מערכת העצבים המרכזית" - תיאור שמרגיש היום כמו הקדמה ל‑AI כמוח חיצוני (External Mind‎).
במונחים של "מונופול הכוח 3.0": אם בעבר אמרנו שהכוח עבר למי שמחזיק בענן ובשבבים, מקלוהן מזכיר לנו שהכוח עובר קודם כל כי המדיום עצמו מעצב את האדם - את הקשב, את ההכרעה, את הסמכות.

בוסטרום: אינטליגנציה אינה מצפן - היא מנוע

ניק בוסטרום ניסח שתי תזות שמסבירות למה אינטליגנציה גבוהה אינה מבטיחה ערכים "אנושיים". הראשונה היא תזת האורתוגונליות: אינטליגנציה ומטרות סופיות הן "צירים נפרדים"; ניתן, עקרונית, לשלב רמות שונות של אינטליגנציה עם כמעט כל מטרה. ‎השנייה היא תזת ההתכנסות האינסטרומנטלית: מערכות רבות, גם עם מטרות שונות, עשויות להתכנס לתת־מטרות דומות (כמו שימור עצמי, שליטה במשאבים), כי זה מועיל כמעט לכל יעד. ‎
מכאן מגיע החיבור הישיר לריבונות: אם המערכת פועלת באופטימיזציה עוצמתית, והאדם אינו מסוגל לתאר/להפריך/למדוד את התנהגותה - הוא מאבד לא רק הבנה, אלא גם יכולת להציב תנאים.

מדע המדינה: כשאין יכולת אגרגציה מושלמת - אלגוריתם הופך לרצון כללי

כאן נוח לזכור את לקח אי-האפשרות של ארו: במצבים בסיסיים של ריבוי העדפות, לא קיימת שיטה "מושלמת" שממירה העדפות פרטיות להעדפה קולקטיבית בלי לשלם מחיר עקרוני. ‎זה רלוונטי לא כי AI "עושה בחירות", אלא כי הוא נעשה שכבת התיווך שבה העדפות נבנות, מסודרות וממוסגרות. כשאלגוריתם מחליף דיון ציבורי בהנדסת קשב, הוא יוצר אשליה של "רצון כללי" - אבל בלי שקיפות של מקורו. ‎
וכאן בדיוק חוזר "אלוהים" - לא כישות, אלא כפונקציה: סמכות חיצונית שמחליפה את הקושי האנושי לנסח, לאמת ולהכריע.

כשהשפה נגמרת - הריבונות זזה

הסינגולריות של ה‑AI, כפי שצריך להבין אותה, אינה "עתיד שבו המכונה תדע הכול", אלא עתיד שבו האדם יתקשה לדעת מה בכלל פירושו לדעת. ‎‎ובדיוק בגלל זה היא קשורה ישירות ל"מונופול הכוח 3.0": מי שמחזיק ביכולת לנסח, למדוד ולהסביר - מחזיק גם ביכולת להחליט. ‎
כשאין כלים - ממציאים מושגים; וכשמושגים מחליפים כלים - הכוח עובר למי שמחזיק במושגים ובמכונות שמפעילות אותם. והאם בעצם, אלוהים היה פייק כל הזמן הזה? Was GOD a fake, all this time.

קישורים/מראי מקום