תנו לחול לחשוב

הבינה הטובה ביותר שכסף יכול לקנות תגיע בקרוב כמעט לכולם. מה זה עושה לחשיבה שלנו?

אני זוכר איך פירקתי את המחשב הראשון שהיה לנו בבית כשהייתי בן שבע או שמונה. המכונה הקסומה הזאת ששיחקתי עליה משחקים הפסיקה לפעול לפתע. אבא שלי ואחי הגדול היו בדרך הביתה, וחשבתי שאני יכול לתקן אותה לפני שיגיעו.

אם אכשל, אהיה בצרות. אם אצליח, ידעתי שאתמכר לזה.

ברור שלא תיקנתי אותה. אבל מה שראיתי בפנים עורר בי סקרנות שאני עדיין רודף אחריה היום.

שנים אחר כך, כשלמדתי שכל זה מתחיל בחול ובאנרגיה, זה הרגיש כמו לפתוח את המחשב הזה מחדש. משחקים, רובוטים, ואולי יום אחד סופר-בינה.

חול. פשוט ומופלא.

אחרי הכל, גם אנחנו עפר.

עכשיו הוא מתחיל לחשוב. בקרוב הוא יענה על שאלות של כמעט כולם. לדעתי שני דברים קורים בו-זמנית: אנחנו נעשים סקרנים יותר, ואנחנו נעשים פחות מאומנים בחשיבה.

הפלא, במחיר שכולם יכולים להרשות לעצמם

דמיס הסביס ניסח את הסיפור הכלכלי בשני משפטים בלי להתכוון. על הבמה ב-Google I/O הוא התפעל מכך ש"אנחנו הופכים חול למכונות חושבות," וכמעט באותה נשימה דיבר על כך שאפשר להציע את Gemini Flash לכל מי שרוצה ב"עלות נמוכה מדהימה." הפלא והוזלת המחיר הם אותו אירוע.

מה שנחשב לאיכות חזית לפני כמה שנים מתומחר כמו מצרך היום, וזול אף יותר עד שתקראו את זה. תפוקה ברמת GPT-3.5, שהייתה חזית הטכנולוגיה ב-2022, עולה היום כמעט כלום לתגובה. הישג מדעי מוזר כבר זול מספיק כדי לתת אותו לכולם.

צוואר הבקבוק זז

מטלפון, בינה נראית חסרת משקל. ממרכז נתונים היא נראית כמו תחנות משנה, לולאות קירור, סיבים אופטיים, בטון, וכמות עצומה של חשמל. סיליקון נפוץ; כוח המחשוב שנדרש למודלי חזית עדיין נדיר. בין החול לתשובה ניצבת שרשרת שלמה של ייצור השבבים (מפעלים, ליתוגרפיה, אריזה, זיכרון), תשתית החשמל והקירור שהיא צריכה, ומיליארדי דולרים של הון.

אפשר להוסיף עוד מפעלי שבבים, מרכזי נתונים וכוח מחשוב, וככל שנעשה זאת עלות של תשובה שימושית ממשיכה לרדת. הגישה אף פעם לא נעשית שוויונית לגמרי, אבל פערי היכולת מתחילים להידמות לפערים בשוק הטלפונים: יתרון שנמדד בחודשים, לא בחיים שלמים.

מה נשאר נדיר

אפילו שיקול הדעת אולי לא יישאר נדיר. מודל יכול להציע כמה תשובות, לבחור אחת, לפעול לפיה, ולכוונן את עצמו לפי מה שקורה. ה-Constitutional AI של Anthropic כבר מריץ גרסה של הלולאה הזאת: מודל אחד מעריך את התשובות של מודל אחר לפי מערכת עקרונות כתובה, בלי שאף אדם בודק את התוצאה. הוא יכול כבר לנסח שאלה חדה יותר משלי ולהגיע לתשובה טובה משלי.

את ההעדפות של מי המודל מייצג, ומי נתן לו את הסמכות לפעול? מודל יכול להסיק ולאזן העדפות היטב, אבל הוא לא יכול לענות על אף אחת מהשאלות האלה על עצמו.

לא כל מי שיש לו גישה לאותה יכולת ירצה את אותה תוצאה, יישא באותה אחריות, או יהיה מוכן לעמוד מאחורי החלטה, גם אם מודל הוא זה שקיבל אותה.

המחיר של להפוך הכול לאופציונלי

לאפשר לנו לבחור שלא לעשות עבודה מסוכנת ומתישה זו בעיקר התקדמות, ואני לא מגן על סבל. יש יכולות אנושיות שנשמרות רק כשמשתמשים בהן, וכאשר לנסח תשובה בעצמנו תמיד איטי יותר מלבקש אותה, אנחנו יכולים להפסיק בשקט לבנות את היכולת לייצר אותה בעצמנו. אם גם ההחלטה על איזו תשובה לסמוך עוברת למיקור חוץ, הסיכון פשוט זז: אנחנו מפסיקים לתרגל איך לבחור מטרה, לשאול על התכלית, ולהחליט מה בכלל שווה לעשות.

קחו את הדברים שאנחנו רוצים הכי הרבה: לחזור לירח, להמשיך למאדים, הבנה אמיתית של היקום. הדרך לשם תמיד דרשה הקרבה, קריירה שלמה על משוואה אחת, עשור של אימונים כדי לשבת על גבי פיצוץ מבוקר. טוב שאפשר לוותר על חלק מההקרבה. מה שמדאיג הוא לאבד גם את התרגול שנלווה אליה, כי חשיבה נשארת חדה רק כשמתרגלים אותה.

נעזרתי בבינה מלאכותית כדי לנסח ולערוך את המסה הזאת. היא הבהירה את הטיעון והקלה על העבודה. באמת אינני יכול לומר כמה מהחשיבה היא הרחיבה וכמה היא החליפה.

אי הוודאות הזאת תהפוך לשגרתית. חלק מהיכולות שלנו ייחלשו מחוסר שימוש. כשתשובות זולות, העבודה שנשארת לנו היא לבחור למה ראוי לתת תשומת לב, להחליט מה אנחנו רוצים, ולקחת אחריות על מה שבא בעקבותיה.

אולי יהיה גם יותר מקום לשבת עם שאלות בלי תשובה שימושית. יותר שיחה, התבוננות, ותפילה. תוצאה מוזרה של תעשיית המוליכים למחצה עשויה להיות עוד רבנים ונזירים.

אנחנו עפר שלמד לחשוב. לקחנו חול, נתנו לו אנרגיה, ולימדנו גם אותו לחשוב.

תנו לחול לחשוב.

אנחנו צריכים להחליט בשביל מה כל הבינה הזאת.

---

קשור: חדר הבקרה

שי מגזימוף

---