תנו לחול לחשוב

אני זוכר איך פירקתי את המחשב הראשון שהיה לנו בבית כשהייתי בן שבע או שמונה. המכונה הקסומה הזאת ששיחקתי עליה משחקים הפסיקה לפעול לפתע. אבא שלי ואחי הגדול היו בדרך הביתה, וחשבתי שאני יכול לתקן אותה לפני שיגיעו.

לא הצלחתי לתקן אותו, אבל רציתי להבין מה מצאתי בפנים.

שנים אחר כך, כשלמדתי שכל זה מתחיל בחול ובאנרגיה, זה הרגיש כמו לפתוח את המחשב הזה מחדש. משחקים, רובוטים, ואולי יום אחד סופר-בינה.

שבב הוא חול שלימדו אותו לספור, ומודל הוא שבב שלימדו אותו לענות. גם אנחנו עפר.

עכשיו החול מתחיל לחשוב. ככל שיותר מאיתנו יכולים לבקש ממנו עזרה, אני תוהה כמה מהחשיבה אמשיך לעשות בעצמי.

המחיר של תשובה

על הבמה ב-Google I/O, דמיס הסביס התפעל מכך ש"אנחנו הופכים חול למכונות חושבות," וכמעט באותה נשימה דיבר על כך שאפשר להציע את Gemini Flash לכל מי שרוצה ב"עלות נמוכה מדהימה." הסדר מוזר בעיניי. עוד לא הבנו מה בנינו, וכבר אנחנו מתווכחים כמה בזול למסור את זה לכולם.

תשובה ברמת GPT-3.5, שרק לפני כמה שנים הייתה מהטובות שיש, ירדה מעשרים דולר לשבעה סנט למיליון טוקנים.

מטלפון, בינה היא חסרת משקל. ממרכז נתונים יש לה תחנות משנה, מערכות קירור, סיבים אופטיים, בטון וכמות עצומה של חשמל, ובין החול לתשובה עומדת כל שרשרת הייצור, מפעלים וליתוגרפיה ואריזה וזיכרון, ומאחורי כל זה, מיליארדי דולרים. צורן יש בשפע; מחשוב מהשורה הראשונה, לא.

אני מצפה שהגישה תתרחב מהר ככל שנבנה עוד תשתיות מחשוב. עד כמה מי שמחזיק בכוח מחשוב משלו עדיין יוכל לעשות דברים שלא יהיו אפשריים לכל השאר?

מי מחליט?

אפילו שיקול דעת עשוי להיות זול. מודל יכול להציע כמה תשובות, לבחור אחת, לפעול לפיה, ולתקן את עצמו לפי מה שקורה. ה-Constitutional AI של Anthropic כבר מריץ גרסה של הלולאה הזאת: מודל אחד מעריך את התשובות של מודל אחר לפי מערכת עקרונות כתובה, ואף אדם לא קורא את התוצאה. הוא יכול לנסח שאלה חדה יותר משלי ולהגיע לתשובה טובה משלי.

את ההעדפות של מי המודל מייצג, ומי נתן לו את הסמכות לפעול? מודל יכול להסיק ולאזן העדפות היטב, אבל הוא לא יכול לענות על אף אחת מהשאלות האלה על עצמו.

לא כל מי שיש לו גישה לאותה יכולת ירצה את אותה תוצאה, יישא באותה אחריות, או יחתום בשמו על מה שהמודל בחר.

המחיר של להפוך הכול לאופציונלי

אני רוצה שאנשים יוכלו לבחור לא לעשות עבודה מסוכנת. אני חושש לאבד את ההרגל לחשוב על משהו קשה לפני שמבקשים עזרה.

קחו את הדברים שאנחנו רוצים הכי הרבה: לחזור לירח, להמשיך למאדים, הבנה אמיתית של היקום. הדרך לשם תמיד דרשה הקרבה, קריירה שלמה על משוואה אחת, עשור של אימונים כדי לשבת על גבי פיצוץ מבוקר. טוב שאפשר לוותר על חלק מההקרבה. מה שמדאיג הוא לאבד גם את התרגול שנלווה אליה, כי חשיבה נשארת חדה רק כשמתרגלים אותה.

נעזרתי ב-AI בכתיבה ובעריכה של הפוסט הזה. הוא עזר לי להבהיר את הטיעון והקל על העבודה. אני באמת לא יודע כמה הוא עזר לי לחשוב וכמה הוא חשב במקומי.

אני רואה שהפוסט השתפר. קשה לי יותר לראות מה קרה לחשיבה שלי בזמן שכתבתי אותו.

אולי יהיה גם יותר מקום לשאלות בלי תשובה שימושית. יותר שיחה, יותר התבוננות, יותר תפילה. תוצאה מוזרה של תעשיית המוליכים למחצה עשויה להיות עוד רבנים ונזירים.

אנחנו עפר שלמד לחשוב. לקחנו חול, נתנו לו אנרגיה, ולימדנו גם אותו לחשוב.

---

שי מגזימוף

קשור: חדר הבקרה

---