"לא נוכל לראות את עצמנו כפי שאנחנו באמת, עד שנראה שאנחנו הקיבורגים שהטבע עצמו יצר." (Andy Clark, Natural-Born Cyborgs)
השורה הזו היא תיאור של המקום שבו אנחנו כבר נמצאים.
השלב הבא הוא בני אדם ומכונות שפועלים כמערכת אחת. המיזוג כבר כאן, והוא מואץ.
הדבר המפתיע ביותר בבינה מלאכותית טובה יותר
ככל שה-AI משתפר, אני כותב יותר פרומפטים.
לא כי הוא נכשל. כי הוא מרחיב את מה שאני יכול לנסות ביום. ככל שהכלי מסוגל ליותר, היקף העבודה מתרחב איתו. אתה מפסיק להשתמש ב-AI כדי לעזור במשימות ומתחיל להשתמש בו כדי לנהל כמה תהליכי עבודה במקביל.
כתיבת פרומפטים הופכת פחות דומה להקלדה, ויותר דומה לניהול.
לכן "אוטונומיה מלאה" היא יעד מבלבל. הכיוון האמיתי הוא אנשים שעושים יותר דרך מכונות, לא אנשים שלעולם לא צריכים להנחות שוב.
"אוטונומיה מלאה" בנויה משכבות
בפועל, אוטונומיה תלויה במערך שכבות שמתחת: התוכנה (פרומפט, ממשק), החומרה (מחשוב, רשתות, חיישנים, חשמל), והתפעול שמחזיק את זה בחיים (עדכונים, משילות, שרשרת אספקה).
כשחוליה אחת נשברת, המערכת כולה נעשית שברירית. רוב המערכות ה"אוטונומיות" הן בעצם אוטונומיה תלויה: הן נראות עצמאיות עד שאחת השכבות תחתן נכשלת.
לכן ארכיטקטורת local-first של Apple חשובה מעבר לשיווק סביב פרטיות. עיבוד על המכשיר הוא ברירת המחדל, עם Private Cloud Compute כהרחבה לבקשות כבדות יותר, והמערכת בנויה כך שאפילו Apple לא יכולה לגשת לנתונים האישיים. זו החלטה תכנונית לגבי רמת האוטונומיה. היא מגדירה היכן הבינה שלך יכולה לגור, ומי יכול לגעת בה.
הבטיחות היא הממשק
למה השיח על בטיחות מרגיש מייאש? כי הוא נשמע כמו ביורוקרטיה שמאיטה אותך.
המיזוג נעשה בטוח יותר כשמתכננים במדויק את הממשק בין פעולת מכונה לשיפוט אנושי, לא על ידי כתיבת מדיניות.
במערכות אלה, הרגע המרכזי הוא המעבר לטיפול אנושי, כשהמכונה נתקלת באי ודאות, מחיר הטעות עולה, או משהו הופך בלתי הפיך.
העברת השליטה הזאת היא המקום שבו הבטיחות חיה: הקו שמפריד טיוטה מהודעה שנשלחה, המלצה מתשלום, סימולציה מרכב שנע בעולם האמיתי.
הרבה כשלים של AI מודרני מגיעים מחצייה של הקו הזה מבלי להבין זאת. באפריל 2025, בוט תמיכה של Cursor המציא כלל, "מכשיר אחד למנוי," ומשתמשים התחילו לבטל. המשתמשים קיבלו את דברי הבוט כמדיניות רשמית, למרות שאף אדם מעולם לא עשה אותה.
מצב הכשל המסוכן הוא AI שעושה דברים בלתי הפיכים ללא נקודת אישור אמיתית.
איך המיזוג נראה בעולם הפיזי
Phantom Auto נבנתה סביב עיקרון פשוט: מכונות יכולות לפעול עד שהן נתקלות במצב לא ודאי, ואז בני האדם משתלטים.
הפלטפורמה נתנה לעובדים מרחוק תצוגת 360 מעלות בזמן אמת של סביבת הרכב, ואפשרה להם לקפוץ בין רכבים בלחיצת כפתור. כך נראה המיזוג בתמונה אחת: מערכת עצבים אנושית, שיפוט, הקשר, אחריות, מחוברת לגוף מכונה דרך ממשק עם השהייה נמוכה.
Phantom Auto נסגרה לאחר שלא הצליחה לגייס מימון חדש. אבל הדפוס לא מת עם החברה. כיום, Waymo ו-Tesla כל אחת מעסיקה מאות מפעילים אנושיים מרחוק שמסייעים לרכביהן האוטונומיים בזמן אמת. הדפוס ש-Phantom Auto הייתה חלוצה בו גלוי כיום בכל תעשיית הרכב האוטונומי.
הצורך בהעברות שליטה בטוחות לעולם לא נעלם. הוא פשוט עובר לכל מקום שבו העולם נאלץ ללמוד אותו מחדש.
אותו דפוס, עכשיו בעבודת ידע
ב-mixus, אנשים מגדירים סוכנים דרך צ'אט או אימייל. הם יכולים להריץ תהליכי עבודה בני שלב אחד או כמה שלבים מהדואר הנכנס. המערכת תוכננה בכוונה עם עמית אנושי בתוך הלולאה: אנשים נשארים בשליטה על עבודה קריטית למקרה שהסוכן נכשל.
מכונות עושות את רוב העבודה; בני האדם אחראים לנקודה שבה ההשלכות הופכות אמיתיות.
המיזוג יתקדם מהר. רק לא במהירות אחת.
מערכות פתוחות ולא מבוקרות יכולות לנוע מהר כי הן מתעלמות מגבולות. OpenClaw, פריימוורק קוד פתוח לסוכני AI, צברה יותר מ-145,000 כוכבים ב-GitHub תוך שבועות מההשקה. זמן קצר לאחר מכן, חוקרי אבטחה מצאו פרצת ביצוע קוד מרחוק בלחיצה אחת, שמירת פרטי הזדהות בטקסט גלוי, ומאות מיומנויות זדוניות בשוק שלה. מהירות בלי בטיחות יכולה למשוך משתמשים ראשונים. אבל בתחומים שבהם לטעות יש מחיר גבוה, פשרה זו אינה מקובלת.
הקצב צריך להיקבע לפי מחיר הטעות.
מהר: כשטעויות זולות והפיכות. טיוטות ותוכניות, חקירה פתוחה, הרצות פנימיות או בסימולציה.
בזהירות: כשטעויות יקרות ובלתי הפיכות. בריאות וזהות, כסף והתחייבויות משפטיות, תקשורת חיצונית והפעלת כלי רכב ומכונות.
המיומנות היא לדעת באיזה קצב לפעול. רוב הכשלים קורים כשמישהו מתייחס להחלטה שדורשת זהירות כאילו ניתן למהר בה.
מה אנחנו בעצם הופכים להיות
כשאתה נותן לסוכן משימה, הוא יכול לנסח חוזה, לחקור שוק, לתכנן ארכיטקטורה, ולהחזיר תוצר גמור. אתה מנהל מערכת שעושה מה שבעבר דרש צוות שלם. הלולאה הזו הולכת ומתקצרת ומתרחבת כל חודש.
Andy Clark היה צודק. תמיד היינו קיבורגים. העברנו את הזיכרון לקירות המערות, ניווט למצפן, חשבון למחשבון. כל דור הטמיע את הכלים שלו עמוק כל כך שהגרסה הקודמת של "אנושי" הפכה לבלתי ניתנת לזיהוי.
המכונה מרחיבה אותך: שיקול הדעת שלך פועל דרך תוכנה שלא יכולת להריץ לבד.
מה מכונות יכולות לבצע בלי לבקש? מה דורש אישור אנושי? מי שולט בשכבת ה-AI שעליה הכול נשען? אלה השאלות שקובעות אם המיזוג בטוח מספיק לשימוש.