אחרי שנים של מרוץ כמעט ללא מעצורים, בכירי התעשייה מדברים על האטה, בדיקות חיצוניות וכללי בטיחות. השאלה היא למה דווקא עכשיו.
מערכת ישראל עסקים
במשך שנים המסר של תעשיית הבינה המלאכותית היה ברור: מודלים חזקים יותר, יותר כוח מחשוב, יותר אוטומציה — וכמה שיותר מהר.
עכשיו נשמע מסר חריג דווקא מתוך החברות שמובילות את המרוץ: צריך לדבר גם על הברקס.
דריו אמודיי, מנכ״ל Anthropic, קרא להאט את קצב השיפור ביכולות של מערכות ה-AI המתקדמות ביותר. סם אלטמן, מנכ״ל OpenAI, הביע תמיכה בצורך לקצב את ההתקדמות, וגם אילון מאסק תמך בקריאה.
וזה מעלה שאלה מסקרנת:
מה החברות שרואות את הדור הבא של ה-AI לפני הציבור כבר יודעות — שאנחנו עדיין לא יודעים?
חשוב לדייק: אין כיום ראיה פומבית לכך שהחברות מסתירות יכולת מסוכנת או יודעות שאירוע קטסטרופלי עומד להתרחש.
מה שכן אפשר לומר הוא שההתבטאויות והצעדים שלהן מלמדים שהן מייחסות חשיבות גוברת לסיכונים, לבדיקות ולפיקוח.
השינוי הגדול: מ-AI שעונה ל-AI שפועל
ChatGPT הרגיל אותנו לחשוב על AI כמערכת שמקבלת שאלה ומחזירה תשובה.
אבל הדור החדש של סוכני AI יכול לקבל משימה, לתכנן צעדים, להשתמש בכלים, לכתוב ולהריץ קוד ולבצע רצף פעולות עם פחות התערבות אנושית.
וזה הבדל עצום.
מערכת שטועה בתשובה היא בעיה אחת. מערכת שקיבלה הרשאות ופועלת בעצמה במערכות מחשב יכולה להפוך טעות או שימוש לרעה לבעיה משמעותית הרבה יותר.
אמודיי הצביע בין היתר על סיכוני סייבר ועל האפשרות שמערכות AI מתקדמות יאיצו בעתיד גם את פיתוח ה-AI עצמו. חשוב להדגיש: אלה אזהרות ותחזיות — לא עובדות מוכחות לגבי מה שיקרה.
לכן ״ללחוץ על הברקס״ לא אומר לעצור את ה-AI.
הדיון הוא על קצב הפיתוח בחזית, בדיקות בטיחות חיצוניות, פיקוח וכללים שיאפשרו למנגנוני ההגנה להתמודד עם השיפור המהיר ביכולות.
ויש גם אינטרסים עסקיים
כדאי לשמור על מידה של ספקנות.
רגולציה יכולה להגן על הציבור — אבל כללים מורכבים ויקרים עלולים גם להעניק יתרון לחברות הענק שכבר מחזיקות בהון, בתשתיות מחשוב ובצוותי בטיחות ומשפט, ולהקשות על מתחרים קטנים יותר.
ומצד שני, אף חברה לא רוצה להאט לבדה בזמן שהמתחרות ממשיכות לרוץ. מעל הכול נמצאת גם התחרות הטכנולוגית בין ארה״ב לסין.
לכן אין כיום ״עצירה של מרוץ ה-AI״. המרוץ ממשיך — אבל הוויכוח על הבלמים הופך רציני יותר.
ומה בעל עסק בישראל צריך להבין?
לא צריך לחכות ליום שבו AI יהיה מסוגל לבצע כמעט כל משימה אינטלקטואלית שאדם יכול לבצע.
השינוי העסקי כבר מתחיל עכשיו.
השאלה החשובה היא איזה חלק מהעבודה בעסק יכול לעבור בהדרגה מאדם שמבצע הכול בעצמו — לאדם שמגדיר משימה, וה-AI מבצע חלק ממנה תחת פיקוח.
שירות לקוחות, שיווק, מכירות, מחקר, ניתוח נתונים, אדמיניסטרציה ותכנות כבר נמצאים בתוך השינוי הזה.
אבל ככל שנותנים ל-AI יותר עצמאות, צריך להיות זהירים יותר בהרשאות, במידע רגיש, באבטחת סייבר ובבקרה אנושית.
העסק החכם לא צריך לבחור בין להתעלם מה-AI לבין לתת לו לעשות הכול. הוא צריך לדעת איפה לתת לו גז — ואיפה להשאיר ברקס.
וזו אולי הנקודה החשובה ביותר בסיפור:
כשהאנשים שמרוויחים מהאצת ה-AI מתחילים בעצמם לדבר על האטה — כדאי להקשיב.
לא משום שיש הוכחה שהם יודעים שאסון מתקרב.
אלא משום שהם נמצאים בחזית הטכנולוגיה ורואים מוקדם יותר את המעבר מ-AI שנותן תשובות — ל-AI שמסוגל לבצע יותר ויותר פעולות.
והשאלה הגדולה כבר אינה רק כמה חכם ה-AI יהיה — אלא כמה כוח ניתן לו לפני שנהיה בטוחים שהברקס באמת עובד.
רוצים לקבל את הדברים החשובים לבעלי עסקים לפני כולם?
להצטרפות לקהילת ישראל עסקים בווטסאפ