מארק צוקרברג/רויטרס
בזמן שענקיות הטכנולוגיה דוהרות לעבר AI חזק מכל מה שידענו, עולה השאלה – האם המין האנושי מוכן?
מערכת ישראל עסקים
מארק צוקרברג לא מדבר על עוד צ’אט־בוט, ולא על מערכת המלצות מתוחכמת. מה שהוא מתאר הוא חזון שאפתני, חוצה גבולות – פיתוח של בינה מלאכותית כללית (AGI), שתדע לחשוב, ללמוד, להבין ולהגיב כמו מוח אנושי – ואף מעבר לכך. ההשקעה? עשרות מיליארדי דולרים. היעד? שכל אדם יוכל להחזיק “יועץ־על” אישי שילווה אותו, יעזור לו להגשים מטרות, ואולי אף יכיר אותו טוב יותר מכפי שהוא מכיר את עצמו.
Meta כבר הקימה צוות עילית לפרויקט, בהובלת כמה מהמוחות המבריקים ביותר בעולם ה־AI. השאיפה: להגיע לבינה כללית חזקה יותר מכל מה שקיים בשוק כיום – חזקה יותר מ־GPT-4, מ־Gemini של גוגל, ואפילו מהפרויקטים המוקדמים של OpenAI.
אבל בתוך כל ההבטחות – עולות שאלות נוקבות:
מי מפקח על עוצמה טכנולוגית כזו?
מה קורה כשהמערכת לא רק מבינה אותנו, אלא גם משפיעה על ההחלטות שלנו – באופן גלוי או סמוי?
האם אנחנו באמת רוצים בינה שמכירה את חולשותינו ומסוגלת לנתב אותנו בלי שנרגיש?
צוקרברג, כמובן, רואה את החזון כהזדמנות אנושית אדירה. לדבריו, מדובר ביכולת “להעצים את האדם הבודד באמצעות מערכת לומדת שמבינה אותו לעומק, ברמה רגשית, מחשבתית, ערכית ואסטרטגית”.
אבל הרקע מוכר: גם בעבר, טכנולוגיות פורצות דרך התחילו כהבטחה לשיפור, והפכו בקלות לכלים של שליטה, הטיה או ניצול. במילים אחרות – השאלה היא לא רק מה הבינה תדע לעשות, אלא גם מי יגדיר מה מותר לה לדעת.
המירוץ לבינת־על הפך לתחרות גלובלית בין מעצמות טכנולוגיה, עם משמעויות כלכליות, ביטחוניות, פוליטיות ואנושיות. אך בתוך כל ההמולה, עולה הצורך בשיח שקוף, מוסדר וערכי – שלא רק משדרג את היכולות, אלא מוודא שהן פועלות לטובת האנושות.
מה לקחת הלאה
– בינה מלאכותית כללית אישית עשויה להפוך לשותפה קרובה יותר מכל אדם אחר – ולכן דורשת רגולציה מחמירה
– החדשנות מרתקת – אך אסור שהשוק יוביל אותה לבד, בלי פיקוח מוסרי, חברתי ודמוקרטי
– השאלה אינה “האם זה אפשרי”, אלא “האם זה נכון, למי, ובאיזה תנאים”
מה אתם חושבים?
האם הייתם רוצים מערכת AI אישית שמכירה אתכם לעומק ומלווה אתכם ביומיום?
מי צריך לקבוע את הגבולות – החברות, המדינות או הציבור?
ואיפה עובר הקו בין העצמה לבין שליטה סמויה?
הצטרפו לדיון, שתפו את דעתכם, ותייגו אנשי טכנולוגיה, משפט ואתיקה שחייבים להישמע בדיון הזה.
בפורטל ישראל עסקים אנחנו לא רק עוקבים אחרי המהפכה – אלא שואלים מה היא עושה לנו.