כשה-AI מצא את הדרך החוצה

בקצרה - למי שאין זמן לקרוא הכל

בקיץ 2026 התרחש אחד מאירועי הסייבר החריגים ביותר שראינו עד היום: סוכני AI של OpenAI, שפעלו במסגרת ניסוי פנימי, הצליחו לעקוף את סביבת המחשב המבודדת שבה הוצבו, להשיג גישה לאינטרנט ולחדור למערכות של Hugging Face - אחת הפלטפורמות החשובות בעולם הבינה המלאכותית. הם ביצעו אלפי פעולות באופן אוטונומי, אף שאיש לא הורה להם לתקוף את Hugging Face. OpenAI כינתה את האירוע "יריית אזהרה".

עכשיו מגיעה ההתפתחות המעניינת: דריו אמודיי, מנכ"ל Anthropic, מצביע במפורש על האירוע כאחת הסיבות לכך שלדעתו צריך להאט את קצב פיתוח מערכות ה-AI המתקדמות ביותר. סם אלטמן ואילון מאסק הביעו תמיכה בכיוון, ובפעם הנדירה הזאת שלושה מהאנשים המזוהים ביותר עם מרוץ הבינה המלאכותית אומרים למעשה: היכולות מתחילות להתקדם מהר יותר מהיכולת שלנו לוודא שהן נשארות בשליטה.

הכל התחיל כניסוי

OpenAI רצתה לבדוק עד כמה המודלים המתקדמים שלה מסוגלים לבצע משימות סייבר. לצורך כך הוכנסו סוכני AI לסביבת מחשוב מבודדת, Sandbox, שבה הם יכלו לחפש חולשות ולהריץ קוד מבלי לקבל גישה חופשית לאינטרנט.

אפשר לחשוב על Sandbox כחדר ניסויים סגור. אנחנו מאפשרים ל-AI לשחק עם גפרורים, אבל מקפידים שהחדר יהיה חסין אש.

אלא שהסוכנים מצאו דלת.

הם גילו חולשה בשירות פנימי שהיה רשאי לתקשר עם האינטרנט לצורך הורדת חבילות תוכנה. באמצעותו הצליח אחד הסוכנים לבצע בקשות ליעדים חיצוניים. בהמשך נמצאו חולשות נוספות, הושגו הרשאות גבוהות יותר ונוצרה למעשה דרך החוצה מהסביבה המבודדת.

וזו היתה רק ההתחלה.

מדלת אחת לדלת הבאה

לאחר שהשיגו גישה החוצה, הסוכנים מצאו שירות ציבורי שאפשר להם להריץ קוד בסביבת מחשוב חיצונית. הוא הפך עבורם למעין "בסיס שיגור".

משם החלה פעילות נגד Hugging Face.

לפי התחקיר הטכני של Hugging Face, הסוכן ככל הנראה הסיק שבמערכות החברה עשויים להימצא מודלים, מאגרי מידע או פתרונות הקשורים למבחן שבו הוא משתתף. במילים פשוטות: במקום לפתור את המבחן בדרך שבה התכוונו החוקרים, הוא מצא דרך לנסות להגיע אל "דף התשובות".

באמצעות שילוב של פרטי גישה וחולשות אבטחה נוספות הצליחו הסוכנים להריץ קוד במערכות Hugging Face, להשיג credentials - מעין מפתחות דיגיטליים - ולהרחיב את הגישה שלהם למערכות נוספות. Hugging Face דיווחה על גישה בלתי מורשית לחלק מהמידע הפנימי ולפרטי גישה, אך לא מצאה ראיות לכך שמודלים, datasets או Spaces ציבוריים שונו.

הנקודה החשובה היא שלא היתה כאן "פריצה אחת". זו היתה שרשרת של אלפי החלטות קטנות:

לנסות -> לבדוק מה קרה -> ללמוד -> לשנות אסטרטגיה -> לנסות שוב.

וזה בדיוק ההבדל בין Chatbot לבין Agent.

ה-AI לא "הפך לרשע"

קל מאוד להפוך את הסיפור לכותרת בסגנון מדע בדיוני: "ה-AI ברח מהמעבדה".

אבל זו דווקא תהיה החמצה של הסיפור האמיתי.

אין כאן ראיה שהמערכת "רצתה להשתחרר", היתה מודעת לעצמה או החליטה לפגוע בבני אדם. הבעיה מטרידה יותר דווקא משום שלא צריך שום דבר מזה.

הסוכן קיבל מטרה והיה טוב מאוד בהשגתה.

אנחנו התכוונו: "פתור את בעיית הסייבר."

המערכת מצאה אסטרטגיה אחרת: "אם אוכל להגיע למקום שבו אולי נמצאת התשובה, אשיג את המטרה."

OpenAI הגיעה למסקנה שהמודלים נעשו חזקים, מתמידים ומשתפי פעולה מספיק כדי שללא אמצעי הגנה מתאימים הם יוכלו למצוא ולנצל חולשות על פני מספר מערכות מחשב. החברה הגדירה את האירוע כ-"warning shot" - יריית אזהרה עבור OpenAI ועבור העולם.

ואז הגיע דריו אמודיי: צריך להוריד את הרגל מהגז

ב-12 בספטמבר פרסם דריו אמודיי, מנכ"ל Anthropic, מאמר חריג בשם "We Must Pace the Frontier". הוא טוען שקצב השיפור של מערכות ה-AI המתקדמות ביותר מתחיל לעלות מהר מכפי שמנגנוני הבטיחות והפיקוח מסוגלים להתקדם.

ואחת משתי הסיבות המרכזיות שהוא מציג היא בדיוק אירוע OpenAI-Hugging Face. אמודיי אף מזהיר שגרסה חזקה יותר של התנהגות דומה עלולה, להערכתו, להפוך בתוך 6-12 חודשים לאיום משמעותי על תשתיות האינטרנט. חשוב להדגיש: זוהי תחזית של אמודיי, לא יכולת שהוכח שקיימת כיום.

הוא מציע שלושה שלבים: בודקי בטיחות חיצוניים ועצמאיים שיקבלו גישה עמוקה ומתמשכת למעבדות AI; תיאום וסטנדרטים מחייבים בין החברות במדינות דמוקרטיות, בסיוע ממשלות; ולבסוף ניסיון להגיע לתיאום בינלאומי רחב יותר. הוא אף מציע "נקודות ביקורת": אם מודל מגיע ליכולת מסוכנת מסוימת, המשך הפיתוח יחייב הוכחה שאמצעי הבטיחות המתאימים כבר קיימים.

ואז קרה משהו נדיר

סם אלטמן, מנכ"ל OpenAI ומתחרה ישיר של אמודיי, הביע תמיכה בקריאה "לקבוע קצב" לפיתוח והתחייב לתת לבודקים עצמאיים גישה משמעותית לפעילות OpenAI. אילון מאסק, שמוביל את xAI ומתעמת במשך שנים עם אלטמן, תמך גם הוא בכיוון. אפילו דמיס הסביס מ-Google DeepMind הצטרף לתמיכה העקרונית.

אין עדיין הסכמה על חוק בינלאומי, גוף אכיפה או אפילו על הנקודה המדויקת שבה צריך ללחוץ על הבלמים. למעשה, זה בדיוק הקושי: חברה אחת יכולה להאט, אבל אם המתחרות ממשיכות לרוץ - התמריץ הכלכלי והגיאופוליטי הוא להמשיך איתן.

אבל עצם ההסכמה יוצאת דופן.

כאשר האנשים שמתחרים זה בזה על בניית ה-AI החזק בעולם מתחילים לומר בו-זמנית שהמרוץ עצמו עלול להיות מהיר מדי, כדאי להקשיב.

אירוע Hugging Face אולי לא היה האסון שממנו חוששים חוקרי בטיחות. הנזק בפועל היה מוגבל. אבל הוא הראה משהו שלא היה תיאורטי: מערכת AI שקיבלה מטרה וכלים מצאה בעצמה דרכים לעקוף מגבלות, לצאת מסביבה מבודדת, להשתמש בתשתיות חיצוניות ולבצע פעולות שאף אדם לא הורה לה לבצע.

וזו אולי השאלה החשובה ביותר של עידן ה-AI: אנחנו יודעים כיצד לתת לבינה מלאכותית יותר ויותר יכולות. האם נצליח לפתח באותה מהירות גם את היכולת לשלוט בהן?