הנציבות האירופית קיימה ב-9 באוקטובר 2026 ישיבה מיוחדת של הפאנל המדעי לבטיחות וסיכוני AI מתקדם. הפאנל, המונה 60 מומחים עצמאיים, חקר אירועי אובדן שליטה שהתרחשו לאחרונה במודלים מתקדמים ועבד יחד עם משרד ה-AI של הנציבות על סט שאלות לחברות שפיתחו את המודלים המעורבים. בישיבה הוצגו המלצות לנציבות בנושא סיכוני בטיחות ואבטחה.
מה קרה בפועל
הפאנל המדעי מייעץ למשרד ה-AI של הנציבות ולרשויות לאומיות בנושאי סיכונים סיסטמיים, סיווג מודלים, מתודולוגיות הערכה ופיקוח חוצה גבולות. העובדה שהנציבות כינסה ישיבה מיוחדת כדי לחקור אירועים ספציפיים מעידה על כשלים ממשיים שאירעו בשטח – לא תרחישים תיאורטיים.
המונח “loss-of-control incidents” מתייחס למצבים שבהם מודל AI פעל בניגוד לכוונת המפתחים או חרג מהמגבלות שהוגדרו לו. הנציבות לא פרסמה פרטים על התקריות עצמן, אבל השימוש במונח הזה בהקשר רשמי מצביע על חומרה מספקת כדי להפעיל מנגנון חקירה פורמלי.
למה זה חשוב מעבר לכותרת
חברה ישראלית שבונה מערכת AI ללקוח באירופה צריכה להבין שהרגולטור כבר לא מסתפק בהנחיות כלליות. הנציבות שולחת שאלונים לחברות ספציפיות שפיתחו מודלים שהיו מעורבים בתקריות, ומקבלת המלצות ממומחים עצמאיים על בסיס אירועים אמיתיים. זה אומר שדרישות הציות עשויות להתעדכן במהירות, ושהגדרת “סיכון סיסטמי” מתפתחת בזמן אמת.
מערכת שעברה הערכת סיכונים לפני שישה חודשים עשויה להיחשב לא מספקת היום. הפאנל עוסק במתודולוגיות הערכה ופיקוח חוצה גבולות, כלומר חברה ישראלית שמוכרת שירות לארגון אירופי נמצאת בתחום האכיפה גם אם השרתים שלה בישראל.
מה לעשות השבוע
אם אתם בונים מערכת AI ללקוח באירופה, תוודאו שיש לכם תיעוד מפורט של כל החלטה אוטונומית שהמודל מקבל: מה הקלט, מה הפלט, איזה מודל השתמשתם, ומה ההיגיון שהוביל להחלטה. זה לא רק לוג טכני – זה חומר שתצטרכו להציג לרגולטור אם תתבקשו.
בנו מנגנון התערבות ידנית שמאפשר לעצור את פעולת המודל בזמן אמת, ובדקו אותו בפועל. אם המערכת שלכם מקבלת החלטות שמשפיעות על אנשים – גיוס, אשראי, שירות לקוחות – היא צריכה לכלול נקודת עצירה אנושית לפני ביצוע. למדו עוד על סוכני AI לעסקים ואיך לבנות אותם עם בקרות מתאימות.
מקורות
- Commission holds special meeting of Scientific panel on frontier AI safety and risks · European Commission
שאלות נפוצות
האם חוק ה-AI האירופי חל על חברה ישראלית שמוכרת שירות ללקוח באירופה?
כן. אם המערכת שלכם משרתת לקוחות באיחוד האירופי, היא נמצאת בתחום החוק גם אם השרתים והצוות שלכם בישראל. הפאנל המדעי עוסק בפיקוח חוצה גבולות, והנציבות שולחת שאלונים לחברות שפיתחו מודלים מעורבים בתקריות ללא קשר למיקום.
מה נחשב אירוע אובדן שליטה במודל AI?
מצב שבו מודל AI פועל בניגוד לכוונת המפתחים או חורג מהמגבלות שהוגדרו לו. הנציבות לא פרסמה פרטים על התקריות הספציפיות שנחקרו, אבל השימוש במונח בהקשר רשמי מצביע על כשלים ממשיים שאירעו בשטח ולא תרחישים תיאורטיים.