בקרות SOC 2 מאשרות פעולות שסוכני AI מבצעים תחת אישורי גישה אנושיים, מבלי להבחין בהן כשונות מפעילות אנושית. דוגמה: שורה בביקורת גישה מראה מהנדס בכיר מבצע 50 שאילתות למסד נתונים בייצור ב-10:03 בבוקר. הבקרה מאושרת, אבל המהנדס שתה קפה באותו זמן והסוכן שלו ביצע את העדכונים.
הפער בין תקן לסיכון
הקריטריונים הניטרליים-טכנולוגית של SOC 2 יכולים לכסות סוכני AI, אבל הם לא מחייבים במפורש לטפל בסוכנים כמחלקת זהות נפרדת. הדיסקרציה הזו מאפשרת לסוכני AI להוסיף סיכון מבלי להיכשל באף בקרה.
כשסוכן פועל תחת זהות אנושית, כל הרשאות הגישה של האדם זמינות לו. אם המהנדס מורשה לקרוא נתוני לקוחות, הסוכן יכול לעשות זאת גם. אם יש לו הרשאות כתיבה, הסוכן יכול לשנות רשומות. מערכת הביקורת רואה את שם המשתמש האנושי, ואין דרך לדעת אם הפעולה הייתה מכוונת או אוטומטית.
למה זה משנה לארגונים שבונים מערכות AI
חברה ישראלית שבונה מערכות AI לארגונים ועוברת ביקורות SOC 2 צריכה להבין שהתקן לא מגן עליה מהסיכון הזה. ארגון יכול לעבור ביקורת SOC 2 ועדיין להיות חשוף: סוכן שטועה יכול למחוק נתונים, סוכן שנפרץ יכול לחלץ מידע, וה-audit trail יראה רק שמשתמש לגיטימי ביצע פעולות.
הבעיה חריפה יותר במערכות בנקאיות ופיננסיות, שבהן רגולציה דורשת SOC 2 אבל לא מתייחסת עדיין לסוכנים באופן ישיר. צוות פיתוח שמניח שעמידה בתקן מספיקה עלול לגלות שהוא עמד בכל דרישה אבל יצר פרצת אבטחה.
מה לעשות השבוע
אם אתם בונים מערכת שמשתמשת בסוכני AI, צרו הפרדה ברורה בין זהויות אנושיות לזהויות של סוכנים עכשיו. כל סוכן צריך service account נפרד עם הרשאות מינימליות, וכל פעולה שלו צריכה להירשם ב-audit trail ייעודי שמציין במפורש שזו פעולה אוטומטית.
תעדו את ההיגיון שהוביל לכל פעולה: לא רק “המשתמש X ביצע שאילתה”, אלא “הסוכן Y ביצע שאילתה בעקבות בקשה מהמשתמש X בשעה Z”. זה לא רק שיפור טכני – זה מה שמאפשר לכם לענות על השאלה “מי עשה את זה ולמה” כשמשהו משתבש. אם אתם צריכים עזרה בתכנון מערכת כזו, קראו על סוכני AI לעסקים ואיך לבנות אותם בצורה מאובטחת מההתחלה.
מקורות
- With the Rise of AI Agents, SOC 2 Should Adapt or Risk Irrelevance · BleepingComputer
שאלות נפוצות
האם SOC 2 מספיק כדי לאבטח מערכת עם סוכני AI?
לא. SOC 2 בודק בקרות גישה, אבל לא מחייב להפריד בין זהויות אנושיות לסוכנים. אתם יכולים לעבור ביקורת ועדיין להיות חשופים אם סוכנים פועלים תחת חשבונות אנושיים.
איך יודעים אם סוכן AI ביצע פעולה או אדם?
רק אם תכננתם את זה מראש. צריך service account נפרד לכל סוכן ו-audit trail שמתעד במפורש את מקור הפעולה. אם הסוכן משתמש באישורי גישה אנושיים, אין דרך לדעת.