מה קרה
Onyx Security, חברה ישראלית שהוקמה ב-2024, השלימה סבב מימון Series B של 113 מיליון דולר בהובלת Bessemer Venture Partners. זה קרה ארבעה חודשים בלבד אחרי שהחברה יצאה ממצב סמוי עם 40 מיליון דולר. סך הכל גייסה החברה 153 מיליון דולר מאז הקמתה.
החברה פיתחה פלטפורמה שמאפשרת לארגונים לגלות, לנהל ולשלוט בשימוש בסוכני AI – גם כאלה שפותחו בתוך הארגון וגם כאלה של צד שלישי. הפלטפורמה מנטרת כל שלב בתהליך החשיבה של סוכן, מזהה התנהגות זדונית או לא מכוונת, ומתערבת למנוע פעולות מזיקות לפני שהן מתרחשות. החברה מעסיקה מעל 80 עובדים בישראל, ארה“ב וקנדה, ועובדת עם חברות Fortune 500 רבות. ביוני, Anthropic הודיעה שהיא משתמשת בטכנולוגיה של Onyx.
למה זה חשוב מעבר לכותרת
הגיוס הזה מסמן שינוי בשוק: ארגונים גדולים מוכנים לשלם סכומים משמעותיים עבור שכבת אבטחה ייעודית לסוכני AI. זה לא עוד מוצר אבטחה כללי – זו פלטפורמה שמתמקדת בבעיה ספציפית אחת: מה קורה כשמערכת AI מקבלת החלטות או מבצעת פעולות בעצמה.
העובדה ש-Anthropic, אחת מחברות המודלים המובילות בעולם, משתמשת בטכנולוגיה של Onyx מעידה על רלוונטיות גלובלית. זה לא פתרון שנבנה רק לשוק המקומי. חברות ישראליות שבונות מערכות AI מורכבות צריכות להכיר את Onyx כשותף פוטנציאלי או כמתחרה טכנולוגי – זה מגדיר את הסטנדרט המקומי לממשל AI.
המהירות של הגיוס – ארבעה חודשים בין סבבים – מעידה על דחיפות בשוק. ארגונים לא מחכים לראות איך הטכנולוגיה מתפתחת; הם קונים עכשיו.
מה לעשות השבוע
אם אתם בונים אוטומציה שמבצעת פעולות בשמכם – שולחת הודעות, מעדכנת מערכות, מקבלת החלטות על סמך נתונים – הכינו תיעוד פנימי של נקודות הסיכון. איפה המערכת יכולה לעשות משהו שלא התכוונתם לו? איפה אין לכם נקודת עצירה?
לקוחות עסקיים מתחילים לשאול שאלות כאלה גם באוטומציות קטנות יותר, במיוחד אם הן נוגעות בנתוני לקוחות או בתהליכים פיננסיים. אם אתם עובדים עם ספק חיצוני, שאלו אותו איך הוא מנטר התנהגות לא צפויה. אם אתם בונים בעצמכם, הוסיפו שכבת logging שרושמת את השלבים המרכזיים בתהליך – לא רק את התוצאה הסופית.
חברות שכבר מפעילות סוכני AI לעסקים צריכות לבדוק אם יש להן יכולת לעצור פעולה באמצע תהליך, לא רק בסוף.
מקורות
שאלות נפוצות
האם אני צריך פלטפורמת אבטחה ייעודית לסוכני AI אם אני משתמש רק ב-ChatGPT או Claude?
לא, אם אתם משתמשים במודלים דרך הממשק הרגיל שלהם ללא אוטומציה. פלטפורמות כמו Onyx מיועדות לארגונים שבונים סוכנים שמבצעים פעולות אוטומטיות במערכות פנימיות או חיצוניות, לא לשימוש ידני במודלים.
מה ההבדל בין אבטחת AI רגילה לאבטחה של סוכני AI?
אבטחת AI רגילה מתמקדת בהגנה על המודל עצמו – למשל, מניעת prompt injection או דליפת נתונים. אבטחת סוכנים מתמקדת בפעולות שהמערכת מבצעת אחרי שהיא קיבלה החלטה – למשל, מניעת מחיקת קבצים או שליחת הודעות לא מאושרות.