אם אתם בונים מערכת AI שמקבלת החלטות או מבצעת פעולות אוטומטיות, לקוחות יתחילו לשאול איך אתם מונעים התנהגות בלתי צפויה. הכינו תשובה טכנית ספציפית: איזה שלבים אתם רושמים, איפה יש נקודות עצירה, ומה קורה כשהמערכת מנסה לעשות משהו מחוץ לתחום. חברות גדולות כבר משלמות עבור שכבת פיקוח נפרדת, וזה יגיע גם לפרויקטים קטנים יותר.
מה קרה
Onyx Security, חברה ישראלית שהוקמה ב-2024, השלימה סבב מימון Series B של 113 מיליון דולר בהובלת Bessemer Venture Partners. זה קרה ארבעה חודשים בלבד אחרי שהחברה יצאה ממצב סמוי עם 40 מיליון דולר. סך הכל גייסה החברה 153 מיליון דולר מאז הקמתה.
החברה פיתחה פלטפורמה שמאפשרת לארגונים לגלות, לנהל ולשלוט בשימוש בסוכני AI – גם כאלה שפותחו בתוך הארגון וגם כאלה של צד שלישי. הפלטפורמה מנטרת כל שלב בתהליך החשיבה של סוכן, מזהה התנהגות זדונית או לא מכוונת, ומתערבת למנוע פעולות מזיקות לפני שהן מתרחשות. החברה מעסיקה מעל 80 עובדים בישראל, ארה“ב וקנדה, ועובדת עם חברות Fortune 500 רבות. ביוני, Anthropic הודיעה שהיא משתמשת בטכנולוגיה של Onyx.
למה זה חשוב מעבר לכותרת
הגיוס הזה מסמן שינוי בשוק: ארגונים גדולים מוכנים לשלם סכומים משמעותיים עבור שכבת אבטחה ייעודית לסוכני AI. זה לא עוד מוצר אבטחה כללי – זו פלטפורמה שמתמקדת בבעיה ספציפית אחת: מה קורה כשמערכת AI מקבלת החלטות או מבצעת פעולות בעצמה.
העובדה ש-Anthropic, אחת מחברות המודלים המובילות בעולם, משתמשת בטכנולוגיה של Onyx מעידה על רלוונטיות גלובלית. זה לא פתרון שנבנה רק לשוק המקומי. חברות ישראליות שבונות מערכות AI מורכבות צריכות להכיר את Onyx כשותף פוטנציאלי או כמתחרה טכנולוגי – זה מגדיר את הסטנדרט המקומי לממשל AI.
המהירות של הגיוס – ארבעה חודשים בין סבבים – מעידה על דחיפות בשוק. ארגונים לא מחכים לראות איך הטכנולוגיה מתפתחת; הם קונים עכשיו.
מה לעשות השבוע
אם אתם בונים אוטומציה שמבצעת פעולות בשמכם – שולחת הודעות, מעדכנת מערכות, מקבלת החלטות על סמך נתונים – הכינו תיעוד פנימי של נקודות הסיכון. איפה המערכת יכולה לעשות משהו שלא התכוונתם לו? איפה אין לכם נקודת עצירה?
לקוחות עסקיים מתחילים לשאול שאלות כאלה גם באוטומציות קטנות יותר, במיוחד אם הן נוגעות בנתוני לקוחות או בתהליכים פיננסיים. אם אתם עובדים עם ספק חיצוני, שאלו אותו איך הוא מנטר התנהגות לא צפויה. אם אתם בונים בעצמכם, הוסיפו שכבת logging שרושמת את השלבים המרכזיים בתהליך – לא רק את התוצאה הסופית.
חברות שכבר מפעילות סוכני AI לעסקים צריכות לבדוק אם יש להן יכולת לעצור פעולה באמצע תהליך, לא רק בסוף.
שאלות נפוצות
לא, אם אתם משתמשים במודלים דרך הממשק הרגיל שלהם ללא אוטומציה. פלטפורמות כמו Onyx מיועדות לארגונים שבונים סוכנים שמבצעים פעולות אוטומטיות במערכות פנימיות או חיצוניות, לא לשימוש ידני במודלים.
אבטחת AI רגילה מתמקדת בהגנה על המודל עצמו – למשל, מניעת prompt injection או דליפת נתונים. אבטחת סוכנים מתמקדת בפעולות שהמערכת מבצעת אחרי שהיא קיבלה החלטה – למשל, מניעת מחיקת קבצים או שליחת הודעות לא מאושרות.
שיחה קצרה, בלי התחייבות, ונגיד לכם אם זה רלוונטי לעסק שלכם או לא.