אם אתם משתמשים ב-API של OpenAI, Anthropic או Google במערכות ייצור, בדקו השבוע אם אתם שומרים traces או לוגים של סוכנים שכוללים בלוקי reasoning. אם כן, הסירו אותם או וודאו שהם מסוננים לפני אחסון. אל תסמכו על הצפנה בלבד – הפגיעות הזו הוכיחה שגם תוכן מוצפן יכול להיחשף כאשר מודל חלש יותר מקבל גישה לפלט.
מה קרה
חוקרי אבטחה גילו פגיעות ב-API של OpenAI, Anthropic וGoogle שאפשרה לפענח חשיבה פנימית מוצפנת של מודלים מתקדמים באמצעות מודלים חלשים יותר. מתוך 6,708 מסלולי סוכנים ציבוריים שנבדקו, החוקרים פיענחו 315,320 בלוקי reasoning ומצאו 704 חפצי פרטיות ייחודיים: 62 מפתחות API, 33 סיסמאות, 24 טוקנים ו-7 מפתחות פרטיים. הספקים תיקנו את הבעיה באוגוסט 2024, ואין תיעוד לניצול זדוני בפועל.
הפגיעות אפשרה שלושה סוגי תקיפה: גניבת reasoning למטרות distillation (העתקת יכולות המודל), חילוץ מידע פרטי שהוזן למערכת, וחשיפת תוכן מזיק שהמודל יצר אך לא הציג למשתמש.
למה זה חשוב מעבר לכותרת
הפגיעות הזו מדגימה סיכון מבני בשימוש במודלים חיצוניים במערכות ייצור. ארגונים רבים בישראל, במיוחד במגזר הבנקאות והפיננסי, משתמשים ב-API של ספקי AI גדולים ושומרים traces של סוכנים למטרות ניפוי באגים, ביקורת או שיפור מערכות. הנתונים מראים שאפילו כאשר הספק מצהיר על הצפנה, התוכן יכול להיחשף.
הבעיה חריפה יותר כאשר סוכני AI מקבלים גישה למערכות פנימיות או מעבדים נתונים רגישים. מפתח API שדלף יכול לאפשר גישה למערכות ייצור, וסיסמה שנשמרה בלוג יכולה לחשוף משאבים פנימיים. התיקון מצד הספקים לא פותר את הבעיה למפעילי המערכות – הנתונים שכבר נשמרו נשארים חשופים.
מה לעשות השבוע
ראשית, בדקו אם אתם שומרים traces או לוגים של סוכנים שמשתמשים ב-API של OpenAI, Anthropic או Google. אם כן, הסירו בלוקי reasoning לפני אחסון, גם אם הם נראים מוצפנים. שנית, סקרו את הלוגים הקיימים ומחקו כל תמליל API גולמי שמכיל תגובות מלאות מהמודל.
שלישית, אם אתם בונים סוכנים שמקבלים גישה למערכות פנימיות, וודאו שהם לא מעבירים אישורים או מפתחות בתוך ה-prompt או ה-context. השתמשו במנגנוני אימות חיצוניים ולא בהעברת סודות ישירות למודל. למערכות ייצור תחת תקני אבטחה מחמירים, שקלו סוכני AI לעסקים עם בידוד מלא של סודות ואישורים.
שאלות נפוצות
הספקים תיקנו את הבעיה באוגוסט 2026, אך לוגים ישנים שנשמרו לפני התיקון עדיין עשויים להכיל נתונים רגישים. אם שמרתם traces של סוכנים לפני אוגוסט 2024, בדקו אותם ומחקו בלוקי reasoning.
בדקו את הלוגים שאתם שומרים וחפשו בלוקים שמתחילים בתגיות reasoning או thinking. אם אתם רואים שם מפתחות, סיסמאות או טוקנים, הם חשופים. אפילו אם הם נראים מוצפנים, הפגיעות הוכיחה שניתן לפענח אותם.
שיחה קצרה, בלי התחייבות, ונגיד לכם אם זה רלוונטי לעסק שלכם או לא.