דו״ח חדש של SaferAI מצא שמודל GLM-5.2 בעל משקולות פתוחות מ-Z.ai הסינית מתקרב ליכולות של מודלי AI מובילים, רק כמה חודשים מאחורי GPT-5.5 של OpenAI ו-Claude Opus 4.7 של Anthropic ביכולות סייבר וביולוגיות. לפי הערכת SaferAI, GLM-5.2 לא סירב לאף אחת ממשימות הסייבר או הביולוגיה העוינות שניתנו לו. לעומת זאת, Claude Opus 4.7 סירב בעקביות כזו ש-SaferAI לא יכלה להשלים את CyberGym עליו כלל.
פער הבטיחות במודלים פתוחים
ההבדל המרכזי אינו ביכולות אלא בהגנות. בעוד ש-Z.ai יכולה להחיל אמצעי בטיחות על ה-API המתארח שלה, הגנות אלה הופכות לבלתי ניתנות לאכיפה ברגע שמישהו מוריד את המשקולות ומריץ אותן על החומרה שלו. זה אומר שכל ארגון שמשתמש במודל פתוח צריך להניח שאין לו הגנות מובנות, גם אם הספק מפרסם מדיניות בטיחות.
עבור ארגונים שפועלים תחת תקני בנקאות או רגולציה, זה לא רק שאלה תיאורטית. מודל שלא מסרב למשימות עוינות עשוי לייצר תוכן שמפר מדיניות פנימית, חושף נתונים רגישים או יוצר סיכון משפטי. המרחק הטכנולוגי בין מודלים פתוחים למובילים מצטמצם, אבל המרחק בבטיחות נשאר.
מה לעשות השבוע
אם אתם בונים מערכת AI תחת תקני רגולציה, תוסיפו שכבת בדיקה נפרדת שמסננת פלטים לפני שהם מגיעים למשתמש או למערכת חיצונית. זה לא מספיק להסתמך על הגנות המודל עצמו. תעדו את הסיכונים בבירור בתיעוד הפרויקט, כולל העובדה שמודל פתוח עשוי לא לסרב למשימות עוינות.
אם אתם משתמשים באוטומציה מבוססת AI כבעלי עסק, שאלו את הספק שלכם איזה מודל הוא משתמש ומה שכבות הבטיחות שהוא מוסיף. אם התשובה לא ברורה, זה סימן שצריך לשאול שוב. מערכת שבנויה נכון מפרידה בין המודל לבין הלוגיקה העסקית, ומוסיפה בדיקות בכל נקודת מגע קריטית. לפרטים נוספים על בניית סוכני AI לעסקים תחת תקני אבטחה.
מקורות
שאלות נפוצות
האם מודל פתוח זול יותר ממודל מתארח?
מודל פתוח עשוי לחסוך עלויות API, אך דורש השקעה בתשתית, אחסון, ניטור ושכבות בטיחות נוספות. עבור רוב העסקים הקטנים והבינוניים, מודל מתארח עם הגנות מובנות עדיין חסכוני יותר.
האם אפשר להוסיף הגנות למודל פתוח בעצמי?
כן, אבל זה דורש מומחיות טכנית ותחזוקה שוטפת. צריך לבנות שכבת סינון נפרדת, לבדוק אותה על מגוון תרחישים עוינים ולעדכן אותה כל פעם שהמודל משתנה. זה לא פרויקט חד-פעמי.