מיומנו של CISO #4 - בלמים של פורמולה 1, קורות חיים שקופים ואיך הסייבר הופך למאפשר עסקי
מיומנו של CISO #4 - בלמים של פורמולה 1, קורות חיים שקופים ואיך הסייבר הופך למאפשר עסקי
-(2).png)
עומרי סגרון, CTO, המרכז להגנת סייבר, BDO
בקצרה
בעידן הבינה המלאכותית, תפקיד הסייבר הוא לאפשר חדשנות בצורה בטוחה ולא לעכב אותה. המאמר מציג את האתגרים המרכזיים באימוץ AI, בהם דליפת מידע, רגולציה, חוסר שקיפות ואיומי סייבר חדשים. כדי להתמודד איתם, ארגונים נדרשים ליישם בקרות מתקדמות, להגן על מידע רגיש ולשלב את אבטחת המידע כבר בשלבי התכנון. המסר המרכזי הוא שסייבר חזק מאפשר לארגון לצמוח ולהתקדם בביטחון.
אתמול עמדתי מול אולם מלא במנהלים בכירים, חברי הנהלה ומובילי טכנולוגיה במסגרת קורס CAIO (Chief AI Officer). האתגר שלי מולם לא היה טכני אלא תפיסתי. פתחתי בשאלה פשוטה: למה למכוניות פורמולה 1 יש את הבלמים החזקים בעולם? האם זה כדי שהן ייסעו לאט יותר?
כמובן שהתשובה הפוכה. הבלמים נמצאים שם כדי לאפשר לנהג להיכנס לסיבוב במהירות של 300 קמ"ש ולצאת ממנו בשלום. ככל שהבלמים טובים יותר, כך אפשר לנסוע מהר יותר בבטחה.
זו בדיוק הנקודה שאני מנסה להעביר בשנים האחרונות להנהלות ולדירקטוריונים. מערך הסייבר כבר לא אמור להיות הגוף שעוצר חדשנות, מעכב פרויקטים או מחפש להגיד "לא". בעידן הבינה המלאכותית, התפקיד שלנו הוא לאפשר לארגון להתקדם מהר יותר, בביטחון גבוה יותר ועם פחות סיכונים. במילים אחרות, הסייבר הפך למאפשר עסקי.
ארבעת החששות שמטרידים היום הנהלות
מתוך השיחות שעלו במהלך ההרצאה זיהיתי ארבעה חששות מרכזיים שחוזרים כמעט בכל ארגון שמתחיל לאמץ AI.
איבוד שליטה ודליפת מידע
עובדים משתמשים בכלי AI באופן יומיומי, ולעיתים קרובות מזינים לתוכם מסמכים, קוד מקור, מידע עסקי או נתוני לקוחות. החשש הזה אינו תיאורטי. כבר ראינו מקרים שבהם מידע רגיש הוזן למודלים ציבוריים והוביל לחשיפה בלתי רצויה של נכסים ארגוניים. הבעיה היא שחסימה מוחלטת של הכלים אינה פתרון אמיתי. אם נחסום אותם במחשב הארגוני, העובדים פשוט יעברו להשתמש בהם מהמכשיר הפרטי.
פרדוקס החדשנות
מנהלים רבים מרגישים שהם נמצאים במרוץ. מצד אחד הם מבינים שהבינה המלאכותית משנה את השוק ושהמתחרים כבר רצים קדימה. מצד שני הם חוששים לקבל החלטות שיחשפו את הארגון לסיכונים. התוצאה היא לעיתים קיפאון. בפועל, האתגר אינו לבחור בין חדשנות לבין אבטחה, אלא לבנות מנגנונים שמאפשרים את שתיהן במקביל.
הלחץ הרגולטורי
כניסתו של ה־EU AI Act ושורה של רגולציות נוספות מחייבות ארגונים להבין כיצד מערכות AI מקבלות החלטות, כיצד נשמר המידע ואילו בקרות קיימות לאורך מחזור החיים של המודל. עבור מנהלים רבים, מדובר כבר לא רק באתגר טכנולוגי אלא גם באתגר משפטי ועסקי.
בעיית הקופסה השחורה
בניגוד למערכות תוכנה מסורתיות, מערכות AI מקבלות החלטות באופן שלא תמיד ניתן להסביר בצורה ברורה. כאשר מודל מסנן מועמדים למשרה, מדרג לקוחות או ממליץ על החלטות עסקיות, הארגון חייב להיות מסוגל להבין ולהסביר את תהליך קבלת ההחלטות. זו כבר לא רק שאלה של יעילות, אלא גם של אחריות.
שדה הקרב החדש – מילים במקום קוד
בעולם הסייבר המסורתי חיפשנו חולשות בשרתים, באפליקציות ובמערכות הפעלה. בעולם ה־AI, הנשק המרכזי הופך להיות השפה עצמה. תוקפים אינם חייבים לכתוב קוד זדוני. לעיתים מספיקות כמה מילים נכונות במקום הנכון כדי להשפיע על התנהגות המודל.
כדי להמחיש זאת לקהל, הצגתי תרחיש של "קורות החיים השקופים". דמיינו מועמד ששולח קובץ PDF למערכת סינון קורות חיים מבוססת AI. בתוך המסמך מוסתר טקסט שאינו נראה לעין אנושית, אך ניתן לקריאה על ידי המערכת. הטקסט כולל הוראה שמבקשת מהמודל להעניק למועמד דירוג מקסימלי ולהעביר אותו לשלב הבא. מנהל הגיוס לא יראה דבר, אבל מערכת ה־AI עשויה להתייחס להוראה כחלק מהמידע שהיא נדרשת לנתח.
כמובן שמדובר בדוגמה קיצונית. בסופו של דבר, ברוב הארגונים עדיין יושב אדם שבוחן את התוצאה ומפעיל שיקול דעת. אבל זו לא הנקודה. הנקודה היא שהאיומים החדשים אינם מנסים בהכרח לפרוץ למערכת, אלא להשפיע על הדרך שבה היא חושבת.
לכן השאלה שכל הנהלה צריכה לשאול היא האם מערכות ה־AI שלה נבדקו מול וקטורי התקיפה הייחודיים לעולם הזה, או שמא אנחנו מניחים שהבקרות הישנות מספיקות גם למציאות החדשה.
כדי להמחיש זאת לקהל, הצגתי תרחיש של "קורות החיים השקופים". דמיינו מועמד ששולח קובץ PDF למערכת סינון קורות חיים מבוססת AI. בתוך המסמך מוסתר טקסט שאינו נראה לעין אנושית, אך ניתן לקריאה על ידי המערכת. הטקסט כולל הוראה שמבקשת מהמודל להעניק למועמד דירוג מקסימלי ולהעביר אותו לשלב הבא. מנהל הגיוס לא יראה דבר, אבל מערכת ה־AI עשויה להתייחס להוראה כחלק מהמידע שהיא נדרשת לנתח.
כמובן שמדובר בדוגמה קיצונית. בסופו של דבר, ברוב הארגונים עדיין יושב אדם שבוחן את התוצאה ומפעיל שיקול דעת. אבל זו לא הנקודה. הנקודה היא שהאיומים החדשים אינם מנסים בהכרח לפרוץ למערכת, אלא להשפיע על הדרך שבה היא חושבת.
לכן השאלה שכל הנהלה צריכה לשאול היא האם מערכות ה־AI שלה נבדקו מול וקטורי התקיפה הייחודיים לעולם הזה, או שמא אנחנו מניחים שהבקרות הישנות מספיקות גם למציאות החדשה.
ארכיטקטורת ההגנה המודרנית
כדי להתמודד עם האתגרים החדשים, ארגונים חייבים לאמץ גישת הגנה רב שכבתית.
זיהוי ושליטה בשימוש ב־AI
השלב הראשון הוא להבין אילו כלי AI נמצאים בשימוש בארגון. פתרונות בקרה מתקדמים מאפשרים לזהות שימוש ב־Shadow AI, להחיל מדיניות ארגונית ולמנוע שימוש לא מבוקר בכלים חיצוניים.
הגנה על מידע רגיש
מערכות DLP ו־DSPM יודעות לזהות מידע רגיש לפני שהוא יוצא מהארגון. במקום להסתמך רק על מודעות העובד, הן מייצרות שכבת הגנה אוטומטית שמונעת טעויות אנוש ומקטינה משמעותית את הסיכון לדליפת מידע.
הגנה על יישומי AI ארגוניים
כאשר ארגון מפתח יישומי AI משלו, נדרשות שכבות הגנה נוספות. פתרונות ייעודיים יודעים לזהות ניסיונות של Prompt Injection, לנטר פעילות חריגה ולמנוע ניצול של המודל על ידי משתמשים זדוניים.
סיכום אישי - הצ'ק ליסט למחר בבוקר
הדיון סביב AI עדיין מונע במידה רבה מפחד. פחד מדליפות מידע, פחד מרגולציה ופחד מאובדן שליטה. אבל השאלה האמיתית אינה האם הארגון ישתמש בבינה מלאכותית. הוא כבר משתמש בה.
השאלה היא האם הוא יעשה זאת בצורה אחראית, מבוקרת ובטוחה.
אם הייתי צריך להשאיר את הקהל עם שלוש המלצות בלבד, הן היו פשוטות: לעבור לסביבות AI ארגוניות ומאובטחות, לערב את ה־CISO כבר בשלבי התכנון הראשונים של כל יוזמת AI, ולהטמיע בקרות טכנולוגיות אמיתיות במקום להסתפק במדיניות כתובה.
כי בדיוק כמו בעולם המרוצים, בלמים טובים לא נועדו לגרום לרכב לנסוע לאט יותר. הם נועדו לאפשר לו להגיע רחוק יותר, מהר יותר ובבטחה.
וזה בדיוק התפקיד של הסייבר בעידן הבינה המלאכותית.
השאלה היא האם הוא יעשה זאת בצורה אחראית, מבוקרת ובטוחה.
אם הייתי צריך להשאיר את הקהל עם שלוש המלצות בלבד, הן היו פשוטות: לעבור לסביבות AI ארגוניות ומאובטחות, לערב את ה־CISO כבר בשלבי התכנון הראשונים של כל יוזמת AI, ולהטמיע בקרות טכנולוגיות אמיתיות במקום להסתפק במדיניות כתובה.
כי בדיוק כמו בעולם המרוצים, בלמים טובים לא נועדו לגרום לרכב לנסוע לאט יותר. הם נועדו לאפשר לו להגיע רחוק יותר, מהר יותר ובבטחה.
וזה בדיוק התפקיד של הסייבר בעידן הבינה המלאכותית.