FROM ITGC TO AI GOVERNANCE -ניהול זהויות והרשאות בעידן ה-AI Agents

 

בקצרה

המעבר לשימוש ב-AI Agents מחייב הרחבה של בקרות ה-ITGC המסורתיות, שכן בניגוד למשתמשים אפליקטיביים, סוכני AI מסוגלים לקבל החלטות ולפעול באופן עצמאי. לכן, ניהול הרשאות בעידן ה-AI אינו מסתכם בבחינת הגישה למערכות, אלא מחייב גם הגדרה של גבולות הסמכות והאוטונומיה שניתנו לסוכן. עקרונות ה-ITGC נותרים בסיס חיוני, אך יש להרחיבם באמצעות מנגנוני פיקוח, אחריות ארגונית, אישורים אנושיים ותיעוד הפעילות. האתגר המרכזי הוא להבטיח שליטה לא רק בפעולות שהסוכן רשאי לבצע, אלא גם בהחלטות שהוא מוסמך לקבל, ובכך ליצור חיבור בין בקרות ה-ITGC המסורתיות לבין AI Governance.

מה השתנה ביחס למשתמשים אפליקטיביים?

השימוש בזהויות שאינן אנושיות (Non-Human Identities) אינו חדש בעולם מערכות המידע. במשך עשרות שנים ארגונים עושים שימוש במשתמשים אפליקטיביים, חשבונות שירות (Service Accounts), ממשקים ומשתמשי Batch לצורך הפעלת תהליכים אוטומטיים, העברת מידע וביצוע פעולות במערכות הארגוניות.

לזהויות אלה מוקצות הרשאות, הן מזדהות מול מערכות שונות ומבצעות פעולות ללא מעורבות אנושית ישירה. בהתאם לכך, מנגנוני הבקרה המסורתיים של IT General Controls (ITGC) כוללים תהליכים לניהול הרשאות, אישור גישות, הפרדת תפקידים וניטור פעילות של משתמשים מסוג זה.

אולם התפתחותן של מערכות Agentic AI מעלה שאלה מהותית: אם ארגונים כבר מנהלים ומבקרים זהויות לא אנושיות במשך שנים, מדוע נדרשת כיום הרחבה של תפיסת הבקרה במסגרת AI Governance?

התשובה טמונה בהבדל שבין ביצוע אוטומטי של תהליך מוגדר מראש לבין היכולת לקבל החלטות באופן עצמאי לגבי אופן ביצועו.
 

ממשתמש אפליקטיבי ל-AI Agent: ההבדל ברמת האוטונומיה

במודל המסורתי, משתמש אפליקטיבי פועל בדרך כלל בהתאם לתהליך עסקי או טכנולוגי שהוגדר מראש. סדר הפעולות, התנאים לביצוען והמערכות המעורבות בתהליך נקבעים כחלק מהתכנון והפיתוח של המערכת.

לדוגמה, בתהליך אוטומטי לקליטת חשבוניות ספקים, משתמש אפליקטיבי עשוי לבצע רצף פעולות מוגדר:
Receive Invoice → Validate → Create in ERP

במקרה זה, ניתן לבחון את ההרשאות שהוקצו למשתמש, לוודא כי הן אושרו על ידי הגורמים המתאימים, לבצע סקירות הרשאות תקופתיות (Access Reviews) ולבדוק שהפעילות בפועל תואמת לתהליך שהוגדר.

לעומת זאת, כאשר אותה משימה מועברת ל-AI Agent, אופן הביצוע עשוי להיות שונה באופן מהותי.

בהינתן הנחיה כללית כגון "טפל בחשבונית הזאת", סוכן AI עשוי לנתח את תוכן הודעת הדוא"ל, לחלץ נתונים מהחשבונית, לזהות את הספק, לאתר הזמנה תואמת במערכת ה-ERP, לבצע השוואות בין הנתונים, לבחור באילו מערכות וכלים להשתמש ואף ליזום פנייה לספק במקרה של חוסר התאמה.

בהתאם להרשאות ולמגבלות שהוגדרו לו, הסוכן עשוי גם להשלים את הפעולה במערכת הארגונית ללא צורך באישור אנושי נוסף.

בשני המקרים עשויות להיות מעורבות אותן מערכות ואף הרשאות דומות. עם זאת, קיים הבדל מהותי ברמת האוטונומיה: בעוד שמשתמש אפליקטיבי מסורתי פועל במסגרת לוגיקה שהוגדרה מראש, AI Agent עשוי לבחור באופן דינמי את רצף הפעולות, את הכלים ואת דרך הביצוע בהתאם להקשר ולמידע הזמין לו.

הבדל זה מייצר ממד נוסף של סיכון, שאינו מקבל בהכרח מענה מלא במסגרת בקרות הגישה המסורתיות.

הרחבת תפיסת ניהול ההרשאות: מגישה למערכות לסמכות לקבל החלטות

אחד מעקרונות היסוד בניהול הרשאות הוא בחינת הגישה שהוקצתה למשתמש והפעולות שהוא רשאי לבצע.

בעולם ה-ITGC, השאלה המרכזית היא:
Who has access and what can they do?
כלומר, מי מחזיק בהרשאה, לאילו מערכות הוא רשאי לגשת ואילו פעולות הוא יכול לבצע במסגרת תפקידו.

עם כניסתם של AI Agents לסביבה הארגונית, נדרשת הרחבה של השאלה:

What are they allowed to decide?
המשמעות היא שלא די בבחינת ההרשאות הטכניות שהוקצו לסוכן. יש לבחון גם את גבולות שיקול הדעת והסמכות שהארגון מאפשר לו להפעיל.

כך למשל, AI Agent עשוי להחזיק בהרשאה לעדכון נתונים במערכת פיננסית, אך עצם קיומה של ההרשאה אינו בהכרח מעיד על כך שהוא מוסמך להחליט באופן עצמאי מתי לבצע עדכון, על בסיס אילו נתונים ובאילו נסיבות.

הבחנה זו מחייבת ארגונים להתייחס לשני ממדים משלימים: הרשאה טכנולוגית לביצוע פעולה וסמכות ארגונית לקבלת החלטה על ביצועה.
 

עקרונות ה-ITGC כתשתית לניהול זהויות של AI Agents

הצורך בהתאמת מנגנוני הבקרה אינו מחייב בנייה מחדש של תפיסת ניהול ההרשאות. עקרונות ה-ITGC המסורתיים ממשיכים להיות רלוונטיים ומהווים בסיס חיוני לניהול זהויות של סוכני AI.

עקרונות אלה כוללים, בין היתר:

• Unique Identity: הקצאת זהות ייחודית לכל סוכן, המאפשרת זיהוי ומעקב אחר פעילותו.
• Ownership: הגדרת גורם ארגוני האחראי על הסוכן, הרשאותיו והשימוש בו.
•  Least Privilege: הגבלת ההרשאות למינימום הנדרש לצורך ביצוע המשימות שהוגדרו.
•  Authorization: קביעת תהליך מוסדר לאישור הרשאות וסמכויות פעולה.
•  Segregation of Duties: שמירה על הפרדת תפקידים וסמכויות בתהליכים עסקיים וטכנולוגיים רגישים.
• Logging & Monitoring: תיעוד וניטור פעילות לצורך זיהוי חריגות, בקרה ותחקור אירועים.
• Periodic Access Review: ביצוע סקירות תקופתיות לבחינת נחיצותן והתאמתן של ההרשאות שהוקצו.

עם זאת, מאפייני הפעולה של AI Agents מחייבים להרחיב את אופן היישום של עקרונות אלה, כך שיתייחסו לא רק לגישה למערכות, אלא גם לרמת העצמאות של הסוכן ולאופן שבו הוא מפעיל את הרשאותיו.

שכבת הבקרה הנוספת: ניהול סמכויות ואחריותיות

כדי לנהל באופן אפקטיבי את הסיכונים הנובעים מפעילותם של AI Agents, נדרש להגדיר מסגרת בקרה המתייחסת למאפייניהם הייחודיים.

מסגרת זו צריכה לספק מענה למספר שאלות מרכזיות.

בעלות ואחריות ארגונית: מי הגורם האחראי על פעילות הסוכן, על הגדרת מטרותיו ועל אישור הסמכויות שהוקצו לו?

גישה למערכות ולכלים: לאילו מערכות, מקורות מידע, ממשקים וכלים רשאי הסוכן לגשת, והאם קיימת הבחנה בין הרשאות קריאה, ניתוח, עדכון וביצוע?

גבולות האוטונומיה: אילו החלטות ופעולות רשאי הסוכן לבצע באופן עצמאי, ואילו פעולות מחייבות אישור נוסף?

מעורבות אנושית (Human Approval): באילו תרחישים נדרשת התערבות אנושית, וכיצד ניתן להבטיח שהיא מתבצעת לפני פעולות בעלות השלכות מהותיות?

תיעוד ואחריותיות (Accountability): כיצד ניתן לשחזר בדיעבד את הפעולות שביצע הסוכן, לזהות בשם איזה משתמש או תהליך פעל ולהבין את ההקשר והמידע שהובילו להחלטה?

מענה לשאלות אלה מאפשר לארגון להרחיב את מנגנוני ניהול הזהויות וההרשאות הקיימים, תוך התאמתם לסביבת עבודה שבה מערכות אוטונומיות עשויות לקבל החלטות ולבצע פעולות בשם הארגון.

החיבור בין ITGC ל-AI Governance

המעבר לניהול זהויות והרשאות של AI Agents ממחיש את הקשר הישיר בין עולם בקרות ה-ITGC לבין הצורך בפיתוח מסגרות AI Governance.

העקרונות שעליהם מבוסס ניהול ההרשאות הארגוני אינם משתנים מן היסוד. עם זאת, יש להרחיב את יישומם למציאות שבה זהות לא אנושית אינה מוגבלת להפעלת תהליך קבוע או להרצת Script, אלא מסוגלת להבין הקשר, לבחור כלים, לתכנן רצף פעולות ולפעול באופן עצמאי.

במציאות זו, שתי זהויות בעלות הרשאות טכנולוגיות זהות עשויות לייצר רמות סיכון שונות לחלוטין, בהתאם למידת האוטונומיה שלהן ולסמכות שהוענקה להן לקבל החלטות.

Same Permissions. More Autonomy. Different Risk

לכן, ניהול אפקטיבי של AI Agents מחייב שילוב בין בקרות גישה מסורתיות לבין מנגנוני ממשל, פיקוח ואחריותיות המותאמים למערכות אוטונומיות.

סיכום: לא רק מי קיבל הרשאה, אלא כיצד מותר לו להשתמש בה

כניסתם של AI Agents לסביבה הארגונית אינה מבטלת את הצורך בניהול זהויות והרשאות, אלא מרחיבה את משמעותו.

בעוד שבעולם המסורתי ניתן היה להתמקד בזהות המשתמש, בהרשאות שהוקצו לו ובפעולות שביצע, בעידן ה-Agentic AI נדרש לבחון גם את גבולות העצמאות ואת הסמכות שהוענקה למערכת לקבל החלטות.

האתגר המרכזי עבור מנהלי Technology Risk, GRC, Internal Audit ו-Cyber הוא להבטיח כי מנגנוני הבקרה הארגוניים מספקים מענה לא רק לשאלה מי רשאי לבצע פעולה, אלא גם מי מוסמך להחליט על ביצועה ובאילו תנאים.

השאלה המרכזית היא: Who Gave the AI Permission – and How Much Freedom Did We Give It to Use It?