בינה מלאכותית בסייבר, טוב או רע?

איך משפיעה התפתחות ה AI על העולם הסייבר?

טכנולוגיית ה AI בעצם משפרת יכולות קיימות בשני צדי עולם הסייבר. מצד אחד לתוקפים יש את היכולת לשפר את המתקפות שלהם, להפוך אותם מתוחכמות יותר, להרבות במתקפות קיימות  ולהוסיף משטחי תקיפה חדשים. מצד שני יש לאנשי האבטחה כלים לשיפור ההגנה וייעול הטכנולוגיות והתהליכים הקיימים.

יש לזכור ששימוש בטכנולוגיית AI פותח דלת לאיומים רבים בגלל מגוון האפשרויות של החברות בכלי ה AI השונים.

איך בעצם התוקפים יכולים לנצל את כלי ה AI?

בגלל התחכום של הכלים השונים אפשר לייצר וללמוד איך לייצר מתקפות יותר בקלות ברמה גבוהה. תהליכי הנדסה חברתית, שפה נכונה, חיקוי תהליכים עסקיים הם חלק מהיכולות שמקנה הטכנולוגיה.

בעקרון חסמים שהיו קיימים קודם לתוקפים פוטנציאלים יורדים בקצב מהיר. משטחי התקיפה גדלים וכך היכולות של התוקפים. 

אחד הממדים הבולטים הינו ממד הדיסאינפורמציה אשר מאפשר התקפות כמו וישינג ו DEEP FAKE. כיום קשה מאוד לזהות מה נכון ומה לא נכון. 

הבינה המלאכותית לא מפסיקה להתפתח וכך גם האיומים הנובעים ממנה. 

איך זה עוזר למגינים?

ל AI  ישנן יכולות לעבור על נתונים רבים ולנתח אותם במהירות. היכולות האלו עוזרות להפיק תובנות, לזהות חריגות. לזהות תבניות על מידע רב. אנשי אבטחה יכולים לייעל את מערכות הבקרה בניתוח לוגים, זיהוי מתקפות, זיהוי גורמי תקיפה ופיתוח כלי הגנה מתקדמים. ישנו מרחב חדש של אוטומציה, IR, עיבוד מקרי ותגובה ומענה אוטומטי לבעיות.

כוח האדם יכול להתפנות למשימות מורכבות יותר ולהיעזר בכלים האלו. כמובן שישנו תהליך של אימוץ הטכנולוגיה בשלבים אך אין ספק שהיא עוזרת בייעול העבודה, צמצום זמני התגובה, עזרה במצבי לחץ בו אנשים עושים טעויות ובכלל זהו כלי נהדר לקבלת החלטות.

רגע, ה AI הולך להחליף אותנו?

כבר היום יש שימוש ב AI במקומות שהעסיקו אנשים, כלומר התחלופה כבר קיימת. משימות של TIER 1 מיושמות יותר ויותר ע"י כלי AI. אין להסיק שכל המשרות יוחלפו ע"י AI. בטווח הארוך נראה תהליך של שינוי תפקידים ותפקידים חדשים שייוצרו לצד הטכנולוגיה. משימות פשוטות כנראה ייעלמו מן העולם ובצד זה יתפתחו משימות מורכבות יותר אשר יכולות להישען על כלי ה AI. בקצה התהליך יכול להיות שנגיע למצב שלא נצטרך לעבוד קשה מדי אבל זאת מציאות רחוקה מאוד בשלב הזה. יש לזכור שלסמוך רק על כלי AI יכול להוביל אותנו לסכנות חדשות.

הרבה חברות כבר משתמשות בכלי AI שונים. חלק מהן מבליטות זאת ברמה השיווקית כדי ליצור רושם של תחכום וחלק מסתירות את זה כדי לא לעורר דאגה בקרב הצרכנים. 

מה בעצם ההשלכות השליליות והסכנות של השימוש בכלי AI?

לשימוש בכלי AI יש לא מעט נקודות תורפה.

תופעת הדיסאינפורמציה והסתמכות על מידע שגוי יכולים להוביל בפגיעה בהליכים עסקיים ופגיעה במוניטין.

אלמנט הפרטיות מהווה בעיה כאשר מתמודדים עם שאלות הנוגעות למידע שאנו מזינים את הכלים השונים והחשיפה שלו לגורמים אחרים במיוחד בשימוש במידע חסוי.

יכולות להיווצר הטיות ע"י שימוש בכלים, לא ניתן להסתמך בעיניים עצומות על התפוקות, למשל בענייני פיתוח קוד.

 ישנן בעיות בקניין הרוחני של התפוקות של הכלים, שאלת זכויות היוצרים לא ברורה תמיד.

ישנו גם שימוש ברעה של הכלים ע"י תוקפים המזינים את הכלים השונים בכלי זדוניים ובכך חברות מעלות את הסיכון בתוך החברה.

האם הרגולציה מתייחסת לעניין?

אכן ישנה מגמה של התפתחות רגולציה, למשל באיחוד האירופי, אשר שואפות לתת מטווה וכלים נכונים לשימוש בכלי ה AI  השונים. הרגולציות בוחנות את ניהול הסיכונים הטמון בשימוש בטכנולוגיה,, חוסן המערכות, חדירה לפרטיות, רמת האבטחה ואמינות המידע.

במקביל ישנה ביקורת על הרגולציה אשר טוענת שיש פה שאיפה לחסימת הקדמה. הגופים השונים מנהלים דו שיח עם חברות הטכנולוגיה כדי להטמיע תהליכים ומדיניות שלא יפריעו לקדמה אך ישמשו ככלי מכוון לשמור על האזרחים.

אז AI בסייבר זה טוב או רע?

שימוש ב AI בסייבר לתקיפה והגנה הוא מציאות קיימת ואי אפשר ללכת אחורה, התחום רק יתפתח ויגדל.

אם נדע להשתמש בטכנולוגיה למרות הסיכונים הכרוכים בה  באופן מאובטח נוכל לייעל אותה לטובתנו. 

מצד אחד משטחי התקיפה גדלים ומתייעלים אך כך גם כלי ההגנה הרלבנטיים. 

אופי השימוש בכלים אלו הוא תולדה של המשתמש לרעה או לטובה.

אנשי הסייבר אמורים לאפשר את השימוש בטכנולוגיה ולהגן על החברות ומשתמשי הקצה..

הרבה משרות חדשות יוצרו וחדשנות רבה תכנס לענף.

דבר אחד בטוח, לא יהיה משעמם...