קריאה במחקר שפורסם על ידי המכון למחקרי ביטחון לאומי הישראלי

עיינתי היום במחקר שפורסם על ידי המכון למחקרי ביטחון לאומי הישראלי, שכותרתו: "Institute for National Security Studies "Data Poisoning Primer: Foundations, Threat Models, and National Security Risks" (מבוא להרעלת נתונים: יסודות, מודלים של איומים וסיכוני ביטחון לאומי), שפורסם ב-8 ביולי 2026. במהרה מגלים שמחקר זה אינו טכני גרידא, אלא ניסיון למסגר את "הרעלת הנתונים" (Data Poisoning) כאיום אסטרטגי חדש על הביטחון הלאומי, בדומה למתקפות סייבר מסורתיות או קמפיינים של דיסאינפורמציה. זו הייתה המוטיבציה להציג בפניכם את תוכנו במהירות, במיוחד לאחר שמצרים הכריזה רשמית על כניסתה למסלול זה לפני מספר ימים באמצעות פתיחת המבנה החדש (האוקטגון), שהתקבל בתקשורת הישראלית במידה מסוימת של דאגה.

ראשית: הרעיון המרכזי של המחקר המחקר יוצא מנקודת מבט בסיסית: ששירותי מודיעין, צבאות, ממשלות וחברות גדולות מסתמכים יותר ויותר על מערכות בינה מלאכותית לקבלת החלטות. לפיכך, מי ששולט בנתונים מהם לומדות מערכות אלו יכול להשפיע על החלטותיהן בעתיד, גם אם לא פרץ למערכת עצמה. במילים אחרות, כבר אין צורך לפרוץ למחשב או לרשת, אלא מספיק להשחית את הנתונים מהם לומדת הבינה המלאכותית.

שנית: מהי הרעלת נתונים? המחקר מגדיר הרעלת נתונים כהכנסת מידע מזויף, מוטה או שונה בכוונה לתוך הנתונים שבהם משתמשת הבינה המלאכותית במהלך אימון או במהלך אחזור ידע, כך שבהמשך ייווצרו מסקנות והחלטות שגויות. כלומר, התוקף אינו תוקף את המודל ישירות, אלא תוקף את מקור הידע.

שלישית: מדוע זה מסוכן יותר מתעמולה מסורתית? המחקר טוען כי דיסאינפורמציה מסורתית מסתמכת על: * שכנוע בני אדם. * הפצת חדשות כזב. * השפעה פסיכולוגית. אך הרעלת נתונים שונה באופן מהותי, שכן האדם עלול לעולם לא לראות את החומר המזויף. אך הבינה המלאכותית לומדת ממנו ולאחר מכן מציגה אותו כאמת. כלומר, הקורבן אינו נחשף ישירות לתעמולה, אלא לתוצאותיה, ונקודה זו נחשבת על ידי המחקר לשינוי איכותי בסביבת המידע.

רביעית: שכבות ההתקפה המחקר מחלק את ההתקפה לשלוש רמות. 1. שכבת הנתונים, שהיא המסוכנת ביותר. הוספת מידע כוזב ל: * מסדי נתונים. * ויקיפדיה. * מאגרים פתוחים. * תמונות. * מסמכים. 2. שכבת המודל שבה הבינה המלאכותית לומדת מנתונים אלה, ומתחילה לתת תשובות מוטות. 3. שכבת היישום: וכאן מופיעות התוצאות, כגון: * דו"ח מודיעיני שגוי. * אבחון רפואי שגוי. * המלצה צבאית שגויה. * החלטה כלכלית שגויה. כלומר, השגיאה מופיעה חודשים או שנים לאחר הטמעת הנתונים המזוהמים.

חמישית: דוגמאות שהמחקר מציג המחקר מציג מספר מקרים להמחשה, ביניהם: * הניסוי של בוט הצ'אט Tay של מיקרוסופט בשנת 2016, שהתנהגותו השתנתה במהירות כתוצאה מאינטראקציות משתמשים. * מניפולציה של תוכן ויקיפדיה ומאגרי נתונים כמו LAION, שעליהם מסתמכים מודלים רבים של בינה מלאכותית. * רשת Pravda Network הקשורה לרוסיה, שביקשה להכניס תוכן מכוון לסביבות ידע פתוחות כדי שיהפוך לחלק מהנתונים שבהם מודלים עשויים להשתמש בעתיד. * דוגמה הקשורה לנתוני התרופה וורפרין, הממחישה כיצד שינויים קטנים בנתונים רפואיים יכולים להוביל להמלצות טיפוליות מסוכנות.

שישית: מי יכול לבצע התקפות אלו? המחקר מדגיש כי האיום אינו מוגבל למדינות, אלא כולל: * שירותי מודיעין. * קבוצות הנתמכות על ידי מדינות. * האקרים. * חברות מתחרות. * עובדים מתוך הארגון. * ואפילו יחידים בעלי יכולות מוגבלות אם ינצלו נתונים פתוחים.

שביעית: מדוע קשה לגלות את ההתקפה? מכיוון שהנתונים המזויפים עשויים להיראות טבעיים לחלוטין, ולכן המחקר טוען כי: * גילויים יקר. * הסרת השפעותיהם קשה יותר. * והשפעתם עלולה להישאר רדומה עד לרגע משבר או מלחמה. הוא מתאר זאת כ"הרעלה רדומה", שבה הנתונים מושתלים מראש והשפעותיהם מופעלות בעת הצורך.

שמינית: השלכות על הביטחון הלאומי המחקר מקשר בעיה זו ישירות לתחומים כמו: * מודיעין. * פיקוד ושליטה צבאיים. * הגנת סייבר. * תשתית קריטית. * בריאות הציבור. * שווקים פיננסיים. והוא מזהיר כי ממשלות מסתמכות על נתונים ומודלים שאין להן שליטה מלאה על מקורותיהם, מה שמרחיב את "שטח התקיפה" על הביטחון הלאומי.

תשיעית: המלצות המחקר ממליץ על הדברים הבאים: * תיעוד מקור הנתונים (Provenance). * אימות תקינות הנתונים לפני השימוש בהם. * ניטור מאגרי מודלים ונתונים פתוחים. * ביצוע בדיקות המדמות תרחישי הרעלה. * הנחה שחלק מההרעלה אכן תתרחש, ובניית נהלים לפעולה תחת אפשרות זו במקום להניח תמיד את תקינות הנתונים.

הערה וניתוח מחקר זה משקף שינוי חשוב בחשיבה הביטחונית הישראלית. בעבר, ההתמקדות הייתה בהגנה על רשתות או מניעת דליפת מידע, אך כעת תשומת הלב עוברת להגנה על "הידע" עצמו שעליו מסתמכות מערכות הבינה המלאכותית. זה מצטלב עם מגמה עולמית הולכת וגוברת במחקר אבטחת בינה מלאכותית, הרואה בהרעלת נתונים כאחד האיומים המסוכנים ביותר על מערכות למידת מכונה, במיוחד עם ההסתמכות על נתונים פתוחים ומקורות צד שלישי. מנקודת מבט אסטרטגית, ניתן לקרוא מחקר זה כאיתות לכך שהתחרות בין מדינות אינה מוגבלת עוד לאיסוף מידע או לביצוע מתקפות סייבר, אלא התרחבה למאבק על עיצוב הסביבה הקוגניטיבית שממנה לומדות מערכות הבינה המלאכותית. מי שיצליח להשפיע על סביבה זו עשוי להשפיע בהמשך על הערכות מודיעיניות, החלטות צבאיות או מדיניות ציבורית, ללא צורך בפריצה ישירה. בהקשר של המזרח התיכון, שבו ההשקעות בבינה מלאכותית למטרות צבאיות ומודיעיניות הולכות וגוברות, מחקר זה מרמז כי אבטחת נתונים תהפוך לחלק בלתי נפרד מהביטחון הלאומי, וכי הגנה על מקורות ידע עשויה להפוך בעתיד לחשובה לא פחות מהגנה על גבולות או רשתות אלקטרוניות.