הסרטון נראה אמיתי לחלוטין. הרב הראשי לישראל, הרב דוד יוסף, ממליץ בו בחום על מוצר רפואי, והקישור המצורף מוביל לעמוד מתחזה. אלא שהרב מעולם לא צילם סרטון כזה. מערך הסייבר הלאומי, שפרסם אזהרה לציבור במאי 2026, הגדיר את ההפצה "ניסיון הונאה מתוחכם": סרטוני דיפ-פייק שנבנו כדי לרתום פנים מוכרות ואמינות לגניבת פרטים אישיים ופרטי תשלום.
המקרה הזה הוא רק דוגמה קטנה מתוך תופעה שמתנפחת במהירות. לפי מסמך שפרסמה ממשלת בריטניה בתחילת 2025, מספר קבצי הדיפ-פייק המופצים ברשת היה צפוי לזנק באותה שנה לכשמונה מיליון, לעומת כחצי מיליון בלבד ב-2023 – הכפלה בקצב של אחת לחצי שנה בערך. הכתבה הזאת מתמקדת בזיוף וידאו ותמונות – להבדיל מהונאות שיבוט הקול בטלפון, שהן זירה נפרדת – ובשלוש שאלות שהופכות דחופות משנה לשנה: איך בכלל מזהים זיוף, למה העין האנושית נכשלת בזה שוב ושוב, ומה קורה לאמון הציבורי כשכל סרטון הופך לחשוד.
מה ההבדל בין דיפ-פייק בווידאו ובתמונות לזיוף קול?
המונח דיפ-פייק נולד מחיבור המילים deep learning (למידה עמוקה) ו-fake (זיוף), והוא מתאר תוכן שנוצר או שונה באמצעות רשתות נוירונים: החלפת פנים של אדם בסרטון קיים, הזזת שפתיים כך שיתאימו לפסקול של דברים שהאדם מעולם לא אמר, או יצירת תמונה וסרטון שלמים יש מאין. זיוף קול הוא ענף אחר של אותה טכנולוגיה – שיבוט חתימה קולית מתוך שניות ספורות של הקלטה – והוא משמש בעיקר בהונאות טלפוניות בזמן אמת. הזיוף החזותי, לעומתו, חי ברשתות החברתיות: הוא מופץ לאלפי אנשים בבת אחת, והנזק שלו נמדד לא רק בכסף אלא גם באמון.
שני הענפים כבר מוכרים היטב לחוקרי הונאות. סקירה שפרסם ארגון אונסק"ו מצטטת נתוני סקרים שלפיהם 46% מהמומחים לחקר הונאות נתקלו בזהויות סינתטיות, 37% בזיופי קול ו-29% בסרטוני דיפ-פייק. ולפי הערכה של פירמת הייעוץ דלויט, המצוטטת באותה סקירה, הפסדי ההונאה בארצות הברית שמקורם בבינה מלאכותית יוצרת עשויים לטפס מ-12.3 מיליארד דולר ב-2023 לכ-40 מיליארד דולר ב-2027.
למה העין האנושית נכשלת שוב ושוב?
האינטואיציה אומרת שזיוף טוב הוא נדיר, ושרובנו נבחין ב"משהו מוזר" בפנים מזויפות. המחקר אומר את ההפך. עוד ב-2020 הריצו החוקרים פאבל קורשונוב וסבסטיאן מרסל ממכון המחקר השווייצרי Idiap ניסוי פשוט: הם הציגו לנבדקים 120 סרטונים, מחציתם מזויפים, והנבדקים ידעו מראש שהם מחפשים זיופים. את הסרטונים המזויפים ברמה הגבוהה ביותר זיהו הנבדקים כזיוף ב-24.5% מהמקרים בלבד.
מאז הצטברו עשרות מחקרים, והתמונה המצרפית שלהם עגומה לא פחות. מטא-אנליזה שפורסמה בכתב העת Computers in Human Behavior Reports ושאיגדה 56 מחקרים עם 86,155 משתתפים, מצאה שבני אדם מזהים תוכן מזויף ב-55.54% מהמקרים בממוצע – תוצאה שאינה שונה סטטיסטית מהטלת מטבע. בפילוח לפי סוג מדיה, סרטוני דיפ-פייק זוהו ב-57.31% מהמקרים ותמונות מזויפות ב-53.16% בלבד. החדשות הטובות היחידות: אימון עם משוב, תמיכה של כלי בינה מלאכותית ושיטות עזר אחרות העלו את הדיוק לכ-65% – עדיין רחוק מזיהוי אמין.
המחקר שהמחיש זאת בצורה החדה ביותר הגיע מחברת אימות הזהות הבריטית iProov. בתחילת 2025 היא הציגה ל-2,000 צרכנים בבריטניה ובארצות הברית סדרת תכנים אמיתיים ומזויפים, וביקשה מהם למיין אותם. רק 0.1% מהמשתתפים – שניים מתוך אלפיים – סיווגו נכון את כל הפריטים, וזאת כשנאמר להם מראש לחפש זיופים. סרטונים התגלו כקשים במיוחד: הסיכוי לזהות וידאו סינתטי היה נמוך ב-36% מהסיכוי לזהות תמונה סינתטית. ובכל זאת, יותר מ-60% מהמשתתפים היו בטוחים ביכולת הזיהוי שלהם, בלי קשר לשאלה אם צדקו. הפער הזה, שבין ביטחון עצמי לביצועים, הוא בדיוק מה שהופך את הדיפ-פייק לכלי הונאה יעיל.
איך עובד זיהוי דיפ-פייק בפועל?
טכנולוגיות הזיהוי תוקפות את הבעיה משני כיוונים. הראשון הוא חיפוש ארטיפקטים – שאריות של תהליך הייצור. מחוללי זיוף נוטים להתקשות דווקא בפרטים הקטנים: מצמוץ טבעי, קווי מתאר בין שיניים, תנועת שיער, התפר שבין הפנים המוחלפות לצוואר. מסווגים ממוחשבים לומדים לאתר את הפגמים האלה גם כשהם קטנים מכדי שעין אנושית תבחין בהם.
הכיוון השני מחפש דווקא את סימני החיים שהזיוף לא יודע לחקות. FakeCatcher, מערכת שהציגה אינטל בסוף 2022 כגלאי הדיפ-פייק הראשון שפועל בזמן אמת, מנתחת את השינויים הזעירים בצבע הפיקסלים של הפנים הנובעים מזרימת הדם: בכל פעימת לב הוורידים משנים גוון במעט, והאות הפיזיולוגי הזה, שנאסף מנקודות שונות בפנים, קשה מאוד לזיוף. אינטל דיווחה על דיוק של 96% ועל תוצאה בתוך אלפיות שנייה – בתנאי מעבדה.
הסייג הזה מוביל לבעיה המרכזית של התחום: הכללה. ב-2020 סיכמה פייסבוק תחרות זיהוי דיפ-פייק גדולה שבה 2,114 מתמודדים הגישו יותר מ-35 אלף מודלים. המודל שהוביל את הטבלה הציבורית השיג דיוק של 82.56% על זיופים מהסוג שעליו התאמנו המתמודדים – אבל מול מאגר סמוי של זיופים שאיש לא ראה מראש, התוצאה הגבוהה ביותר בתחרות כולה הייתה 65.18% בלבד, והשיג אותה דווקא מודל שדורג רק רביעי בטבלה הציבורית. במילים אחרות, גלאי שמצטיין מול זיופים מהדור המוכר מאבד חלק ניכר מיכולתו מול הדור הבא, וכל שיפור במחוללים מאלץ את המגינים להתחיל כמעט מחדש. זהו מרוץ חימוש מובנה: אותה טכנולוגיית למידה עמוקה משמשת את שני הצדדים.
אם גם המכונות מתבלבלות, מה נשאר?
בגלל המגבלות האלה, מרכז הכובד בתעשייה עובר בשנים האחרונות מגישת "לתפוס את הזיוף" לגישה הפוכה: להוכיח מה אמיתי. בפברואר 2021 הקימו אדובי, Arm, BBC, אינטל, מיקרוסופט ו-Truepic את קואליציית C2PA (ראשי תיבות של Coalition for Content Provenance and Authenticity), שמפתחת תקן פתוח לשיוך מקור של תוכן דיגיטלי. הרעיון: המצלמה או תוכנת העריכה מטביעה בקובץ חתימה קריפטוגרפית שמתעדת מי יצר אותו, מתי ואילו עריכות עבר. גורם שמקבל את הקובץ יכול לוודא שהשרשרת לא נשברה – מעין תעודת יוחסין לתמונה.
לגישה הזאת מגבלות משלה: חתימה אפשר להסיר (אם כי לא לזייף בקלות), ותוכן ישן או תוכן שצולם במכשירים שאינם תומכים בתקן יישאר בלי תעודה. אבל היא משנה את השאלה שהצופה נדרש לשאול – במקום "האם אני מזהה פגם בזיוף?" באה השאלה "האם יש לתוכן הזה שרשרת מקור מאומתת?". במקביל מתרחב השימוש בסימני מים דיגיטליים שמוטבעים בתוכן שנוצר בידי מחוללי בינה מלאכותית עצמם, כשכבת זיהוי נוספת.
מה זה עושה לאמון שלנו במה שאנחנו רואים?
הנזק העמוק של הדיפ-פייק אינו רק בזיופים שמצליחים לרמות, אלא במה שקורה לכל השאר. חוקרת טכנולוגיות הלמידה נדיה נאפי מאוניברסיטת לאוואל בקנדה, בסקירה שפורסמה באתר אונסק"ו, מכנה זאת "משבר של עצם הידיעה": כשכל סרטון יכול להיות מזויף, נשחקים המנגנונים שבעזרתם חברה שלמה מסכימה על עובדות. במחקר iProov, 49% מהמשתתפים דיווחו שהם סומכים פחות על רשתות חברתיות מאז שלמדו על קיומם של דיפ-פייקים, וכחמישית כלל לא ידעו שהתופעה קיימת – פערי מודעות שמותירים חלק מהציבור חשוף לגמרי.
לישראלים אין צורך בהסברים תיאורטיים. בזירה שבה מלחמת נרטיבים מתנהלת ברשתות סביב כל אירוע ביטחוני, תיעוד חזותי הפך מזמן לשדה קרב בפני עצמו, ומקרים כמו סרטון ההונאה של הרב יוסף מוכיחים שהאיום ירד גם למגרש הצרכני היומיומי. התופעה מזכירה את מה שקרה בשנים האחרונות לאותות הניווט של ה-GPS בישראל: טכנולוגיה שקיבלנו כמובנת מאליה התגלתה כניתנת לזיוף, והציבור נאלץ ללמוד לחיות עם סימן שאלה קבוע. ההשלכה המסוכנת ביותר היא דווקא ההפוכה מהונאה – היכולת של כל אדם מוסרט לטעון שהתיעוד האמיתי נגדו הוא "סתם דיפ-פייק", ולזרוע ספק גם במה שנכון.
איך בודקים אם סרטון אמיתי?
מערך הסייבר הלאומי פרסם מדריך מעשי לזיהוי דיפ-פייק, תחת הכותרת המתבקשת "לראות ולא להאמין". ברמת התוכן עצמו, המדריך ממליץ לחפש את החולשות המוכרות של המחוללים: תנועת עיניים לא טבעית או היעדר מצמוץ, שיניים שנראות כמשטח אחיד בלי הפרדה ביניהן, קצוות מטושטשים ואי-התאמה בין הפנים לגוף, שיער שזז בצורה מוזרה, וסנכרון שפתיים לקוי או קול שנשמע רובוטי.
אבל הסימנים החזותיים הם רק חצי מהבדיקה, והם הולכים ונחלשים ככל שהמחוללים משתפרים. החצי השני הוא שאלות של היגיון עיתונאי: מדוע הסרטון מגיע דווקא עכשיו? מי מפיץ אותו ומה האינטרס שלו? האם הוא מנסה לעורר רגש עז? האם כלי תקשורת מהימנים מדווחים על אותו אירוע, והאם חיפוש תמונה הפוך מוביל למקור הראשוני? ובמקרה של סרטונים "צרכניים" כמו זה של הרב יוסף, ההמלצות הרשמיות פשוטות: לא ללחוץ על קישורים מצורפים, לאמת כל הצעה מול האתר הרשמי של הגורם המוצג, לדווח לפלטפורמה – ובמקרה של חשד לפגיעה, להתקשר למוקד הסייבר 119.
השורה התחתונה של המחקר עקבית להפתיע: אל תסמכו על העין, גם לא על שלכם. סמכו על ההקשר, על המקור ועל ההצלבה.
שאלות ותשובות
האם כלי זיהוי אוטומטיים לדיפ-פייק אמינים? בתנאים מוכרים הם מרשימים, אך ביצועיהם יורדים באופן חד מול טכניקות זיוף שלא נכללו באימון שלהם – כפי שהראתה תחרות הזיהוי הגדולה של פייסבוק, שבה התוצאה הגבוהה ביותר מול מאגר סמוי הייתה נמוכה בכ-17 נקודות אחוז מהתוצאה הגבוהה ביותר על זיופים מוכרים. לכן נכון להתייחס לתוצאה של גלאי אוטומטי כאל אינדיקציה אחת מני כמה, ולא כאל פסיקה סופית, ולשלב אותה תמיד עם בדיקת מקור והצלבת דיווחים.
קיבלתי בוואטסאפ סרטון מפתיע של אדם מפורסם. מה הבדיקה המהירה ביותר? התחילו דווקא מההקשר ולא מהפיקסלים: חפשו את האירוע בכלי תקשורת מבוססים ובחשבונות הרשמיים של האדם המוצג. אם ההצהרה קיצונית ואין לה שום עקבות מחוץ לסרטון, ההסתברות לזיוף גבוהה. רק אחר כך בחנו את הסימנים הטכניים – מצמוץ, שיניים, תפרים בין פנים לצוואר – וזכרו שהיעדר פגמים גלויים אינו הוכחה לאותנטיות.
האם נגיע למצב שבו אי אפשר להאמין לשום תיעוד? התרחיש הסביר הוא פחות דרמטי: האמון יעבור מהתוכן עצמו אל שרשרת המקור שלו. תקנים כמו C2PA מאפשרים לצרף לקבצים תעודת מקור קריפטוגרפית, וגופי תקשורת ויצרניות מצלמות מאמצים אותם בהדרגה. בעולם כזה, תוכן ללא תעודה לא ייחשב אוטומטית שקרי – אבל תוכן חשוב שמגיע בלי שרשרת מקור יידרש לעמוד ברף חשדנות גבוה בהרבה.
מקורות
- Human performance in detecting deepfakes: A systematic review and meta-analysis of 56 papers – Diel et al., Computers in Human Behavior Reports, 2024.
- Deepfake detection: humans vs. machines – Korshunov & Marcel, מכון Idiap, ספטמבר 2020.
- iProov Study Reveals Deepfake Blindspot: Only 0.1% of People Can Accurately Detect AI-Generated Deepfakes – iProov, פברואר 2025.
- Innovating to detect deepfakes and protect the public – ממשלת בריטניה (Accelerated Capability Environment), פברואר 2025.
- Deepfakes and the crisis of knowing – נדיה נאפי, אונסק"ו, אוקטובר 2025.
- Deepfake Detection Challenge Results: An open initiative to advance AI – Meta AI, יוני 2020.
- Intel Introduces Real-Time Deepfake Detector – Intel Newsroom, נובמבר 2022.
- C2PA Founding Press Release – Coalition for Content Provenance and Authenticity, פברואר 2021.
- לראות ולא להאמין – מדריך מערך הסייבר הלאומי לזיהוי דיפ פייק – מערך הסייבר הלאומי, gov.il, אפריל 2024.
- כיצד לזהות סרטונים שזויפו באמצעות AI – מדריך מערך הסייבר הלאומי – Techtime, אפריל 2024.
- מערך הסייבר מזהיר: סרטון דיפ פייק מזויף של הרב דוד יוסף מופץ ברשת – ערוץ 7, מאי 2026.