זיהוי תוכן שנוצר על ידי בינה מלאכותית (AI) הופך למאתגר יותר ויותר ככל שהטכנולוגיה משתפרת, אך עדיין ישנם סימנים ושיטות שיכולים לעזור.
סקרנו עבורכם את כל הדרכים לזיהוי AI בטקסט, תמונה, סרטון או כל ויזואל אחר.
איך לזהות תוכן AI (טקסט, תמונה, וידאו)
1. זיהוי תמונות וסרטונים (Visuals)
למרות שהאיכות עולה, ל-AI עדיין יש "נקודות תורפה":
- עיוותים אנטומיים – חפשו באזורים מורכבים כמו ידיים (מספר אצבעות לא הגיוני), שיניים, אוזניים, או גפיים המשתלבות בצורה מוזרה.
- טקסט בתוך התמונה – מחוללי תמונות מתקשים לעיתים קרובות ליצור מילים קריאות. לרוב תראו אותיות שנראות כמו "ג'יבריש" או שפה חייזרית.
- תאורה וצללים – חוסר עקביות בכיוון האור, או צללים שנופלים בצורה לא הגיונית ביחס למקור האור.
- מרקם "חלק" מדי – עור פנים שנראה כמו פלסטיק, ללא נקבוביות או פגמים טבעיים, ולעיתים רקע מטושטש בצורה מלאכותית (כמו אפקט בוקה מוגזם).
- לוגיקה פיזיקלית – חפצים מרחפים באוויר, אביזרים (כמו משקפיים או תכשיטים) שמתמזגים לתוך העור.
- סימני מים דיגיטליים (Watermarking) – חברות כמו גוגל (עם כלי ה-SynthID) ו-OpenAI מטמיעות סימנים בלתי נראים לעין האנושית בתוך הפיקסלים או מטא דאטה, ניתנים לזיהוי על ידי כלים טכנולוגיים ייעודיים.
2. זיהוי טקסט
זהו החלק המאתגר ביותר, אך ישנם רמזים:
- חזרתיות – AI נוטה לחזור על רעיונות או מילים מסוימות בתוך אותה פסקה.
- מבנה גנרי – פסקאות באורך אחיד מאוד, שימוש מוגזם במילות קישור פורמליות ("יתרה מכך", "לסיכום", "חשוב לציין") גם כשאין צורך.
- חוסר ב"דעה אישית" אמיתית – הטקסט לרוב יהיה מאוזן מדי, ללא נקיטת עמדה חריפה או הבעת רגש אנושי אותנטי ומורכב.
- הזיות (Hallucinations) – המצאת עובדות, תאריכים או שמות של אנשים שלא קיימים, בביטחון מלא.
3. כלים טכנולוגיים לזיהוי
ג'ימיני יודע לבדוק בצורה טובה מאוד אם תמונה או סרטון נערכו או נוצרו באמצעות AI , פשוט מעלים סרטון או תמונה ושואלים את ג'ימיני אם התוכן נוצר עם AI, ג'ימיני יבדוק את בתוכן באמצעות Synth ID וידע לפרט תשובה באיזה מקצעים היה שימוש בטכנולוגיית AI.
מה זה Synth ID?
SynthID היא טכנולוגיה מתקדמת שפותחה על ידי Google DeepMind ומיועדת לזיהוי תוכן שנוצר באמצעות בינה מלאכותית על ידי הטמעת "סימן מים" דיגיטלי ישירות בתוך הקובץ. סימן זה מוטמע בתמונות, אודיו, וידאו או טקסט באופן שאינו נראה לעין האנושית ואינו פוגע באיכות התוכן, אך ניתן לזיהוי על ידי מערכות ממוחשבות בזכות שינויים מזעריים ברמת הפיקסל או המידע. יתרונה הגדול של הטכנולוגיה הוא עמידותה, שכן היא מאפשרת לזהות את מקור ה-AI גם לאחר שהתוכן עבר עריכה, חיתוך, שינוי צבעים או דחיסה, ומטרתה העיקרית היא להגביר את השקיפות ברשת ולאפשר הבחנה אמינה בין יצירה אנושית לבין תוכן שנוצר על ידי המודלים של גוגל.
רשימת כלים נוספים:
Content Credentials (Verify)
זהו כלי האימות הרשמי המבוסס על תקן ה-C2PA העולמי, שנועד לבדוק הימצאותם של "חתימות דיגיטליות" וגם מטא דאטה בתוך קובץ התמונה. הכלי יעיל במיוחד עבור תמונות שנוצרו במחוללים גדולים התומכים בתקן (כמו DALL-E 3 או Adobe Firefly), כיוון שהוא מציג את ההיסטוריה של הקובץ ומקורו בצורה שקופה. עם זאת, יעילותו תלויה בכך שהנתונים לא נמחקו מהקובץ, ולכן צילום מסך או המרה בתוכנות מסוימות עשויים להכשיל את הזיהוי.
Hive Moderation
כלי זה נחשב לאחד החזקים והאמינים בשוק לזיהוי תמונות, והוא פועל בצורה שונה מרוב הכלים האחרים בכך שאינו מסתמך על מטא-דאטה אלא מפעיל מודל AI משלו כדי לנתח ויזואלית את התמונה ולחפש בה דפוסים מלאכותיים. המשתמש מעלה תמונה לממשק, המערכת מספקת ציון באחוזים המעריך את הסבירות שהתמונה נוצרה על ידי בינה מלאכותית (כמו Midjourney), מה שהופך אותו לפתרון מצוין גם לתמונות שעברו עריכה וצילום מסך.
Google – מידע על תמונה זו (About this image)
זהו יישום נגיש ונוח שגוגל הטמיעה ישירות בתוך מנוע חיפוש התמונות שלה, המשלב טכנולוגיות שונות כולל SynthID וניתוח מטא-דאטה כדי לספק הקשר לגבי התמונה. בלחיצה על שלוש הנקודות ליד תמונה בתוצאות החיפוש, הכלי מציג מידע על ההיסטוריה של התמונה, מתי היא נראתה לראשונה ברשת, האם היא סומנה על ידי גוגל כתוכן שנוצר באמצעות AI, מה שמאפשר בדיקה מהירה ללא צורך ביציאה לאתרים חיצוניים.
Copyleaks
כלי זה, שפותח על ידי חברה ישראלית, נחשב למוביל בתחום ניתוח הטקסט ומסוגל לזהות הן גניבת תוכן (פלגיאט) והן טקסט שנכתב על ידי בינה מלאכותית ברמת דיוק גבוהה. היתרון המשמעותי שלו עבור הקהל המקומי הוא התמיכה הטובה יחסית בשפה העברית בהשוואה למתחרים, והיכולת שלו לסמן משפטים ספציפיים בתוך הטקסט שנראים חשודים, מה שהופך אותו לכלי מועדף באקדמיה ובעולמות התוכן המקצועיים.
GPT Zero
זהו כנראה מזהה הטקסט המפורסם ביותר בעולם כיום, הפועל על בסיס ניתוח מדדים של "מורכבות" (Perplexity) ו"אקראיות" (Burstiness) כדי להבדיל בין כתיבה אנושית מגוונת לכתיבה מכנית של מכונה. הוא מציע גרסה חינמית פופולרית מאוד ומצטיין בעיקר בזיהוי טקסטים באנגלית, אך חשוב לזכור שהוא עשוי להיות פחות מדויק בטקסטים יצירתיים מאוד או בשפות שאינן אנגלית, ולכן משמש בעיקר ככלי לבדיקה ראשונית מהירה.
Zero GPT
כלי זה מציע פתרון חינמי, פשוט ומהיר מאוד לשימוש בשיטת "העתק-הדבק", המיועד למשתמשים שרוצים אינדיקציה מיידית ללא צורך בהרשמה או הגדרות מורכבות. המערכת מנתחת את הטקסט ומספקת ציון אחוזים המעריך את רמת המעורבות של ה-AI בכתיבה, ולמרות שהוא נחשב לפחות מתוחכם מכלים כמו Copyleaks, הוא משמש ככלי עזר נגיש לבדיקות סף ראשוניות.
איך תוצאות (חיפוש/שאילתות) ה – AI של גוגל ושל CHAT GPT מתייחסות בדירוגים שלהם לתוכן מסוג זה?
זוהי אחת השאלות הבוערות בעולם השיווק הדיגיטלי. הנה הגישה הרשמית והמעשית נכון להיום:
1. גוגל (Google Search & SEO)
גוגל שינתה את המדיניות שלה והיא מצהירה בגלוי – לא משנה מי כתב את התוכן (אדם או מכונה), משנה איכות התוכן.
- עקרון ה-E-E-A-T – גוגל מדרגת אתרים לפי: ניסיון (Experience), מומחיות (Expertise), סמכותיות (Authoritativeness) ואמינות (Trustworthiness).
- אם ה-AI ייצר תוכן מדויק, מועיל ועונה על שאלת הגולש, רק אז הוא יכול להיות מדורג גבוה.
- הבעיה – ל-AI אין "ניסיון אישי" (ה-E הראשון). לכן, בביקורות מוצרים, המלצות טיולים או תוכן רפואי/פיננסי, תוכן גנרי של AI יתקשה להתחרות בתוכן שנכתב על ידי מומחה אנושי עם ניסיון מוכח.
- ספאם וסקייל (Mass Production) – גוגל מענישה בחומרה אתרים שמשתמשים ב-AI כדי לייצר מאות או אלפי דפים בחודש רק כדי לתפוס מילות מפתח ("תוכן זבל"). האלגוריתמים החדשים (כמו ה-Spam Update) יודעים לזהות ואף לחסום אתרים כאלו.
- תיוג – גוגל ממליצה (אך לא מחייבת חוקית כרגע בכל המקרים) לציין בפני גולש אם תוכן נוצר באמצעות AI, למען השקיפות.
2. Chat GPT (OpenAI)
Chat GPT אינו "מנוע חיפוש" במובן הקלאסי (למרות כניסת Search GPT), אך ההתייחסות שלו לתוכן היא שונה:
- מטא דאטה בתמונות (DALL-E) – כל תמונה שנוצרה ב-Chat GPT (דרך DALL-E 3) מכילה חתימה דיגיטלית בתקן C2PA. זה אומר שמערכות אחרות יכולות לזהות בקלות שהתמונה נוצרה על ידי AI.
- סינון תוכן – המערכת של OpenAI מתוכנתת לסרב לייצר תוכן שמפר זכויות יוצרים בצורה בוטה או מחקה אנשים אמיתיים בצורה מטעה, והיא מסמנת לעצמה תוכן שהיא יצרה כדי לאמן את הדורות הבאים על מידע נקי יותר (למנוע "קניבליזם של מידע").
שורה תחתונה….
- לזיהוי AI חפשו פגמים ויזואליים קטנים, חוסר הגיון, או טקסט "מושלם מדי וחסר נשמה". השתמשו בכלים אך בזהירות.
- לדירוג SEO ו GEO – גוגל לא מענישה על השימוש ב-AI, היא מענישה על תוכן גרוע. אם תשתמשו ב-AI ככלי עזר (Assistant) ולא כטייס אוטומטי, ותוסיפו את הטאץ' האנושי והניסיון שלכם התוכן ידורג היטב.
