במבט ראשון, בינדי ריי נראית בדיוק כמו עוד משפיענית אוסטרלית צעירה שמצאה את הנוסחה שעובדת באינסטגרם. היא מעלה תמונות וסרטונים מחדר הכושר, מבלה עם חברות, הולכת למשחקי פוטבול, משתזפת בחוף ומדי פעם מחליפה את בגדי הבילוי באפוד זוהר ובבגדי עבודה מאתרי כרייה מרוחקים.
יותר מ-90 אלף איש (רובם גברים) כבר עוקבים אחרי החשבונות שלה, ומתלהבים ממנה בתגובות. "היי יפהפייה, אוהב את התמונות ואותך", כתב אחד. אחר הסתפק ב"פשוט אישה מהממת".
הפרופיל שלה בנוי היטב במיוחד עבור קהל אוסטרלי מסוים. ריי מוצגת כעובדת FIFO - שיטת עבודה נפוצה בתעשיית הכרייה שבה עובדים מוטסים לאתרים מרוחקים, שוהים שם במשך תקופת עבודה רצופה ואז חוזרים הביתה לחופשה.
רק שבינדי ריי מעולם לא עבדה במכרה. היא גם מעולם לא הלכה לחדר כושר. למעשה, בינדי ריי כלל לא קיימת.
הפנים משתנות, האותיות מתחרבשות
תחקיר של רשת ABC האוסטרלית קבע כי הפנים, הקול והפרסונה כולה של ריי נוצרו באמצעות בינה מלאכותית. גם מומחית ממעבדת הסייבר הפורנזי של אוניברסיטת קווינסלנד בחנה את התוכן וזיהתה שורה של סימנים אופייניים ל-AI.
בין היתר נמצאו שינויים בתווי הפנים בין סרטונים ותמונות, אי התאמות בתנועות השפתיים, צללים שאינם מתנהגים באופן טבעי ורקעים שבהם מופיעות שגיאות ועיוותים. בחלק מהתמונות אפשר למצוא גם את אחד הסימנים הקלאסיים של תמונות AI - כיתובים ושלטים שמורכבים מרצף אותיות חסר משמעות.
ד"ר פריאנקה סינג מאוניברסיטת קווינסלנד אמרה כי החשבון נראה לה "כמעט 100 אחוז נוצר באמצעות AI".
יש גם ראיה ישירה יותר. בכמה מהסרטונים מופיעה ריי במדי עבודה הנושאים לוגו של חברת כרייה אמיתית. החברה מסרה ל-ABC כי מעולם לא העסיקה עובדת בשם הזה או מישהי שנראית כמוה.
ועדיין, באינסטגרם לא הוצג לצד הפרופיל גילוי ברור שמדובר בדמות מלאכותית - ורבים מהמגיבים כנראה פשוט קיבלו אותה כאדם אמיתי.
וכאן נכנס הכסף
החשבון לא נבנה רק כדי לצבור לייקים. מהפרופיל מופנים העוקבים לעמוד של ריי בפלטפורמת התוכן בתשלום Fanvue, שם אפשר לרכוש תוכן פורנוגרפי שלה.
מנוי חודשי עולה 9.24 דולר אוסטרלי (כ-20 שקלים), וסרטונים מסוימים נמכרים ב-115 דולר אוסטרלי (כ-247 שקלים). דווקא שם מופיע סימון קטן שמבהיר כי מדובר בתוכן שנוצר באמצעות AI.
ראש תחום האמון והבטיחות של Fanvue, רוב הייווד, אישר ל-ABC כי בינדי ריי היא "יוצרת AI". לדבריו, כל חשבון בפלטפורמה - גם כזה שמציג דמות מלאכותית לחלוטין - מקושר מאחורי הקלעים לאדם אמיתי שעבר אימות זהות. זהותו של מי שמפעיל את ריי, לעומת זאת, נותרה לא ידועה. לדברי הייווד, כ-75 אחוז מהיוצרים ב-Fanvue משתמשים לפחות בכלי AI אחד.
"אנחנו חושבים שאנחנו יודעים לזהות מה אמיתי"
הבחירה להפוך את ריי דווקא לעובדת בתעשיית הכרייה כנראה אינה מקרית. חוקרת מאוניברסיטת מונאש, ד"ר אמילי ואן דר נגל, הסבירה כי מדובר בקהל יעד ממוקד הכולל עובדים בענף שמציע כמה מהמשרות הרווחיות באוסטרליה.
והיא אינה היחידה. ABC זיהתה חשבונות נוספים המציגים נשים כעובדות מכרות או בעלות מקצוע, כשמאחוריהן דמויות שנוצרו באמצעות AI ומפנות את העוקבים לתוכן מיני בתשלום.
אחרי ש-ABC פנתה ל-Meta, החברה מסרה כי החלה לפעול להסרת החשבון של ריי בשל הפרת כללי הזהות המטעה שלה. החברה הדגישה שעצם השימוש בבינה מלאכותית אינו אסור, אבל משתמשים נדרשים לגלות כאשר הם מפרסמים תוכן מציאותי שנוצר באמצעות AI.
בינתיים, מי שעומד מאחורי ריי לא ממהר לוותר על המשחק. באחד הפוסטים האחרונים נכתב: "דבר אחד שלמדתי השבוע: אל תאמינו לכל מה שאתם שומעים". והתגובות? לפחות חלק מהעוקבים עדיין ממשיכים לדבר אליה כאילו היא אישה אמיתית לחלוטין.