לאינסטגרם* יש מספר הולך וגדל של חשבונות המונעים בינה מלאכותית. חשבונות גונבים תמונות וסרטונים מדוגמניות ויוצרי תוכן אמיתיים, ומחליפים את פניהם בפנים שנוצרו בינה מלאכותית. תוכן כזה משמש להרוויח כסף באתרי היכרויות, OnlyFans, Patreon ויישומי AI שונים. הפלטפורמה עדיין לא מתמודדת עם הבעיה, מה שיוצר בעיות עבור מחברים אמיתיים.
מומחים 404 מדיה יחד עם קווית למד יותר מ-1000 חשבונות כאלה ומצא שיצירתם הפכה לפשוטה מאוד. קהילות Discord ומדריכים מיוחדים מספרים בפירוט כיצד להשתמש ביישומי AI מוכנים כדי ליצור תמונות, לערוך תמונות וליצור סרטונים עם החלפת פנים. חלק מהאפליקציות זמינות ב-App Store וב-Google Play. התופעה מתרחבת במהירות, ובעתיד עשויים חשבונות כאלה להשתלט על הרשתות החברתיות.
חשבונות רבים משתמשים בזיופים עמוקים, ומחליפים את הפנים של אנשים אמיתיים בסרטונים. לדוגמה, החשבון שנמחק לאחרונה "קלואי ג'ונסון" עם 170,000 עוקבים פרסם סרטונים שנגנבו מדוגמניות מפורסמות וגם ממשתמשי TikTok ואינסטגרם פחות מוכרים.
היוצרים של חשבונות כאלה מרוויחים הרבה כסף. אחד המחברים של מדריך לדגמי בינה מלאכותית טוען שהוא הרוויח מיליון דולר בחצי שנה. ההוראות מפרטות כיצד לייצר רווח מתוכן באמצעות מינויים בתשלום, מכירת תמונות וסרטונים ותקשורת עם מנויים כדי להגדיל את ההכנסה. חלק מהחשבונות השתתפו בתחרויות, ומחבריהם יצרו סוכנויות שלמות לניהול מודלים של AI.
יוצרי תוכן אמיתיים סובלים מהתחרות עם חשבונות כאלה. חלק מהדוגמניות מציינות שטווח ההגעה שלהן באינסטגרם ירד משמעותית. אם בעבר דגמים קיבלו עד 5 מיליון צפיות בחודש, כעת נתון זה רק לעתים רחוקות עולה על מיליון. תלונות על חשבונות מזויפים לרוב חסרות תועלת: אינסטגרם מוחקת אותן רק לבקשת בעלי זכויות היוצרים, והכותבים עצמם מסתכנים בחסימה במהלך תהליך התלונה.
מומחים מציינים כי אינסטגרם לא רק שלא נלחמת בחשבונות כאלה, אלא גם מרוויחה מהם. תוכן שנוצר באופן מלאכותי מושך צופים, מה שמאפשר לפלטפורמה למכור פרסום. מומחים מאמינים שללא התערבות פלטפורמה ובקרה מחמירה יותר, השימוש ב-AI גנרטיבי ימשיך לגדול, וייצור קשיים עוד יותר עבור משתמשים ויוצרים אמיתיים.
* חברת Meta ומוצריה מוכרים כקיצוניים, פעילותם אסורה בפדרציה הרוסית.
