דימויים של התעללות מינית בילדים הנוצרים בבינה מלאכותית מגיעים ל"נקודת מפנה", אומר כלב השמירה

תמונות של התעללות מינית בילדים שנוצרו על ידי כלי בינה מלאכותית הופכים נפוצים יותר ברשת הפתוחה ומגיעים ל"נקודת מפנה", על פי כלב שמירה על בטיחות.

קרן השעון באינטרנט מסרה את הכמות של
תוכן בלתי חוקי שנוצר על ידי בינה מלאכותית שראה באינטרנט בששת החודשים האחרונים כבר עלה על הסכום הכולל בשנה הקודמת.

הארגון, שמנהל קו חם בבריטניה אך גם בעל תחום תחום עולמי, אמר שכמעט כל התוכן נמצא באזורים הזמינים לציבור באינטרנט ולא ברשת האפלה, שאליה יש לגשת באמצעות דפדפנים מיוחדים.

המנכ"ל הזמני של ה-IWF, דרק ריי-היל, אמר כי רמת התחכום בתמונות מצביעה על כך שכלי הבינה המלאכותית בשימוש אומנו על תמונות וסרטונים של קורבנות אמיתיים. "החודשים האחרונים מראים שהבעיה הזו לא נעלמת ולמעשה מחמירה", אמר.

לפי אנליסט אחד של IWF, המצב עם תוכן שנוצר בבינה מלאכותית הגיע ל"נקודת מפנה" שבה כלבי השמירה והרשויות לא ידעו אם תמונה כוללת ילד אמיתי הזקוק לעזרה.

ה-IWF נקט בפעולה נגד 74 דיווחים על
חומר על התעללות מינית בילדים (CSAM) שנוצר על ידי בינה מלאכותית - שהיה ריאלי מספיק כדי לעבור על החוק בבריטניה - בששת החודשים עד ספטמבר השנה, לעומת 70 במהלך 12 החודשים עד מרץ. דוח בודד אחד יכול להתייחס לדף אינטרנט המכיל מספר תמונות.

בנוסף לתמונות של בינה מלאכותית המציגות קורבנות של התעללות מהחיים האמיתיים, סוגי החומר שנראו על ידי ה-IWF כללו סרטונים "מזוייפים עמוקים" שבהם בוצעה מניפולציה של פורנוגרפיה למבוגרים כדי להידמות ל-CSAM. בדיווחים קודמים ה-IWF אמר כי נעשה שימוש בבינה מלאכותית כדי ליצור תמונות של ידוענים ש"התייאשו" ולאחר מכן הוצגו כילדים בתרחישים של התעללות מינית. דוגמאות אחרות של CSAM שנראו כללו חומר שעבורו נעשה שימוש בכלי בינה מלאכותית כדי "לעייף" תמונות של ילדים לבושים שנמצאו באינטרנט.

יותר ממחצית מהתוכן שנוצר על ידי בינה מלאכותית שסומן על ידי ה-IWF במהלך ששת החודשים האחרונים מתארח בשרתים ברוסיה ובארה"ב, כאשר גם יפן והולנד מארחות כמויות משמעותיות. כתובות של דפי האינטרנט המכילים את התמונות מועלות לרשימת IWF של כתובות אתרים המשותפת עם תעשיית הטכנולוגיה כדי שניתן יהיה לחסום אותן ולהפוך אותן לבלתי נגישות.

ה-IWF אמר שמונה מתוך 10 דיווחים על תמונות בלתי חוקיות שנוצרו בבינה מלאכותית הגיעו מאנשי ציבור שמצאו אותן באתרים ציבוריים כמו פורומים או גלריות של בינה מלאכותית.

בינתיים, אינסטגרם הכריזה על אמצעים חדשים למניעת סחיטה באיומים, שבהם משתמשים מרומים לשלוח תמונות אינטימיות לעבריינים, בדרך כלל מתחזים לנשים צעירות, ואז נתונים לאיומי סחיטה.
הפלטפורמה תשיק פיצ'ר שמטשטש כל תמונות עירום שמשתמשים נשלחים בהודעות ישירות, וקוראת להם להיות זהירים לגבי שליחת כל הודעה ישירה (DM) המכילה תמונת עירום. ברגע שמתקבלת תמונה מטושטשת המשתמש יכול לבחור אם לצפות בה או לא, והוא גם יקבל הודעה שמזכירה לו שיש לו אפשרות לחסום את השולח ולדווח על הצ'אט לאינסטגרם.

התכונה תופעל כברירת מחדל עבור חשבונות בני נוער ברחבי העולם החל מהשבוע וניתן להשתמש בה בהודעות מוצפנות, אם כי תמונות המסומנות על ידי התכונה "זיהוי במכשיר" לא יקבלו הודעה אוטומטית לפלטפורמה עצמה או לרשויות.

זו תהיה תכונת הצטרפות למבוגרים. אינסטגרם גם תסתיר רשימות עוקבים ורשימות עוקבים מרמאים פוטנציאליים שידוע כי הם מאיימים לשלוח תמונות אינטימיות לאותם חשבונות.