دیده‌بان می‌گوید تصاویر سوء استفاده جنسی از کودکان توسط هوش مصنوعی به «نقطه اوج» می‌رسد

به گفته یک ناظر ایمنی، تصاویر سوء استفاده جنسی از کودکان که توسط ابزارهای هوش مصنوعی تولید می‌شوند، در وب باز رایج‌تر شده و به «نقطه اوج» می‌رسند.

بنیاد دیده بان اینترنت میزان
محتوای غیرقانونی ساخته شده توسط هوش مصنوعی که در شش ماه گذشته به صورت آنلاین دیده بود، از مجموع سال گذشته فراتر رفته بود.

این سازمان که یک خط تلفن در بریتانیا را اداره می‌کند، اما دارای مسئولیت جهانی نیز است، گفت تقریباً تمام محتوا در مناطق در دسترس عمومی اینترنت یافت شده است و نه در وب تاریک، که باید توسط مرورگرهای تخصصی قابل دسترسی باشد.

درک ری هیل، مدیر اجرایی موقت IWF، گفت که سطح پیچیدگی در تصاویر نشان می‌دهد که ابزارهای هوش مصنوعی مورد استفاده بر روی تصاویر و ویدئوهای قربانیان واقعی آموزش دیده‌اند. او گفت: «ماه‌های اخیر نشان می‌دهد که این مشکل از بین نمی‌رود و در واقع بدتر می‌شود.

به گفته یکی از تحلیلگران IWF، وضعیت محتوای تولید شده توسط هوش مصنوعی در حال رسیدن به "نقطه اوج" بود که ناظران ایمنی و مقامات نمی‌دانستند که آیا تصویر مربوط به یک کودک واقعی است که به کمک نیاز دارد یا خیر.

IWF علیه 74 گزارش اقدام کرد
مواد آزار جنسی کودکان (CSAM) تولید شده توسط هوش مصنوعی - که به اندازه کافی واقع بینانه بود که قوانین بریتانیا را زیر پا بگذارد - در شش ماه منتهی به سپتامبر امسال، در مقایسه با 70 مورد در 12 ماه منتهی به مارس. یک گزارش واحد می تواند به یک صفحه وب حاوی چندین تصویر اشاره کند.

علاوه بر تصاویر هوش مصنوعی که قربانیان واقعی سوء استفاده را نشان می‌دهند، انواع مطالبی که توسط IWF مشاهده می‌شود شامل ویدیوهای «دیپ‌فیک» می‌شود که در آن پورنوگرافی بزرگسالان به گونه‌ای دستکاری شده بود که شبیه CSAM باشد. در گزارش‌های قبلی، IWF گفته است که از هوش مصنوعی برای ایجاد تصاویری از افراد مشهوری استفاده می‌شود که «پیری» شده‌اند و سپس به‌عنوان کودک در سناریوهای آزار جنسی به تصویر کشیده شده‌اند. نمونه‌های دیگری از CSAM مشاهده شده شامل مطالبی است که برای آنها از ابزارهای هوش مصنوعی برای "برهنه کردن" تصاویر کودکان لباس پوشیده در فضای مجازی استفاده شده است.

بیش از نیمی از محتوای تولید شده توسط هوش مصنوعی که توسط IWF در شش ماه گذشته پرچم‌گذاری شده‌اند، بر روی سرورهای روسیه و ایالات متحده میزبانی می‌شوند و ژاپن و هلند نیز میزبان مقادیر قابل توجهی هستند. آدرس‌های صفحات وب حاوی تصاویر در فهرست IWF از نشانی‌های اینترنتی که با صنعت فناوری به اشتراک گذاشته می‌شود، آپلود می‌شوند تا بتوان آن‌ها را مسدود و غیرقابل دسترس نشان داد.

IWF گفت که از هر 10 گزارش، 8 گزارش مربوط به تصاویر غیرقانونی ساخته شده توسط هوش مصنوعی از سوی افرادی است که آنها را در سایت های عمومی مانند انجمن ها یا گالری های هوش مصنوعی پیدا کرده اند.

در همین حال، اینستاگرام اقدامات جدیدی را برای مقابله با اخاذی اعلام کرده است، که در آن کاربران فریب می‌خورند تا تصاویر محرمانه را برای مجرمان ارسال کنند و معمولاً خود را به عنوان زنان جوان نشان می‌دهند و سپس مورد تهدید باج‌گیری قرار می‌گیرند.
این پلتفرم قابلیتی را ارائه می‌کند که تصاویر برهنه‌ای را که کاربران در پیام‌های مستقیم ارسال می‌کنند محو می‌کند و از آن‌ها می‌خواهد در ارسال هر پیام مستقیم (DM) که حاوی تصویر برهنه است، محتاط باشند. هنگامی که یک تصویر تار دریافت می شود، کاربر می تواند انتخاب کند که آیا آن را مشاهده کند یا نه، و همچنین پیامی دریافت می کند که به آنها یادآوری می کند که گزینه مسدود کردن فرستنده و گزارش چت به اینستاگرام را دارند.

این ویژگی به طور پیش‌فرض برای حساب‌های نوجوانان در سراسر جهان از این هفته فعال می‌شود و می‌توان از آن در پیام‌های رمزگذاری‌شده استفاده کرد، اگرچه تصاویر پرچم‌گذاری‌شده توسط ویژگی «تشخیص در دستگاه» به‌طور خودکار به خود پلتفرم یا مقامات اطلاع‌رسانی نمی‌شوند.

این یک ویژگی انتخاب کردن برای بزرگسالان خواهد بود. اینستاگرام همچنین لیست فالوورها و فالوورها را از کلاهبرداران بالقوه جنایتکار که تهدید به ارسال تصاویر محرمانه به آن حساب‌ها می‌کنند، پنهان می‌کند.