هشدار بی سابقه یونیسف
این آژانس میگوید که از افزایش نگرانکننده تصاویر و ویدیوهای جعلی تولید شده توسط هوش مصنوعی برای جنسی کودکان نگران است.
یونیسف هشدار بیسابقهای درباره سوء استفاده از هوش مصنوعی صادر کرده و از دولتها و شرکتهای فناوری میخواهد تا قبل از اینکه دیر شود، تهدیدی خاموش اما رو به رشد علیه کودکان را متوقف کنند.
به گزارش فارس به نقل از رویترز، آژانس حمایت از کودکان سازمان ملل متحد یونیسف اعلام کرد که از کشورها خواسته است تا تولید محتوای سوء استفاده جنسی از کودکان با استفاده از هوش مصنوعی را به وضوح جرم انگاری کنند. این آژانس میگوید که از افزایش نگرانکننده تصاویر و ویدیوهای جعلی تولید شده توسط هوش مصنوعی برای جنسی کودکان نگران است.
یونیسف تاکید می کند که آسیب ناشی از “دیپ فیک” واقعی و فوری است و کودکان نمی توانند منتظر باشند تا قانون به فناوری برسد. به گفته یونیسف، توسعهدهندگان باید از مرحله طراحی، موانع امنیتی و چارچوبهای کنترلی را در مدلهای هوش مصنوعی لحاظ کنند تا احتمال سوءاستفاده کاهش یابد.
همچنین از شرکتهای دیجیتال خواسته میشود با سرمایهگذاری در فناوریهای شناسایی و تقویت نظارت بر محتوا، از پخش و انتشار تصاویر سوء استفاده جنسی تولید شده توسط هوش مصنوعی جلوگیری کنند. این آژانس همچنین نسبت به آنچه که “برهنگی دیجیتالی کودک” نامیده است، هشدار داد. حذف یا تغییر لباس کودکان در عکس ها به معنای استفاده از هوش مصنوعی برای ایجاد تصاویر برهنه یا جنسی جعلی است.
طبق گزارش یونیسف، حداقل 1.2 میلیون کودک در 11 کشور در سال گذشته گفته اند که تصاویر آنها به دروغ های عمیق جنسی تبدیل شده است. در این زمینه، دولت بریتانیا در 13 فوریه 1404 اعلام کرد که قصد دارد استفاده از ابزارهای هوش مصنوعی برای ایجاد تصاویر سوء استفاده جنسی از کودکان را ممنوع کند. اگر این اقدام اجرا شود، بریتانیا اولین کشوری خواهد بود که به طور خاص چنین رفتاری را جرم انگاری می کند.
در سال های اخیر نگرانی ها در مورد نقش چت بات ها و ابزارهای رندر در تولید محتوای کودک آزاری افزایش یافته است. از جمله اینکه چت بات «گراک» متعلق به شرکت «XAI» متعلق به ایلان ماسک نیز در کانون توجه قرار گرفت.
تحقیقات رویترز نشان داد که چت بات علیرغم هشدارهای کاربران در مورد عدم رضایت، به تولید تصاویر جنسی ادامه داد. در 25 ژانویه 1404، XEI اعلام کرد که توانایی ویرایش تصویر را محدود کرده و از تولید تصاویر افراد با لباس تحریک آمیز در برخی کشورها بر اساس قوانین محلی جلوگیری کرده است، اما نام این کشورها را فاش نکرد.