یک سند ساخته شده برای متا پلاتمارس رویترز نشان می دهد که این شرکت قوانینی را برای روبات های هوش مصنوعی خود تصویب کرده است که امکان موضوعات حساس مانند روابط عاطفی یا محتوای تحریک آمیز با کودکان را فراهم می کند ، اطلاعات پزشکی کاذب را ارائه می دهد و حتی محتوای مزاحم نیز ارائه می دهد.
این سند که بیش از 5 صفحه است ، به عنوان “استانداردهای محتوای Jena” پذیرفته شده است و توسط تیم حقوقی ، سیاست های عمومی و مهندسی کالا ، از جمله رئیس گروه اخلاقی شرکت تأیید شده است.
به گفته متا ، پس از پرسیدن سؤالات رویترز در ماه آگوست ، بخشی از این سند با کودکانی که چت عاشقانه و نقش عاشقانه داشتند ، حذف شد. با این حال ، سخنگوی شرکت اعتراف کرد که اجرای این سیاست ها همیشه یکسان نبوده است. در این سند ، در برخی موارد ، اگرچه استفاده از احکام جنسی روشن برای افراد زیر 5 سال ممنوع است ، اما از نظر عباراتی نمونه هایی وجود دارد که بر ظاهر گفتارهای عاشقانه یا عاطفی با کودکان تأکید می کند. این فصل ها با واکنش های منفی روبرو بودند و سخنگوی کالا آنها را “اشتباه و خلاف سیاست ها” توصیف کرد و اظهار داشت که آنها از بین رفته اند.
بخش دیگری از این سند مربوط به نژاد و محتوای تهاجمی است. طبق دستورالعمل ها ، هوش مصنوعی متا مجاز به تولید جملاتی است که توسط ضد ویال هایی مانند نژاد پشتیبانی می شود ، اما نباید به عنوان “غیر انسانی” تعریف شود. به عنوان مثال ، مجاز به نوشتن متنی است که به تفاوت بین سیاه و سفیدپوست توهین می کند ، اما استفاده از عبارات حیوانات مانند “میمون های بدون مغز” قابل قبول نیست. با این حال ، کارشناسان دانشگاهی مانند “اردک اول” از دانشگاه استنفورد گفتند که تولید مستقیم چنین محتوا توسط یک سکوی یک مشکل اخلاقی و فنی است.
این استانداردها همچنین به متا اجازه می دهد تا اطلاعات دروغین آشکار را تولید کند ، مشروط بر اینکه با یک هشدار همراه باشد. به عنوان مثال ، می تواند مقاله ای را ایجاد کند که ادعا می کند یکی از اعضای خانواده سلطنتی انگلیس دارای بیماری مقاربتی است ، مشروط بر اینکه این ادعا اشتباه باشد. در بخش تولید تصویر قوانین خاصی وجود دارد. به عنوان مثال ، تصویر برهنه تیلور سویفت باید رد شود ، اما در پاسخ به درخواست تیلور سویفت ، این سیستم می تواند یک ظاهر بزرگ ماهی ایجاد کند تا به طور غیرمستقیم مسئله را مختل کند.
در تولید محتوای خشونت آمیز ، گواهی کالاها اجازه می دهد تا صحنه های درگیری حتی در بین کودکان باشد. مانند ظاهر کودک که یک دختر را مشت می کند. با این حال ، تصاویر حاوی مرگ جدی یا جراحت ، مانند “دختر جوانی که شخص دیگری را با نوک بدن می کشد ، ممنوع است.
به طور کلی ، این سند نشان می دهد که متا محدودیت های پیچیده و گاه بحث برانگیز برای رفتارهای مجاز در طراحی و آموزش روبات های هوش مصنوعی است. در بعضی موارد ، مرزهایی مانند تعامل با کودکان یا ابراز مطالب پرخاشگر انتقاد گسترده ای را دریافت کرد. اگرچه این شرکت گفت که برخی از ادارات مورد بررسی قرار گرفته است ، اما همه موارد بحث برانگیز از بین نرفته اند و این نگرانی های خود را در مورد مسئولیت و رویکرد اخلاقی این غول شبکه اجتماعی در زمینه هوش مصنوعی بیان کرده است.