وی گفت ، مدیر عامل شرکت سام آلتمن ، کاربران چتپپ به فکر خودکشی هستند ، پلیس می تواند به پلیس هشدار دهد.
به گفته Tabnak ، مدیرعامل Openai ، سام آلتمن ، Openai ، Adam Raine’den پس از آن ، “این شرکت در حال تحقیق در مورد مقامات در مورد کاربران جوان است که در مورد خودکشی صحبت می کنند.”
طبق گفته های Financial Express ، کاربر چت شده بیشتری ، زیرا نگرانی های فزاینده ای را در مورد نقش هوش مصنوعی در بحران سلامت روان بیان می کند.
در مصاحبه جدید ، آلتمن گفت Openai ممکن است در چنین مواردی مداخله فعال تری داشته باشد. وی گفت ، آلتمن ، 3 نفر از خودکشی تا 3 نفر در هفته می توانند با چت صحبت کنند. اگر این امر بدون نگهداری رها شود ، می تواند مکالمات را به یکی از اصلی ترین عوامل در چنین مواردی تبدیل کند و بنابراین نقش مکالمات هوشمندتر را زیر سوال می برد.
اوپای هنوز تصمیم نهایی برای آموزش مکالمه برای برقراری ارتباط با مقامات نگرفته است ، اما آلتمن گفت: “در مواردی که جوانان در مورد خودکشی صحبت می کنند ، بسیار منطقی است که بگوییم اگر با والدین آنها ارتباط برقرار نکنیم ، با مقامات ارتباط برقرار خواهیم کرد.”
بحث در مورد جستجوی یک سیاست جدید برای یک نوجوان 6 ساله که گفته می شود ماه ها توسط آدام رین تشویق شده بود ، تشکیل شد. در این دادخواست ادعا شده است که این مکالمات هوش مصنوعی روشهای خودکشی را هدایت کرده و حتی به نوشتن خودکشی کمک می کنند.
آلتمن ، “حدود 5 درصد از مردم جهان با چت گپ می زنند.” گفت با فرض این که این درست است ، این بدان معنی است که حدود 3 نفر برای گپ زدن با گپ و خودکشی صحبت می کنند. آنها احتمالاً در مورد خودکشی با چتپ صحبت کرده اند و ما جان آنها را نجات ندادیم. شاید بتوانیم چیزی بهتر بگوییم. شاید ما فعال تر باشیم. شاید بتوانیم توصیه کمی بهتر کنیم. “اگر شما نیاز به دریافت این کمک دارید” یا “شما باید به این مشکل فکر کنید” یا “ما واقعاً به شما کمک می کنیم کسی را پیدا کنید که بتوانید درباره آن صحبت کنید و می توانید در مورد آن صحبت کنید.”
آلتمن همچنین تعادل عمل را توضیح داد ، بنابراین چه اطلاعاتی داده می شود. به گفته آلتمن ، Open EI هنوز در حال کار بر روی اینکه آیا چاله نام پلیس و شماره تلفن را به پلیس ارائه می دهد یا اینکه آیا نیاز به ارائه جزئیات این مکان برای ارائه دهندگان مراقبت های بهداشتی دارد یا خیر.
علاوه بر سیستم هشدار دهنده احتمالی خودکشی ، آلتمن گفت که وی از حمایت های قوی تری برای کاربران زیر 5 سال استفاده می کند. این ممکن است شامل انتشار کاربران آسیب پذیر برای جلوگیری از بازی سیستم باشد ، و ادعا می کند که از آسیب پذیری ها می توان از فانتزی یا تحقیقات پزشکی جلوگیری کرد. آلتمن ، “حتی اگر سعی کنید یک داستان یا تحقیقات پزشکی بنویسید ، ما جواب نمی دهیم.” گفت