در یک مطالعه ، یک دانشمند آلمانی به حقایق باورنکردنی در مورد چگونگی عملکرد صحیح چاتم های مصنوعی اشاره کرد.
ایسنا ، مکالمات هوش مصنوعی اکنون بخشی از زندگی آنها است ، اما آنها واقعاً می دانند که در واقع چند نفر کار می کنند. برخی از شگفت انگیزترین اطلاعات در مورد مکالمات هوش مصنوعی می تواند به ما کمک کند تا نحوه کار آنها ، توانایی ها و محدودیت های آنها را درک کنیم و بنابراین نحوه استفاده بهتر از آنها.
پس از یک محقق دکترا در دانشگاه Tübingen در آلمان ، çukatay Yılz ، پنج چیز را که باید در مورد این سیستم های پیشگام بدانیم توضیح داد.
1. انسان با بازخورد آموزش دیده است
مذاکرات هوش مصنوعی در مراحل مختلفی آموزش داده می شود که با مرحله ای به نام “قبل از انتقال” آغاز می شود. مرحله ای که در آن مدل ها آموخته می شوند تا کلمه بعدی را در مجموعه داده های متن بزرگ پیش بینی کنند. این به آنها اجازه می دهد تا درک کلی از زبان ، حقایق و استدلال پیدا کنند.
به منظور مفید و ایمن این سیستم ها برای صحبت کردن ، “حاشیه نویسان” به هدایت مدل ها به پاسخ های ایمن تر و مفیدتر به نام “تراز” کمک می کند.
گفته می شود که “حومه” یادداشت ها یا توضیحات را به متن ، تصویر ، فیلم یا هر داده اضافه می کند. اینها توضیحی هستند که اطلاعات اضافی یا توضیحی را به محتوای اصلی برای تسهیل دیگران اضافه می کنند.
مکالمات هوش مصنوعی بدون “هم افزایی” غیرقابل پیش بینی خواهد بود و می تواند اطلاعات دروغین یا محتوای مضر را منتشر کند. این امر بر نقش حیاتی مداخله انسان در شکل دادن به رفتار هوش مصنوعی تأکید دارد.
Openai ، که توسعه chatgpt را توسعه داده است ، توضیح نداده است که چه تعداد از کارمندان این مکالمات را آموزش داده اند ، اما واضح است که مکالمات هوش مصنوعی برای گسترش اطلاعات مضر به یک محفظه اخلاقی نیاز دارند.
قابل توجه است که “حومه” پاسخ هایی را برای اطمینان از بی طرفی و قوام اخلاقی ذکر کرده است.
2. آنها با کلمات یاد نمی گیرند ، اما با کمک سکه یاد می گیرند
در حالی که مردم به طور طبیعی زبان را با کلمات یاد می گیرند ، مکالمات هوش مصنوعی به واحدهای کوچکتر به نام سکه متکی هستند. این واحدها ممکن است کلمات ، پیمانکاران فرعی یا توالی نامشخص شخصیت ها داشته باشند.
در حالی که “تولید سکه” اغلب از الگوهای منطقی پیروی می کند ، گاهی اوقات می تواند به بخش های غیر منتظره منجر شود. این امر جنبه ها و ویژگی های قدرتمند و قدرتمندی را در مورد چگونگی تفسیر زبان با مکالمات هوش مصنوعی نشان می دهد. مکالمات هوش مصنوعی مدرن واژگان معمولاً از 5000 تا 5000 سکه تشکیل شده است.
1. اطلاعات به موقع پیر می شوند
چت ها دائماً هوش مصنوعی خود را به روز نمی کنند. بنابراین ، آنها ممکن است بعد از قطع اطلاعات ، مشکلات مربوط به رویدادهای جدید ، شرایط جدید یا تقریباً همه چیز را تجربه کنند.
“وضعیت اطلاعات” به آخرین نکته ای اشاره می کند که داده های آموزشی مکالمات هوش مصنوعی به روز می شود ، یعنی پس از آن تاریخ ، از وقایع ، روندها یا اکتشافات غافل است.
به عنوان مثال ، نسخه فعلی Chatgpt در اول ژوئن (1 ژوئن) متوقف شده است. اگر از این مکالمات سؤال شود که رئیس جمهور فعلی ایالات متحده کیست ، آنها باید از موتور جستجو استفاده کنند ، نتایج را بخوانند و پاسخی بدهند. نتایج موتور جستجو با توجه به ارتباطات و قابلیت اطمینان منابع فیلتر می شوند. به همین ترتیب ، سایر چت های هوش مصنوعی از جستجوی وب برای پاسخ دادن استفاده می کنند.
به روزرسانی مکالمات هوش مصنوعی یک فرایند پر هزینه است و به روزرسانی مؤثر اطلاعات آن هنوز حل نشده است.
1 آنها به راحتی گمراه کننده هستند
مکالمات هوش مصنوعی گاهی اوقات “هالوسین” را تجربه می کنند و ادعاهای دروغین یا بی معنی ایجاد می کنند ، زیرا آنها متن را بر اساس الگوهای پیش بینی می کنند تا اینکه واقعیت ها را تأیید کنند. این خطاها به دلیل نحوه کار آنها است. آنها پیش از هارمونی پیشگام بودند ، به داده های ناقص آموزشی متکی بودند و فاقد درک دنیای واقعی بودند.
ضمن کاهش توهمات “شکست واقعی” یا اعلان هایی مانند “پارگی واقعی” یا اعلان ها ، نمی تواند آنها را به طور کامل از بین ببرد. به عنوان مثال ، وقتی در مورد یافته های اصلی یک مطالعه خاص سؤال شد ، وی پاسخ طولانی ، صحیح و خوبی داد. این پاسخ همچنین حاوی تصاویر و “اتصال” بود ، اما از مقالات دانشگاهی کاذب ساخته شده است. بنابراین ، کاربران باید اطلاعات ایجاد شده توسط هوش مصنوعی را به عنوان یک نقطه شروع در نظر بگیرند ، نه یک واقعیت خالص و غیرقابل انکار.
1. آنها برای ساخت ریاضیات از ماشین حساب استفاده می کنند
یکی از ویژگی های محبوب مکالمات هوش مصنوعی استدلال نامیده می شود. “استدلال” به فرآیند استفاده از مراحل میانی منطق برای حل مشکلات پیچیده اشاره دارد. این یک زنجیره است ، البته نام دیگری برای این فرآیند. به جای پریدن مستقیم به جواب ، “زنجیره فکری” به مکالمات هوش مصنوعی اجازه می دهد تا گام به گام فکر کنند. به عنوان مثال ، در معادلات ریاضی ، Chatgpt متوجه می شود که عملیات ضربه باید قبل از حذف انجام شود.
ChatGPT از ماشین حساب داخلی برای حل معادلات ریاضی که محاسبات دقیق را ارائه می دهد ، استفاده می کند. این رویکرد از ترکیبی از “استدلال” داخلی با ماشین حساب است که به بهبود این سیستم برای کارهای پیچیده کمک می کند.
این تحقیق در مجله گفتار منتشر شد.