داریو آمودی ، مدیرعامل شرکت اطلاعاتی مصنوعی آنتوپیک ، معتقد است که مدلهای هوش مصنوعی مدرن نسبت به انسان کمتر توهم هستند. توهم مدل های هوش مصنوعی بدان معنی است که این مدل ها اطلاعات کاذب را ارائه می دهند و آنها را به عنوان درست ارائه می دهند.
مدیرعامل انسان شناسی ، اولین توسعه دهندگان این شرکت در سانفرانسیسکو ، ادعا کرد که توهم مدل های هوش مصنوعی کمتر از انسان است. آمودی در پاسخ به این واقعیت که توهمات هوش مصنوعی مانع از راه انسان شناسی برای به دست آوردن شبکه نمی شود ، این مکالمات را به دستور کار آورد.
“این واقعاً به نحوه اندازه گیری بستگی دارد ، اما من فکر می کنم مدل های هوش مصنوعی احتمالاً کمتر از انسان گمراه کننده هستند ، اما توهمات آنها تعجب آور تر است.” گفت
مدیرعامل انسان شناسی یکی از خوش بین ترین افراد در صنعت هوش مصنوعی برای به دست آوردن هوش مصنوعی جامع (AGI) است. سال گذشته ، وی مقاله ای را منتشر کرد و گفت که شرکت هایی که در این زمینه فعالیت می کنند می توانند تا سال 3 به هوش مصنوعی جامع دست یابند. آمودی ، یک کنفرانس مطبوعاتی دیروز ، گفت که پیشرفت برای دستیابی به این هدف همچنان ادامه دارد.
در مقابل ، برخی دیگر از رهبران اطلاعات مصنوعی معتقدند که توهم یک مانع بزرگ برای به دست آوردن هوش مصنوعی جامع است. به عنوان مثال ، دمیس هاسبیس ، مدیرعامل Google DeepMind می گوید مدل های هوش مصنوعی موجود هنوز سوراخ های زیادی دارند و به بسیاری از سؤالات واضح پاسخ می دهند. به عنوان مثال ، در ابتدای این ماه ، شرکت انسان شناسی مجبور شد از توهم یکی از مدل های شرکت عذرخواهی کند و در یک مورد نام های دروغین ارائه دهد.
با این حال ، شواهدی وجود دارد که نشان می دهد توهم مدل های هوش مصنوعی با توانایی استدلال پیشرفته افزایش می یابد. به عنوان مثال ، مدل های O3 و O4-Mini Openai توهم بالاتری نسبت به مدل های نسل قبلی دارند و خود Openai هنوز دلیل این امر را کشف نکرده است.