تا همین اواخر ، درک ما از صدای هوش مصنوعی صدای روباتیک و غیر ضروری مانند سیری یا الکسا بود. با این حال ، یک مطالعه جدید نشان می دهد که این دوره به پایان رسیده است: شنونده معمولی دیگر نمی تواند تفاوت بین صدای واقعی شخص و هوش مصنوعی و نسخه صوتی را تعریف کند.
در این مطالعه ، محققان دانشگاه ملکه مری لندن از شرکت کنندگان خواستند که به چهار نمونه صدا گوش دهند و بگویند که واقعی است و کدام هوش مصنوعی است. نتایج نگران بود.
هنگامی که هوش مصنوعی از ابتدا صدا ایجاد کرده است ، شرکت کنندگان می توانند در بیشتر موارد (حدود 2 ٪) به درستی شناسایی کنند. اما وقتی هوش مصنوعی صدای یک شخص واقعی را شکست ، نتایج کاملاً متفاوت بود. در این حالت ، شرکت کنندگان 5 ٪ از موارد ، صدای دروغین را به عنوان صدای واقعی انسان مخلوط می کردند. و وضعیت کسانی که می توانند صدای هوش مصنوعی را تشخیص دهند ، آنقدر متفاوت نبود که چیزی فراتر از حدس زدن نشان دهد.
اینکه هوش مصنوعی را از صدای انسان متمایز نمی کند
این عواقب بسیار خطرناکی برای ایمنی ، اخلاقی و حق امتیاز دارد که هوش مصنوعی می تواند به راحتی از صدای انسان تقلید کند. این فناوری می تواند به ابزاری قوی در دست کلاهبرداران تبدیل شود. ما هنوز نمونه های واقعی این سوءاستفاده ها را می بینیم.
مجرمان می توانند با شبیه سازی صدای شما یا تماس با اعضای خانواده و برقراری ارتباط با پول با سازماندهی اضطراری ، از پروتکل های احراز هویت صوتی در بانک ها پرش کنند. (مانند وضعیتی که زنی به نام شارون بریل 6000 دلار از دست داد تا بشنود دخترش با هوش مصنوعی گریه می کند).
همچنین می توان از فناوری برای ایجاد مذاکرات دروغین یا عبارات سیاستمداران و افراد مشهور برای ایجاد ناآرامی های بی اعتبار یا اجتماعی استفاده کرد (همانطور که از کلون صوتی نخست وزیر کوئینزلند برای ترویج کلاهبرداری بیت کوین استفاده می شود).
شاید نگران کننده ترین بخش این تحقیق سادگی و قابلیت استفاده این فناوری باشد. محققان تأکید می کنند که حتی کلون های صوتی مورد استفاده در این مطالعه پیچیده نیستند. آنها از این صداها با استفاده از حداقل چند دقیقه فایل صوتی از صدای شخص با استفاده از نرم افزار تجاری موجود با کمترین تخصص فنی استفاده کردند. این بدان معنی است که این وسیله نقلیه قدرتمند اکنون برای همه در دسترس است.
یافته های این مطالعه در مجله PLOS One منتشر شد.