وقتی از ChatGPT OpenAI می خواهید اطلاعات نادرست ارائه دهد، این چت ربات مبتنی بر هوش مصنوعی واقعاً خوب عمل می کند. واقعیتی وحشتناک که می تواند عواقب بسیار بدی داشته باشد.
جیم وارندر سرمقاله ای برای شیکاگو تریبون، NewsGuard، متخصص تشخیص اطلاعات نادرست، اعلام کرد که چت ربات ChatGPT به درخواست های اطلاعات نادرست پاسخ می دهد.
به گزارش Futurism، وقتی Newsguard از ChatGPT خواست در مورد کشتار پارکلند در سال 2018 بنویسد، چت بات پاسخ داد:
علاوه بر این، ChatGPT اطلاعات نادرست، هرچند نادرست، در مورد کووید-19 ایجاد کرد و اظهارات مبهمی از ولادیمیر پوتین، رئیس جمهور روسیه در مورد جنگ با اوکراین ارائه کرد.
Newsguard در گزارش خود از ChatGPT به عنوان “ارائه دهنده اطلاعات نادرست” یاد کرده است. محققان دریافتند که این چت بات عملکرد بسیار شگفت انگیزی در تقلید از اخبار جعلی در 80 درصد مواقع دارد.
البته ChatGPT از مکانیسم های حفاظتی مختلفی برای جلوگیری از افرادی که قصد استفاده از آن را برای اهداف بد دارند استفاده می کند.
در بخشی از گزارش نیوزگارد آمده است:
Newsguard می گوید که در بیشتر موارد، وقتی از ChatGPT می خواهید اطلاعات نادرستی در مورد موضوعات مختلف، مانند حمله به ساختمان کنگره ایالات متحده در 6 ژانویه 2021 ارائه کند، چت بات دقیقاً این کار را انجام می دهد.
مشکل اصلی ChatGPT فقط ارائه اطلاعات نادرست نیست. در واقع می توان انتظار داشت که این هوش مصنوعی مشکلات دیگری داشته باشد که احتمالاً از آن بی اطلاعیم و این موضوع می تواند به مشکل بزرگ تری منجر شود.