به گزارش پیام خانواده به نقل از سی‌بی‌سی، از تصاویر جعلی جنگ تا فریب‌های سلبریتی، فناوری هوش مصنوعی شکل‌های جدیدی از اخبار جعلی و محتواهای تحریف‌کننده واقعیت را در فضای آنلاین ایجاد کرده است. تحلیل جدیدی که با همکاری محققان گوگل انجام شده است، نشان می‌دهد که این مشکل چقدر سریع رشد کرده است.این تحقیق که توسط محققان گوگل، دانشگاه دوک و چندین سازمان صحت‌سنجی اخبار و رسانه‌ها انجام شده است، هفته گذشته منتشر شد. این مقاله مجموعه داده عظیمی از اخبار جعلی را از سال 1995 به بعد معرفی می‌کند که توسط وب‌سایت‌هایی مانند Snopes بررسی صحت شده‌اند.به گفته محققان، داده‌ها نشان می‌دهند که تصاویر ساخته‌شده با هوش مصنوعی به سرعت به جایگاه برجسته‌ای رسیده‌اند و تقریباً به اندازه اشکال سنتی‌ترِ جعلِ اخبار، محبوب شده‌اند.
این تحقیق ابتدا توسط ۴۰۴ مدیا پس از مشاهده شدن توسط خبرنامه Faked Up گزارش شد و به طور واضح نشان داد که "تصاویر ساخته‌شده با هوش مصنوعی تا اوایل سال گذشته تنها بخش کوچکی از کل جعل‌های محتوا را تشکیل می‌دادند"، محققان نوشتند.سال گذشته شاهد انتشار ابزارهای جدید تولید تصویر با هوش مصنوعی توسط بازیگران اصلی فناوری، از جمله OpenAI، مایکروسافت و خود گوگل بودیم. این مقاله بیان می‌کند که اکنون، اخبار جعلی ساخته‌شده با هوش مصنوعی «تقریباً به اندازه دستکاری‌های متنی و محتوای کلی رایج است».
محققان خاطرنشان می‌کنند که افزایش بررسی صحت تصاویر ساخته‌شده با هوش مصنوعی همزمان با موج کلی از هیاهوی پیرامون هوش مصنوعی بوده است، که ممکن است باعث شده وب‌سایت‌ها بر روی این فناوری تمرکز کنند. مجموعه داده‌ها نشان می‌دهد که بررسی صحت تصاویر با هوش مصنوعی در ماه‌های اخیر کند شده است و دستکاری‌های سنتی متن و تصویر با افزایش روبرو شده‌اند. نمودار زیر افزایش شدید اخبار جعلی در اوایل ۲۰۰۳ را نشان می‌دهد:
مطالعه همچنین به سایر اشکال رسانه توجه کرد و دریافت که در حال حاضر، ویدیوهای فریب آمیز تقریباً 60 درصد از کل ادعاهای بررسی صحت شده‌ای را که شامل رسانه می‌شوند، تشکیل می‌دهند.«این بدان معنا نیست که اخبار جعلی ساخته‌شده با هوش مصنوعی کند شده است»؛ این را ساشا لوچیونی، محقق برجسته اخلاق هوش مصنوعی بیان کرد و ادامه داد«به شخصه احساس می‌کنم دلیلش این است که [نمونه‌های زیادی از اخبار جعلی ساخته‌شده با هوش مصنوعی] وجود دارد که ردیابی آن‌ها دشوار است! خودم هم به‌طور مرتب آن‌ها را می‌بینم، حتی خارج از رسانه‌های اجتماعی، برای مثال در تبلیغات.»
برای مقابله با مشکل جعل‌های ساخته‌شده با هوش مصنوعی، گوگل ابتکاراتی مانند واترمارک دیجیتال را راه‌اندازی کرده است که تصاویر ساخته‌شده با هوش مصنوعی را با علامتی که برای چشم انسان نامرئی است، به‌عنوان جعلی نشان می‌دهد. این شرکت به همراه مایکروسافت، اینتل و ادوبی همچنین در حال بررسی دادنِ اختیار به سازندگان برای افزودنِ واترمارکِ قابلِ رؤیت به تصاویر ساخته‌شده با هوش مصنوعی هستند.