یک معمار برجسته هوش مصنوعی گفت ویدیوهای ساخته‌شده توسط نسل آینده ابزارهای این حوزه، امکان تشخیص محتوای واقعی از ساختگی را غیرممکن خواهد کرد.

پایگاه خبری اکسیوس با انتشار گزارشی به نقل از این منبع ناشناس گفت کارشناسان هوش مصنوعی در آزمایش‌های داخلی خود دیگر نمی‌توانند بین محتوای ویدیوهای ساختگی از واقعی تفاوتی قائل شوند.

این موضوع بسیار سریع‌تر از پیش‌بینی‌های گذشته درباره سرعت رشد این فناوری اتفاق می‌افتد و همین مساله موجب نگرانی منتقدان و برخی فعالان این حوزه شده است.

انتظار می‌رود این فناوری تازه اوایل سال ۲۰۲۴ در دسترس عموم کاربران قرار بگیرد. اکسیوس تقارن این رویداد با اقدام برخی شبکه‌های اجتماعی مانند ایکس در کاهش تعداد کارکنان واحدهای بازبینی محتوای جعلی را موجب بدتر شدن اوضاع فعلی دانست.

از طرفی برگزاری انتخابات ریاست جمهوری ایالات متحده استفاده‌کنندگان از ابزارهای مختلف برای تولید و انتشار اطلاعات نادرست را به شدت افزایش خواهد داد.

هفته جاری شرکت مایکروسافت باانتشار گزارش مرتبطی ضمن هشدار درباره احتمال دخالت ایران، روسیه و چین در انتخابات ریاست جمهوری سال آتی آمریکا تاکید کرد روسیه ممکن است از هوش مصنوعی برای تولید محتوای چندرسانه‌ای استفاده کند.

یک مقام ارشد سابق امنیت ملی ایالات متحده در گفت‌وگو با اکسیوس تاکید کرد ولادیمیر پوتین، رییس جمهوری روسیه این ابزارها را راهی ساده، کم‌هزینه و مقیاس‌پذیر برای تفرقه‌افکنی میان شهروندان آمریکایی می‌داند.

برخی ارزیابی‌ها نشان می‌دهد تا سال ۲۰۲۵ ممکن است بیش از ۹۰ درصد محتوای آنلاین به کمک ابزارهای هوش مصنوعی ساخته شوند. این مساله می‌تواند موجب فروپاشی مدل‌های فعلی هوش مصنوعی شود چرا که آموزش این مدل‌ها با داده‌های بات‌ها موجب کاهش کارایی آن‌ها خواهد شد.

کاخ سفید و برخی نمایندگان مجلس آمریکا به دنبال وضع قوانین سختگیرانه‌ای در زمینه انتشار ویدیوهای ساخته شده توسط هوش مصنوعی هستند اما بعید است قوانینی این‌چنینی پیش از برگزاری انتخابات سال آینده تصویب شود.

رِید هافمن، هم‌بنیاگذار شرکت «لینکدین» باور دارد مدل‌های زبانی متن باز که همه افراد به رایگان امکان استفاده از کد آن‌ها را دارند، بزرگ‌ترین تهدید در حوزه هوش مصنوعی به حساب می‌آیند چرا که نمی‌توان جلوی سوءاستفاده از آن‌ها را گرفت.

اما برخی دیگر مانند بنیاد موزیلا عقیده دارند مدل‌های متن باز هوش مصنوعی، مسئولیت‌پذیری و شفافیت را افزایش می‌دهند.

بااین حال به نظر می‌رسد اینترنت در زمان انتخابات ۲۰۲۴ آمریکا به سطح تازه‌ای از انتشار محتوای جعلی برسد؛ موضوعی که می‌تواند با فریب گسترده افراد بر تصمیم آن‌ها اثر بگذارد.