کره جنوبی دوشنبه ۱۲ شهریور اعلام کرد تحقیقات خود را درباره نقش پیام‌رسان تلگرام در انتشار تصاویر و ویدیوهای هرزه‌نگاری که با هوش مصنوعی تولید شده‌اند، آغاز کرده است.
بنا بر اعلام آژانس پلیس ملی کره جنوبی، این نهاد تاکنون ده‌ها شکایت به دلیل تولید و توزیع هرزه‌نگاری «جعل عمیق» (دیپ‌فِیک) با استفاده از چهره‌های افراد واقعی دریافت کرده است.
بنا بر اعلام پلیس، در میان قربانیان این کارزار مجرمانه، چندین فرد نوجوان نیز دیده می‌شوند.
اول مردادماه سال جاری، آژانس اتحادیه اروپا برای همکاری در اجرای قانون (یوروپُل) در گزارشی نسبت به افزایش استفاده از هوش مصنوعی برای تولید تصاویر سوءاستفاده جنسی از کودکان و انتشار آن‌ها در فضای مجازی هشدار داد.
این آژانس همچنین پیش‌بینی کرد به‌کارگیری هوش مصنوعی برای پیشبرد این هدف مجرمانه در آینده گسترش بیشتری خواهد یافت.
وو جونگ-سو، مدیر تحقیقات آژانس پلیس ملی کره جنوبی، ۱۲ شهریور گفت شبکه اجتماعی تلگرام مظنون به همدستی در انتشار تصاویر هرزه‌نگاری دیپ‌فیک است.
به گفته این مقام پلیس، در جریان تحقیقات پیشین درباره جرائم مرتبط با تلگرام، این پیام‌رسان به درخواست‌های آن‌ها برای ارسال اطلاعات حساب‌هایی که در فعالیت‌های مجرمانه مشارکت داشتند، پاسخی نداده است.
در هرزه‌نگاری جعل عمیق، چهره یک فرد واقعی بر روی بدنی که هوش مصنوعی تولید کرده است، قرار می‌گیرد.
یک شبکه تلویزیونی کره جنوبی ماه گذشته گزارش داد دانشجویان دانشگاهی در این کشور در چت‌روم پیام‌رسان تلگرام، تصاویر هرزه‌نگاری جعل عمیق از زنان همکلاسی خود را به اشتراک می‌گذاشتند.
این تنها یکی از چند پرونده جنجالی در این زمینه بود که خشم عمومی را در کره جنوبی برانگیخت.
پیش‌تر نشریه وایِرد خبر داده بود سازندگان ویدیوهای جعل عمیق از تصاویر قربانیان قاچاق جنسی برای ساخت محتوای غیرقانونی استفاده می‌کنند.
پاول دورف، بنیان‌گذار و مالک تلگرام، شامگاه سوم شهریور به موجب حکم صادر شده از سوی مقام‌های فرانسوی در فرودگاه بورژه در حومه پاریس بازداشت شد.
شبکه تلویزیونی تی‌اف-۱ فرانسه خبر داد دورف به دلیل همکاری نکردن با نهادهای قانونی و نیز نقش احتمالی‌اش در جرائمی مانند کلاهبرداری، پولشویی، قاچاق مواد مخدر و فعالیت‌های مربوط با کودک‌کامی (پدوفیلی/سواستفاده جنسی از کودکان) دستگیر شده است.
او هفتم شهریور رسما از سوی دستگاه قضایی فرانسه متهم، و با قرار وثیقه پنج میلیون یورویی و تحت نظارت قضایی آزاد شد، اما اجازه ترک خاک فرانسه را ندارد.
پس از بازداشت مالک تلگرام، بحث درباره مرز میان آزادی بیان و سانسور در فضای مجازی بر اساس قانون مجددا بالا گرفته است.
دستگیری او جهان فن‌آوری را تکان داد زیرا صنعت فن‌آوری سال‌ها بر پایه این فرض فعالیت می‌کرد که پلتفرم‌ها و مدیران آن‌ها نباید شخصا برای فعالیت‌های غیرقانونی انجام‌شده در پلتفرم‌هایشان مسوول شناخته شوند.
خبرگزاری رویترز ۹ شهریور نوشت دستگیری دورف می‌تواند نشان‌دهنده تغییری قابل توجه در نحوه تعامل جامعه جهانی با آن دسته از مدیران شرکت‌های فن‌آوری باشد که از نظارت بر محتواهای غیرقانونی در پلتفرم‌هایشان سرباز می‌زنند.