اینستاگرام و ایکس ضرب الاجل غیرممکنی برای تشخیص دیپ فیک دارند

بهترین روش‌هایی که در حال حاضر برای شناسایی و برچسب‌گذاری دیپ‌فیک‌های آنلاین داریم، در شرف تست استرس هستند. هند روز سه‌شنبه دستوراتی را اعلام کرد که به پلتفرم‌های رسانه‌های اجتماعی ملزم می‌شوند تا مواد غیرقانونی تولید شده توسط هوش مصنوعی را با سرعت بیشتری حذف کنند و اطمینان حاصل کنند که تمام محتوای مصنوعی به وضوح برچسب‌گذاری شده است. شرکت‌های فناوری سال‌ها گفته‌اند که می‌خواهند خودشان به این هدف برسند و اکنون فقط چند روز فرصت دارند تا از نظر قانونی ملزم به اجرای آن شوند. این قوانین از 20 فوریه اجرایی می شود.

هند یک میلیارد کاربر اینترنتی عمدتاً جوان دارد که آن را به یکی از حیاتی ترین بازارهای رشد برای پلتفرم های اجتماعی تبدیل می کند. بنابراین، هر دستوری می‌تواند بر تلاش‌های تعدیل‌کننده عمیق در سراسر جهان تأثیر بگذارد، هم از طریق پیشبرد تشخیص تا جایی که در واقع کار می کند یا شرکت های فناوری را مجبور می کند تا تشخیص دهند که به راه حل های جدید نیاز است.

بر اساس تغییرات در قوانین فناوری اطلاعات هند، پلتفرم‌های دیجیتال ملزم به اجرای «اقدامات فنی معقول و مناسب» خواهند بود تا از ایجاد یا اشتراک‌گذاری محتوای صوتی و تصویری غیرقانونی تولید شده مصنوعی، موسوم به دیپ فیک، جلوگیری کنند. هر محتوای تولیدی هوش مصنوعی که مسدود نشده است باید با «فراداده دائمی یا سایر مکانیسم‌های منشأ فنی مناسب» تعبیه شود. همچنین نیازمند تعهدات خاصی برای پلتفرم‌های رسانه‌های اجتماعی است، مانند الزام کاربران به افشای مطالب تولید شده یا اصلاح شده توسط هوش مصنوعی، پیاده‌سازی ابزارهایی که چنین افشاگری‌هایی را تأیید می‌کنند، و برچسب‌گذاری برجسته محتوای هوش مصنوعی به‌گونه‌ای که به افراد امکان می‌دهد فوراً مصنوعی بودن آن را تشخیص دهند، مانند افزودن جملات کلامی به صدای هوش مصنوعی.

گفتن این کار آسان تر از انجام آن است، زیرا سیستم های تشخیص و برچسب گذاری هوش مصنوعی در حال حاضر به طرز غم انگیزی توسعه نیافته اند. C2PA (همچنین به عنوان اعتبار محتوا نیز شناخته می‌شود) یکی از بهترین سیستم‌هایی است که در حال حاضر برای هر دو موجود است و با پیوست کردن فراداده‌های دقیق به تصاویر، ویدیو و صدا در زمان ایجاد یا اصلاح، کار می‌کند تا به‌طور نامرئی نحوه ساخت یا اصلاح آنها را توصیف کند.

اما نکته اینجاست: متا، گوگل، مایکروسافت و بسیاری دیگر از غول‌های فناوری در حال حاضر از C2PA استفاده می‌کنند، و به وضوح کار نمی‌کند. برخی از پلتفرم‌ها مانند فیس‌بوک، اینستاگرام، یوتیوب و لینکدین برچسب‌هایی را به محتوای پرچم‌گذاری‌شده توسط سیستم C2PA اضافه می‌کنند، اما شناسایی این برچسب‌ها دشوار است و برخی از محتوای مصنوعی که باید نشان می دهد که ابرداده ها از بین می روند. پلتفرم‌های رسانه‌های اجتماعی نمی‌توانند هر چیزی را که شامل ابرداده منشأ نمی‌شود، برچسب‌گذاری کنند، مانند مطالبی که توسط مدل‌های AI منبع باز یا به اصطلاح «برنامه‌های برهنه‌سازی» تولید می‌شوند که از پذیرش استاندارد داوطلبانه C2PA خودداری می‌کنند.

طبق تحقیقات DataReportal که توسط به اشتراک گذاشته شده است، هند بیش از 500 میلیون کاربر رسانه های اجتماعی دارد رویترز. با تفکیک، این تعداد 500 میلیون کاربر یوتیوب، 481 میلیون کاربر اینستاگرام، 403 میلیون کاربر فیس بوک و 213 میلیون کاربر اسنپ چت است. همچنین تخمین زده می شود که سومین بازار بزرگ X باشد.

قابلیت همکاری یکی از بزرگترین مسائل مربوط به C2PA است، و در حالی که قوانین جدید هند ممکن است پذیرش را تشویق کند، ابرداده C2PA به دور از ماندگاری است. حذف آن به قدری آسان است که برخی از سیستم عامل های آنلاین ممکن است ناخواسته آن را هنگام آپلود فایل حذف کنند. قوانین جدید پلتفرم ها را سفارش می دهند نه اجازه ویرایش، مخفی کردن یا حذف ابرداده ها یا برچسب ها را می دهد، اما زمان زیادی برای کشف نحوه رعایت آن وجود ندارد. پلتفرم‌های رسانه‌های اجتماعی مانند X که هیچ سیستم برچسب‌گذاری مبتنی بر هوش مصنوعی را پیاده‌سازی نکرده‌اند، اکنون تنها ۹ روز فرصت دارند تا این کار را انجام دهند.

متا، گوگل و ایکس به درخواست ما برای اظهار نظر پاسخ ندادند. حتی Adobe، نیروی محرکه استاندارد C2PA، پاسخی نداد.

افزودن بر فشار در هند، الزامی است که شرکت‌های رسانه‌های اجتماعی باید ظرف سه ساعت پس از کشف یا گزارش، مطالب غیرقانونی را حذف کنند و جایگزین مهلت 36 ساعته فعلی شود. این همچنین در مورد دیپ فیک ها و سایر محتوای مضر هوش مصنوعی نیز صدق می کند.

بنیاد آزادی اینترنت (IFF) هشدار می‌دهد که این تغییرات تحمیلی این خطر را دارد که پلتفرم‌ها را مجبور به تبدیل شدن به «سانسورکننده‌های آتش سریع» کند. IFF در بیانیه ای گفت: “این بازه های زمانی فوق العاده کوتاه هرگونه بررسی انسانی معنی دار را حذف می کند و پلتفرم ها را مجبور به حذف خودکار بیش از حد می کند.”

با توجه به اینکه اصلاحات مکانیسم‌های منشأ را مشخص می‌کند که باید تا «در حدی که از نظر فنی امکان‌پذیر است» اجرا شود، مقامات پشت فرمان هند احتمالاً می‌دانند که فناوری تشخیص و برچسب‌گذاری هوش مصنوعی فعلی ما هنوز آماده نیست. سازمان‌هایی که از C2PA پشتیبانی می‌کنند مدت‌ها متعهد شده‌اند که اگر افراد کافی از آن استفاده کنند، این سیستم کار خواهد کرد، بنابراین این شانس آنها برای اثبات آن است.