آیا سیستم واترمارک هوش مصنوعی گوگل مهندسی معکوس شده است؟

یک توسعه‌دهنده نرم‌افزار ادعا می‌کند که سیستم SynthID Google DeepMind را مهندسی معکوس کرده است، که نشان می‌دهد چگونه واترمارک‌های هوش مصنوعی را می‌توان از تصاویر تولید شده حذف کرد یا به صورت دستی در آثار دیگر قرار داد. جمله ای که به گفته گوگل، صحت ندارد.

توسعه‌دهنده، با نام کاربری Aloshdenny، کار خود را در GitHub منبع باز کرد و روند خود را مستند کرد و ادعا کرد که تنها چیزی که لازم است ۲۰۰ تصویر تولید شده توسط Gemini، پردازش سیگنال و «زمان آزاد بیش از حد» است. به نظر می رسید کمی علف هرز نیز کمک کند.

آلوشدنی در مدیوم گفت: “بدون شبکه عصبی. بدون دسترسی اختصاصی.” به نظر می رسد که اگر شما بیکار هستید و تصاویر نسبتاً متوسط ​​تولید شده توسط هوش مصنوعی در رنگ مشکی خالص دارید، هر پیکسل غیرصفری به معنای واقعی کلمه تنها علامتی است که به شما خیره شده است.

SynthID یک سیستم واترمارک تقریبا نامرئی است که محتوای تولید شده توسط ابزارهای هوش مصنوعی گوگل را برچسب گذاری می کند و در زمان ایجاد خود را در پیکسل های تصویر جاسازی می کند. به گونه ای طراحی شده بود که حذف آن بدون به خطر انداختن کیفیت تصویر دشوار باشد و به طور گسترده در محصولات هوش مصنوعی ارائه شده توسط Google استفاده می شود: همه چیزهایی که از مدل هایی مانند Nano Banana و Veo 3 خروجی می شود دارای واترمارک SynthID هستند و حتی برای کلون های ایجاد شده توسط هوش مصنوعی YouTube اعمال می شود.

آلوشدنی می‌گوید که سیستم را «مهندسی واقعاً خوبی» می‌داند و هنوز نتوانسته است SynthID را به طور کامل در آزمایش‌ها حذف کند، در عوض به رمزگشاهای گیج کننده SynthID که سعی در خواندن تصاویر واترمارک شده دارند، تکیه می‌کند.

فرآیندی که برای شکستن مکانیسم های پشت علامت گذاری گوگل به کار می رود از نظر فنی برای غیر توسعه دهندگان پیچیده است. اگر کنجکاو هستید، می‌توانید تحلیل کامل را در صفحه مدیوم آلوشدنی بخوانید (که ظاهراً در حالی نوشته شده بود که آلوشدنی “بالا” بود)، اما در اینجا یک توضیح ساده وجود دارد:

آلوشدنی می‌گوید: «واقعیتی که من می‌توانم به آن برسم این بود که رمزگشا را تا حدی گیج کنم که بدون حذف شی، چیزهای زیادی در مورد اینکه چقدر خوب طراحی شده بود، رها کرد.» “این کامل نیست. اما تلاش نمی کند که نابود نشدنی باشد. سعی می کند هزینه استفاده نادرست را به اندازه ای بالا ببرد که بیشتر مردم اهمیتی ندهند.”

من پروژه آلوشدنی را که سیستم واترمارک SynthID گوگل را مهندسی معکوس می کند، امتحان نکرده ام، بنابراین نمی توانم تضمین کنم که واقعا چقدر موثر است. گفته شد، در حال حاضر، شبیه SynthID نیست در هکتار مهندسی معکوس شده است، حداقل در حدی نیست که بچه های اسکریپت بتوانند ابزاری را دانلود کنند و واترمارک گوگل را حذف کنند (یا اضافه کنند) تا سیستم های تشخیص هوش مصنوعی را فریب دهند. گوگل همچنین فکر نمی کند بتواند در برابر ادعاهای آلوشدنی بایستد.

میریام خان، سخنگوی گوگل گفت: «این که بگوییم این ابزار می تواند به طور سیستماتیک واترمارک های SynthID را حذف کند، نادرست است. حد. SynthID یک ابزار واترمارک قوی و موثر برای محتوای تولید شده توسط هوش مصنوعی است.