نوجوانان از xAI ایلان ماسک به خاطر CSAM تولید شده توسط هوش مصنوعی Grok شکایت کردند

شاکیان شامل دو خردسال و یک بزرگسال است که در زمان وقوع حقایق پرونده، صغیر بوده است. یکی از قربانیان که “جین دو 1” نام دارد، می‌گوید که در دسامبر گذشته متوجه شد که تصاویر صریح و واضح تولید شده توسط هوش مصنوعی از او و حداقل 18 نوجوان دیگر در Discord موجود است. در این دادخواست آمده است: «حداقل پنج مورد از این فایل‌ها، یک ویدیو و چهار تصویر، چهره و بدن واقعی او را در محیط‌هایی که با آن آشنا بود، به تصویر می‌کشیدند، اما به ژست‌های صریح جنسی تبدیل شدند».

مجرم، که از آن زمان دستگیر شده است، ظاهراً از مواد CSAM تولید شده توسط هوش مصنوعی Jane Doe 1 “به عنوان ابزار مبادله در چت های گروهی تلگرام با صدها کاربر دیگر، مبادله فایل های CSAM خود با محتوای غیراخلاقی جنسی از سایر خردسالان” استفاده کرده است. در این دادخواست ادعا شده است که مجرم تصاویر صریح جین دو 1 و دو قربانی دیگر را با استفاده از گروک ایجاد کرده است. همچنین ادعا می‌کند که xAI «نتوانست امنیت ویژگی‌هایی را که توسعه داده است آزمایش کند» و Grok «در طراحی معیوب است».

اگرچه X سعی کرد ویرایش تصاویر را با Grok برای کاربران سخت‌تر کند، حد دریافتند که هنوز امکان دستکاری تصاویر آپلود شده در پلتفرم وجود دارد. X استدلال کرد که “هرکسی که از Grok استفاده می کند یا باعث ایجاد محتوای غیرقانونی می شود، همان عواقبی را متحمل می شود که اگر محتوای غیرقانونی بارگذاری کرده باشد.” X بلافاصله پاسخ نداد حددرخواست نظر

یکی از وکلای قربانیان، آنیکا کی. مارتین از لیف کابراسر، در بیانیه‌ای گفت: «اینها کودکانی هستند که عکس‌های مدرسه و خانواده‌شان توسط ابزار هوش مصنوعی یک شرکت میلیارد دلاری به پورنوگرافی کودکان تبدیل شد و سپس بین شکارچیان معامله شد. ما قصد داریم که xAI را در قبال هر کودکی که از این طریق آسیب دیده است، پاسخگو بدانیم.

این دعوا به دنبال خسارت برای قربانیان آسیب دیده از “تصاویر غیرقانونی” گروک است. همچنین از دادگاه می‌خواهد که xAI را از تولید و انتشار هرزه‌نگاری کودکان ادعایی تولید شده توسط هوش مصنوعی جلوگیری کند.