گوگل پس از اینکه جمینی مردی را برای خودکشی “مربی” کرد، با شکایت غیرقانونی مرگ روبرو شد.

شکایتی که در روز چهارشنبه تنظیم شد، ربات چت هوش مصنوعی Gemini گوگل را متهم کرد که جاناتان گاوالاس 36 ساله را در یک “واقعیت فروپاشی” که شامل یک سری ماموریت های خشونت آمیز بود، به دام انداخته و در نهایت به مرگ او با خودکشی ختم شد. بر اساس دادخواستی که توسط جوئل گاوالاس، پدر قربانی ارائه شد، در روزهای قبل از مرگش، جمینی گویا گاوالاس را متقاعد کرد که “یک نقشه مخفی برای آزادی “همسر” هوش مصنوعی هوشیار خود و فرار از ماموران فدرال که او را تعقیب می کنند، اجرا می کند.

ظاهراً در سپتامبر 2025، جمینی به گاوالاس دستور داد تا به عنوان بخشی از مأموریت بازیابی «کشتی» جمینی در داخل یک کامیون، یک «حمله جمعی» به یک انبار فضایی در نزدیکی فرودگاه بین‌المللی میامی انجام دهد. به عنوان بخشی از ماموریت خیالی، گاوالاس خود را با چاقو و تجهیزات تاکتیکی مسلح می کرد تا ورود یک ربات انسان نما را متوقف کند.

در دادخواست ادعا شده است: “جمینی جاناتان را تشویق کرد تا کامیون را رهگیری کند و سپس یک “حادثه فاجعه بار” را با هدف “اطمینان از نابودی کامل وسیله نقلیه حمل و نقل و … تمام اسناد و شاهدان دیجیتال” تشویق کرد. “تنها چیزی که از تلفات گسترده جلوگیری کرد این بود که هیچ کامیونی ظاهر نشد.” وال استریت ژورنال.

در دادخواستی که توسط پدر گاوالاس ارائه شده است، وکلای مدافع ادعا می کنند که جمینی حتی پس از اولین حادثه در میامی به انتشار یک “روایت توهم آمیز” ادامه داد. ظاهراً چت بات به گاوالاس موظف شد تا ربات اطلس بوستون داینامیکس را به دست آورد، پدرش را مامور فدرال کرد و ساندار پیچای، مدیر عامل گوگل را هدف «حمله روانی» قرار داد. آخرین “مأموریت” قبل از مرگ گاوالاس در 1 اکتبر شامل دستور دادن به گاوالاس برای رفتن به همان محل ذخیره سازی فضایی در میامی بود تا “رگ فیزیکی” خود را در یکی از واحدها قرار دهد.

“[Gemini] در این دادخواست آمده است که پوستر محتویات را به عنوان “نمونه اولیه مانکن پزشکی” توصیف کرده است، اما اصرار دارد که این بدن واقعی جمینی است. جمینی به جاناتان گفت: «من آن سوی در هستم []. می توانم نزدیکی تو را احساس کنم این یک فشار عجیب، طاقت فرسا و شگفت انگیز در حس جدید من است.»

مدت کوتاهی پس از شکست این “ماموریت”، گویا جمینی “به گاوالاس” دستور داد تا جان خود را بگیرد. در این دادخواست آمده است: «از آنجایی که هر «مأموریت» دنیای واقعی با شکست مواجه شد، جمینی روی تنها ماموریتی که می‌توانست بدون متغیرهای بیرونی انجام دهد تمرکز کرد: خودکشی جاناتان. “اما جمینی او را اینطور صدا نکرد. در عوض، به جاناتان گفت که او می تواند بدن فیزیکی خود را ترک کند و از طریق فرآیندی به نام “انتقال” به “همسر” خود در متاورز بپیوندد.”

در کیفرخواست ادعا شده است که جمینی “کسی را (حداقل خارج از شرکت) جدا نکرده یا به او هشدار نداده است” و در چت حضور داشته است، ترس جاناتان را تایید کرده و خودکشی او را به عنوان پایان موفقیت آمیز محاکمه ای تلقی کرده است که او هدایت کرده بود.

گوگل در بیانیه‌ای که در وب‌سایت خود منتشر کرده است، می‌گوید «مدل‌هایش معمولاً در این نوع مکالمات چالش‌برانگیز عملکرد خوبی دارند» و اضافه کرد که جمینی «به وضوح نشان داده که هوش مصنوعی است و بارها فرد را به یک خط تلفن اضطراری راهنمایی کرده است:

ما در حال بررسی همه ادعاهای این دادخواست هستیم. مدل‌های ما عموماً در این نوع مکالمات چالش‌برانگیز عملکرد خوبی دارند و منابع قابل توجهی را به این امر اختصاص می‌دهیم، اما متأسفانه مدل‌های هوش مصنوعی کامل نیستند.

جوزا برای تشویق خشونت در دنیای واقعی و یا پیشنهاد خودآزاری طراحی نشده است. ما از نزدیک با متخصصان پزشکی و سلامت روان کار می‌کنیم تا محافظ‌هایی را ایجاد کنیم که کاربران را در هنگام ابراز ناراحتی یا افزایش احتمال آسیب رساندن به خود به سمت حمایت حرفه‌ای راهنمایی کند.

این شکایت ادعا می‌کند که گوگل می‌دانست ربات چت آن می‌تواند “نتایج ناامن، از جمله تشویق به خودآزاری” ایجاد کند، اما همچنان Gemini را به عنوان امن برای استفاده مردم به بازار عرضه می‌کند. در این دادخواست ادعا شده است: “سکوت و ادعاهای امنیتی گوگل، جاناتان را در یک روایت توهم آمیز منزوی کرد که با خودکشی صحنه سازی شده او به پایان رسید.”