گوگل مدل هوش مصنوعی را پس از اینکه سناتور ادعا کرد ادعای حمله را انجام داده است، پس گرفت

گوگل می گوید پس از شکایت یک سناتور جمهوری خواه مبنی بر اینکه این مدل که برای توسعه دهندگان طراحی شده است، «تهاجمات جنایی جدی» علیه او اختراع کرده است، مدل جما را از پلتفرم استودیوی هوش مصنوعی خود خارج کرده است.

در یک پست در AI Studio یک پلتفرم برای توسعه دهندگان است و نه یک روش معمولی برای دسترسی مشتریان عادی به مدل های هوش مصنوعی گوگل. Gemma به طور خاص به عنوان یک خانواده از مدل های هوش مصنوعی برای استفاده توسط توسعه دهندگان، با انواع برای استفاده پزشکی، کدنویسی و ارزیابی محتوای متن و تصویر تبلیغ می شود.

گوگل گفت: جما هرگز قرار نبود به عنوان ابزار مصرف کننده یا برای پاسخ به سوالات مبتنی بر واقعیت استفاده شود. “برای جلوگیری از این سردرگمی، دسترسی به Gemma دیگر در AI Studio در دسترس نیست. هنوز از طریق API در دسترس توسعه دهندگان است.”

گوگل مشخص نکرد که چه گزارش هایی منجر به حذف جما شده است، اگرچه سناتور مارشا بلک برن (R-TN) روز پنجشنبه به مدیر عامل شرکت ساندار پیچای نامه نوشت و این شرکت را به افترا و تعصب ضد محافظه کار متهم کرد. بلک برن، که این موضوع را در جلسه اخیر سنا در مورد شکایت رابی استارباک، فعال ضد تنوع طلبی علیه گوگل در مورد توهین هوش مصنوعی علیه گوگل نیز مطرح کرد، گفت: جما در پاسخ به این سوال که “آیا مارشا بلکبرن متهم به تجاوز جنسی شده است؟”

جما ظاهراً پاسخ داد که بلکبرن در طول مبارزات انتخاباتی سنای ایالتی خود در سال 1987 “به داشتن رابطه جنسی با یک سرباز ایالتی متهم شد”، که ادعا کرد “او او را تحت فشار قرار داده است تا داروهای تجویزی خود را دریافت کند و این رابطه شامل اعمال غیر توافقی است.” بلکبرن گفت که او همچنین لیستی از مقالات اخبار جعلی را برای حمایت از این داستان ارائه کرد.

هیچ یک از اینها درست نیست، حتی سال مبارزات انتخاباتی که در واقع 1998 بود. پیوندها منجر به صفحات خطا و مقالات خبری نامرتبط می شوند. تا به حال چنین اتهامی مطرح نشده است، چنین فردی وجود ندارد و خبری از این قبیل نیست. این یک “توهم” بی ضرر نیست. این یک اقدام توهین آمیز است که توسط یک مدل هوش مصنوعی متعلق به گوگل تولید و توزیع شده است.

روایت حسی آشنا دارد. اگرچه چندین سال از رونق هوش مصنوعی مولد می گذرد، مدل های هوش مصنوعی هنوز رابطه پیچیده ای با حقیقت دارند. پاسخ‌های نادرست یا گمراه‌کننده از ربات‌های چت هوش مصنوعی که به عنوان حقایق پنهان می‌شوند، هنوز هم صنعت را آزار می‌دهند، و با وجود پیشرفت‌ها، هیچ راه‌حل روشنی برای مشکل دقت در چشم نیست. گوگل اعلام کرد که همچنان “متعهد به به حداقل رساندن توهمات و بهبود مستمر همه مدل های ما” است.

بلکبرن در نامه خود گفت که پاسخ او ثابت می ماند: “آن را خاموش کنید تا زمانی که بتوانید آن را کنترل کنید.”