برنامه Bounty Google به شکارچیان اشکال تا 30 کیلو دلار پرداخت می کند

روز دوشنبه Google یک برنامه پاداش جدید را که به طور خاص به جستجوی اشکالات در محصولات AI اختصاص داده شده بود ، راه اندازی کرد. لیست اشکالات واجد شرایط Google شامل نمونه هایی از نوع اقدامات سرکش که به دنبال آن است ، چگونه می توان به طور غیرمستقیم یک فوری هوش مصنوعی تزریق کرد که باعث می شود Google Home یک درب یا یک فرکانس داده را باز کند و همه نامه های الکترونیکی شخصی را خلاصه کند و خلاصه را به حساب مهاجم ارسال کند.

این برنامه جدید روشن می کند که چه چیزی یک اشکال هوش مصنوعی را تشکیل می دهد ، و آنها را به عنوان مشکلاتی که از یک مدل زبان بزرگ یا یک سیستم اطلاعاتی مصنوعی تولیدی استفاده می کند ، برای ایجاد آسیب یا بهره مندی از یک فرار ایمنی ، با اقدامات سرکش در صدر لیست ، می شکند. این شامل اصلاح حساب یا داده های شخصی برای جلوگیری از امنیت آنها یا انجام کاری ناخواسته است ، به عنوان یک نقص قبلاً در معرض دید که می تواند کرکره های هوشمند را باز کند و با استفاده از یک رویداد تقویم Google مسموم ، چراغ ها را خاموش کند.

واقعیت ساده به دست آوردن دوقلوها برای توهم ، آن را قطع نمی کند. این شرکت اظهار می دارد که موضوعات مربوط به محتوای تولید شده توسط محصولات A-مانند تولید نفرت یا سخنرانی های محتوا که باعث تخلف از کپی رایت می شود ، به کانال بازخورد درون خود محصول گزارش می شود. به گفته گوگل ، از این طریق تیم امنیتی هوش مصنوعی خود می تواند “رفتار مدل را تشخیص داده و شکل گیری ایمنی طولانی مدت طولانی مدت را اجرا کند”.

همراه با برنامه جدید پاداش هوش مصنوعی ، گوگل همچنین یک نماینده اطلاعات مصنوعی را روز دوشنبه اعلام کرد که با هدف کد آسیب پذیر به نام Codemender انجام می شود. این شرکت ادعا می کند پس از چک کردن از یک محقق انسانی ، از “72 اصلاحات امنیتی برای پروژه های منبع باز” استفاده کرده است.

این جایزه 20،000 دلاری برای ریشه کن کردن اقدامات Rogue در جستجوی محصولات “برتر” Google ، برنامه های Gemini و برنامه های اصلی منطقه کار مانند Gmail و Drive اهدا می شود. ضرب ها همچنین برای کیفیت گزارش ها و یک جایزه جدید در دسترس هستند که می تواند کل مبلغ را به 30،000 دلار برساند. قیمت اشکالات موجود در سایر محصولات Google ، مانند ژول یا Notebooklm و برای سوء استفاده از سطح پایین مانند سرقت پارامترهای مدل مخفی کاهش می یابد.