آمازون کارکنان انسانی را مسئول اشتباه عامل کدنویسی هوش مصنوعی می داند

بر اساس گزارش ها، خدمات وب آمازون در ماه دسامبر به دلیل اقدامات دستیار کدنویسی هوش مصنوعی خود Kiro دچار یک قطع 13 ساعته در یک سیستم شد. زمان های مالی. بسیاری از کارمندان ناشناس آمازون این را گزارش کردند FT که عامل هوش مصنوعی Kiro مسئول حادثه دسامبر بود که بر یک سرویس AWS در بخش‌هایی از سرزمین اصلی چین تأثیر گذاشت. افراد آشنا به این موضوع گفتند که این ابزار “حذف و بازسازی محیطی” را انتخاب کرد که روی آن کار می کرد، که باعث قطع شد.

در حالی که Kiro معمولاً برای ارسال تغییرات به تأیید دو انسان نیاز دارد، ربات مجوزهای اپراتور خود را داشت و خطای انسانی اجازه دسترسی بیشتر از حد انتظار را می داد.

آمازون قطع شدن ماه دسامبر را به عنوان یک “رویداد بسیار محدود” توصیف کرد که در مقایسه با قطعی بزرگ در ماه اکتبر که خدمات آنلاینی مانند الکسا، فورتنایت، چت جی پی تی و آمازون را برای ساعت ها از کار انداخت، کمرنگ است. قطعی که کسی را در رختخواب هوشمند خود گیر نکرده باشد، یک فرار خوش شانس است.

این تنها باری نیست که ابزارهای کدنویسی مبتنی بر هوش مصنوعی برای آمازون مشکل ایجاد کرده اند. یکی از کارمندان ارشد AWS گفت که قطعی دسامبر دومین قطع تولید مرتبط با یک ابزار هوش مصنوعی در ماه‌های اخیر است، همراه با یکی دیگر از موارد مرتبط با ربات چت AI آمازون Q Developer. این کارمند خاموشی ها را “کوچک اما کاملاً قابل پیش بینی” توصیف کرد. آمازون گفت که حادثه دوم هیچ تأثیری بر “سرویس AWS مشتری” نداشته است.

آمازون این مشکلات را خطای انسانی، نه ربات سرکش، مقصر می‌داند و می‌گوید که «تدابیر حفاظتی متعددی» مانند آموزش کارکنان را پس از این حادثه به کار گرفته است. این شرکت گفت که «تصادفی بود که ابزارهای هوش مصنوعی درگیر بودند» و اصرار داشت که «همین مشکل ممکن است با هر ابزار توسعه یا اقدام دستی رخ دهد». این درست است، و در حالی که من مهندس نیستم، تصور می کنم شما عمداً چیزی را از بین نمی برید و دوباره نمی سازید تا تغییری ایجاد کنید، مگر در بدترین شرایط.