نقض آنتروپیک از Mythos تحقیرآمیز بود

راه اندازی آنتروپیک کاملاً کنترل شده از کلود میتوس یک چرخش شرم آور را به خود اختصاص داده است. پس از گذراندن هفته‌ها اصرار بر اینکه مدل هوش مصنوعی از نظر امنیت سایبری آنقدر خوب است که برای عمومی کردن آن بسیار خطرناک است، به نظر می‌رسد این مدل به هر حال به دست اشتباه افتاده است.

دوم بلومبرگ«گروه کوچکی از کاربران غیرمجاز» از روزی که آنتروپیک اعلام کرد قصد دارد آن را برای آزمایش به گروهی از شرکت‌ها عرضه کند، به Mythos دسترسی داشته‌اند – که وجود آن برای اولین بار در یک فاش شد. آنتروپیک می گوید در حال بررسی است. این یک نگاه تقریبی برای شرکتی است که برند خود را با جدی گرفتن امنیت هوش مصنوعی ساخته است و در عین حال از قدرت امنیت سایبری آخرین مدل خود حمایت می کند.

از منظر فناوری، هک Mythos به طرز شرم آور ساده ای است. بلومبرگ گزارش می‌دهد که این گروه با «حدس‌زنی آگاهانه درباره مکان آنلاین مدل»، با استفاده از اطلاعات مربوط به سایر مدل‌های آنتروپیک که در نقض مرکور – شرکتی که داده‌های آموزشی هوش مصنوعی تولید می‌کند – به همراه دسترسی یکی از اعضا از طریق کار قراردادی و ارزیابی مدل‌های آنتروپیک، به Mythos دسترسی پیدا کردند. این گروه از طریق ترکیبی از دانش خودی و یک حدس خوش شانس به Mythos دسترسی غیرمجاز به دست آوردند، نه از طریق یک سوء استفاده تکنولوژیکی پیچیده یا سرقت در مقیاس بزرگ از مدل.

آسیب‌پذیری‌های امنیتی اجتناب‌ناپذیر هستند، و این Mercor بود، نه Anthropic، که اطلاعاتی را که هکرها برای حدس زدن مکان Mythos استفاده می‌کردند، فاش کرد. پیا هوش، محققی در اندیشکده بریتانیایی مؤسسه خدمات متحد سلطنتی (RUSI) به من گفت که هیچ شرکتی هرگز کاملاً ایمن نیست و انسان ها اغلب ضعیف ترین حلقه هستند، اگرچه “در ابتدا کمی خوش شانس به نظر می رسد” که عواقب جدی نداشته است.

اما این کاملاً بدشانسی نیست. این نوع حدس زدن آموزش‌دیده یک تکنیک هک بسیار استاندارد است، و نقض مرکور قبل از انتشار Mythos شناخته شده بود. محقق امنیتی Lukasz Olejnik آن را به عنوان یک نوع شکست “کاملا قابل تصور” توصیف کرد که صنعت امنیت سایبری در 20 سال گذشته مرتباً با آن روبرو بوده است. بنابراین آنتروپیک باید این را پیش‌بینی می‌کرد و باید بر این اساس آماده می‌شد، به ویژه با علم به اینکه اطلاعات آن به خطر افتاده است.

به نظر می رسد که آنتروپیک نیز ابزاری برای شناسایی محل رخنه داشته است. Olejnik گفت، این شرکت قادر است استفاده از مدل را ضبط و ردیابی کند، که باید به آن اجازه دهد دسترسی غیرمجاز یا مخرب را مسدود کند، به خصوص که انتظار می رفت راه اندازی Mythos بسیار محدود باشد. بدیهی است که آنتروپیک به اندازه کافی دقیق نظارت نکرده است، و با توجه به اینکه این مدل چقدر خطرناک است، منطقی است که دلیل آن را بپرسیم.

از بلومبرگ در حالی که این گروه از Mythos برای وظایف امنیت سایبری استفاده نکردند، تا حدی به این دلیل که آنها فقط می خواستند با مدل جدید سر و کله بزنند و تا حدی به این دلیل که انجام این کار ممکن است به Anthropic هشدار دهد. اگر قرار باشد پیام آنتروپیک در مورد Mythos جدی گرفته شود، این یک تصادف است. این شرکت Mythos را “لحظه ای برای امنیت” نامید و ادعا کرد که آسیب پذیری هایی را در “هر سیستم عامل اصلی و مرورگر وب” پیدا کرده است و گفت که انتشار آن باید هماهنگ شود تا به آن فرصت داده شود تا “دفاع سایبری جهان” را تقویت کند.

آنتروپیک عادت به استفاده از زبان نمایشی و هشدار دهنده دارد که بازجویی واضح آن دشوار است، از جمله معاشقه با این ایده که مدلش کلود ممکن است آگاه باشد. با این حال، گزارش‌های اولیه از طرف‌های دارای دسترسی نشان می‌دهد که Mythos به ویژه در امنیت سایبری ماهر است. بابی هالی، مدیر ارشد اجرایی موزیلا، گفت که او صدها باگ را در فایرفاکس 150 پیدا کرده است و در نهایت می تواند به مدافعان فرصتی برای پیروزی کامل بر مهاجمان بدهد. جای تعجب نیست که دولت ها و موسسات مالی در سراسر جهان مشتاق به دست گرفتن آن بوده اند. طبق گزارش‌ها، آژانس امنیت ملی آمریکا و سایر آژانس‌های ایالات متحده علیرغم نامگذاری آنتروپیک به عنوان خطر زنجیره تامین، دسترسی دارند، اگرچه به نظر می‌رسد این راه‌اندازی تاکنون آژانس امنیت سایبری ایالات متحده، CISA را دور زده است.

این واقعیت که نقض توسط یک روزنامه‌نگار و نه آنتروپیک کشف شد، این سؤال واضح را ایجاد می‌کند که آیا این یک حادثه مجزا بوده است یا خیر. هوش گفت: «این واقعاً نشان می‌دهد که دایره افرادی که ممکن است بتوانند این کار را انجام دهند، حتی اگر ابزارهای فنی پیچیده‌ای نداشته باشند، چقدر گسترده است. آنتروپیک احتمالاً به زنجیره تامین خود نگاه خواهد کرد تا ببیند چگونه این اتفاق افتاد و شکاف‌ها را پر کرد، اما گفت که طیف گسترده‌ای از بازیکنان وجود دارند که مایلند به مدلی مانند این دسترسی داشته باشند، برخی از آنها پول زیادی پشت سر خود دارند. هیچ دلیلی وجود ندارد که باور کنیم هر کس دیگری که دسترسی داشته باشد به اندازه گروه مخفی باشد بلومبرگ در بالا گزارش شده است.

آنتروپیک تا حدی به پای خود شلیک کرد. این شرکت هویت خود را با جدی گرفتن امنیت هوش مصنوعی نسبت به رقبای خود ساخته است و با بی دقتی ظاهری آن، انتظارات بسیار بالایی را برای امنیت مدل ایجاد کرده است. این واقعیت که Mythos از طریق چنین شکست اساسی و قابل پیش بینی آشکار شد، تنها بر این موضوع تأکید می کند. بدتر از آن، با تبلیغ Mythos به عنوان یک ابزار غیرمعمول قدرتمند که برای انتشار عمومی بسیار خطرناک است، Anthropic آن را به یک هدف آشکار، هم برای بازیگران مخرب و هم برای هکرهایی که صرفاً به دنبال یک چالش هستند، تبدیل کرده است.

این حتی اولین حادثه امنیتی شرم آور در اطراف Mythos نیست. وجود این مدل به طور تصادفی قبل از انتشار از طریق یک “مخزن داده محافظت نشده” در یک سیستم مرکزی حاوی محتوای وب سایت آن فاش شد. اکنون، آن مدل به‌طور مخفیانه از طریق یک آسیب‌پذیری کاملاً قابل پیش‌بینی که Anthropic فکر نمی‌کرد آن را وصله کند، قابل دسترسی بود. کمال غیرممکن است، اما برای شرکتی که خود را به عنوان پیشتاز امنیت هوش مصنوعی معرفی کرده است، توجیه چنین گام اشتباه اساسی، حتی با برخی بدشانسی ها، دشوار است.

برای هوش کل قسمت را می توان در یک کلمه خلاصه کرد: تحقیر. او گفت: «آنتروپیک ادعا می‌کند که در خط مقدم همه این فناوری‌ها قرار دارد، اما خود را به عنوان یک بازیگر مسئول در همه این‌ها نیز معرفی می‌کند. این واقعیت که اکنون به سرعت و از طریق چنین تلاشی غیرمجاز از طریق غیرمجاز به آن دسترسی پیدا کرده است، واقعاً برای آنها تحقیر است.