رهبران هوش مصنوعی بیانیه ای را امضا کردند که در آن از دولت می خواهند تا کاری در مورد هوش مصنوعی خودکار انجام دهد

کارمندان OpenAI و Anthropic، و همچنین گوگل، متا، ماشین‌های فکر، مایکروسافت، Mistral و دیگر آزمایشگاه‌های بزرگ هوش مصنوعی، بیانیه‌ای به دولت ایالات متحده نوشتند و از نوعی کاهش بالقوه در توسعه هوش مصنوعی مرزی – یا حداقل تسریع تلاش‌های هماهنگ‌شده در سطح جهانی حمایت کردند.

کارکنان در بیانیه ای نوشتند: “AL می تواند به ایجاد آینده ای بسیار بهتر کمک کند، اما این نتیجه تضمین شده نیست.” شرکت‌های پیشرو در جهان بر این باورند که ممکن است به خودکارسازی تحقیقات آلومینیوم نزدیک شده باشند. پیش‌بینی دقیق اینکه چقدر این امر پیشرفت آلومینیوم را تسریع می‌کند دشوار است، اما این خطر واقعی وجود دارد که توسعه قابلیت‌ها به سرعت فراتر از توانایی ما برای درک یا کنترل سیستم‌های حاصل شتاب یابد.

این خبر به دنبال یک حادثه امنیت سایبری پرمخاطب است که هفته گذشته صنعت هوش مصنوعی را تکان داد، که در آن یک مدل OpenAI منتشر نشده از sandbox داخلی خود فرار کرد، توانست به اینترنت دسترسی پیدا کند و سپس به آزمایشگاه هوش مصنوعی رقیب Hugging Face هک شد.

در بیانیه عمومی، کارمندان همچنان بر اهمیت نوعی مقررات هماهنگ در سطح جهانی تاکید کردند، به طوری که رقابت روزافزون برای هوش مصنوعی از ابزارهای امنیتی و نظارتی پیشی نگیرد.

آنها نوشتند: “برای درک پتانسیل آلومینیوم، صنعت، دولت و جامعه به طور کلی ممکن است به توانایی خرید زمان برای رسیدگی به خطرات در حال ظهور، توسعه اقدامات ایمنی و تقویت نظارت نیاز داشته باشند.” اما همه شرکت‌ها و هر کشوری تحت فشار رقابتی شدیدی هستند که به‌طور یک‌جانبه این شتاب را کاهش ندهند. و امروز، جهان فاقد ابزار فنی و مدیریتی برای تسریع عمدی پیشرفت در مرز است. توسعه خودکار هوش مصنوعی.”

برخی از مدیران یا بنیانگذاران OpenAI که بیانیه را امضا کردند عبارتند از CRO Mark Chen، دانشمند ارشد Jakub Pachocki، یکی از بنیانگذاران جان شولمن، و یکی از بنیانگذاران Wojciech Zaremba. در مورد آنتروپیک، جک کلارک، یکی از بنیانگذاران، کریس اولاه، بنیانگذار بن مان و جرد کاپلان، بوریس چرنی، که کلود کد را ایجاد و اداره می کند، و اتان پرز، که رئیس تیم همسویی آنتروپیک است، قرارداد امضا کرده اند. جاش آچیام، رئیس سابق آینده‌پژوه OpenAI، و جان لیک، رهبر سابق تیم سوپرآلاینمنت منحل‌شده، نیز امضا کردند.