Moltbot، عامل هوش مصنوعی که “واقعاً کارها را انجام می دهد”، وسواس جدید فناوری است.

یک عامل AI منبع باز که در واقع “کارها را انجام می دهد” در حال گسترش است، با مردم در سراسر وب به اشتراک گذاری نحوه استفاده از این عامل برای انجام بسیاری از کارها، مانند مدیریت یادآوری ها، ثبت داده های سلامت و تناسب اندام، و حتی برقراری ارتباط با مشتریان. این ابزار که Moltbot (کلاودبات ​​سابق) نامیده می‌شود، به صورت محلی روی دستگاه‌های مختلف کار می‌کند و می‌توانید با چت کردن با WhatsApp، Telegram، Signal، Discord و iMessage از آن بخواهید تا وظایفی را از طرف شما انجام دهد.

فدریکو ویتیچی در MacStories نحوه نصب Moltbot را بر روی Mac Mini M4 خود برجسته کرد و آن را به ابزاری تبدیل کرد که خلاصه‌های صوتی روزانه را بر اساس فعالیت او در برنامه‌های Calendar، Notion و Todoist ارائه می‌کند. شخص دیگری از Moltbot خواست تا به خود یک چهره متحرک بدهد و گفت که بدون درخواست یک انیمیشن خواب اضافه کرده است.

Moltbot درخواست شما را از طریق ارائه دهنده هوش مصنوعی انتخابی شما مانند OpenAI، Anthropic یا Google هدایت می کند. مانند بسیاری از عوامل هوش مصنوعی که تاکنون دیده‌ایم، Moltbot می‌تواند فرم‌ها را در مرورگر شما پر کند، برای شما ایمیل بفرستد و تقویم شما را مدیریت کند، اما حداقل به گفته برخی از افرادی که از این ابزار استفاده می‌کنند، بسیار کارآمدتر عمل می‌کند.

هر چند برخی از هشدارها وجود دارد. شما همچنین می توانید به Motlbot اجازه دسترسی به کل سیستم رایانه خود را بدهید و به آن اجازه دهید فایل ها را بخواند و بنویسد، دستورات پوسته را اجرا کند و اسکریپت ها را اجرا کند. اگر مراقب نباشید، ترکیبی از دسترسی در سطح سرپرست به اعتبار دستگاه و برنامه شما می‌تواند خطرات امنیتی جدی ایجاد کند.

راشل توباک، مدیر عامل SocialProof Security در ایمیلی به این موضوع می‌گوید: «اگر عامل خودکار هوش مصنوعی شما (مانند MoltBot) به رایانه‌تان دسترسی دارد و من می‌توانم با ارسال پیامکی برای شما در رسانه‌های اجتماعی با آن ارتباط برقرار کنم، اکنون می‌توانم سعی کنم با یک پیام مستقیم ساده رایانه‌تان را ربودم». حد. زمانی که ما به عوامل هوش مصنوعی مستقل دسترسی مدیریتی اعطا می کنیم، آنها می توانند از طریق تزریق به موقع، یک آسیب پذیری کاملا مستند و هنوز ثابت نشده، ربوده شوند. حمله تزریق سریع زمانی اتفاق می‌افتد که یک مهاجم هوش مصنوعی را با استفاده از اعلان‌های مخرب دستکاری می‌کند، که می‌تواند مستقیماً به یک ربات چت ارائه کند یا در یک فایل، ایمیل یا صفحه وب که به یک مدل زبان بزرگ تغذیه می‌شود، جاسازی کند.

Jamieson O'Reilly، متخصص امنیت و موسس شرکت امنیت سایبری Dvuln، کشف کرد که پیام‌های خصوصی، اعتبار حساب و کلیدهای API مرتبط با Moltbot در وب در معرض دید قرار می‌گیرند و به طور بالقوه به هکرها اجازه می‌دهند این اطلاعات را بدزدند یا از آن برای حملات دیگر سوء استفاده کنند. O'Reilly می گوید که این مشکل را به توسعه دهندگان Moltbot گزارش کرده است، که از آن زمان به بعد یک راه حل را منتشر کرده اند ثبت نام.

یکی از توسعه دهندگان Moltbot در این مورد گفت