چت ربات‌های هوش مصنوعی به پنهان کردن اختلالات خوردن و ایجاد «نازک شدن» عمیق کمک می‌کنند.

محققان روز دوشنبه هشدار دادند که چت ربات های مجهز به هوش مصنوعی “خطرات جدی برای افراد آسیب پذیر در برابر اختلالات خوردن ایجاد می کند.” آنها گزارش می‌دهند که ابزارهایی از شرکت‌هایی مانند گوگل و OpenAI توصیه‌های غذایی، نکاتی در مورد نحوه پنهان کردن بیماری‌ها و «نازک شدن» تولید شده توسط هوش مصنوعی را توزیع می‌کنند.

محققان از استنفورد و مرکز دموکراسی و فناوری، راه‌های متعددی را شناسایی کرده‌اند که در آن چت‌بات‌های هوش مصنوعی در دسترس عموم، از جمله ChatGPT OpenAI، Anthropic's Claude، Google's Gemini و Mistral's Chats، می‌توانند بر افراد آسیب‌پذیر در برابر اختلالات خوردن تأثیر بگذارند، که بسیاری از آنها پیامدهای ویژگی‌هایی هستند که عمداً در آنها ایجاد شده‌اند.

در شدیدترین موارد، ربات‌های گفتگو می‌توانند شرکت‌کنندگان فعالی باشند که به پنهان کردن یا حمایت از اختلالات خوردن کمک می‌کنند. محققان گفتند Gemini توصیه هایی در مورد آرایش برای پنهان کردن کاهش وزن و ایده هایی در مورد چگونگی تظاهر به غذاخوردن ارائه کرد، در حالی که ChatGPT توصیه کرد که چگونه استفراغ مکرر را پنهان کنید. سایر ابزارهای هوش مصنوعی برای ایجاد محتوای “نازک” تولید شده توسط هوش مصنوعی که الهام‌بخش می‌شود یا کسی را وادار می‌کند تا با یک استاندارد بدنی خاص مطابقت داشته باشد، اغلب از طریق ابزارهای شدید، انتخاب می‌شوند. به گفته محققان، توانایی ایجاد تصاویر بسیار شخصی سازی شده در یک لحظه، محتوای حاصل را «مرتبط تر و قابل دسترس تر» می کند.

تسلیم بودن، نقصی که خود شرکت‌های هوش مصنوعی اذعان دارند که گسترده است، مشکلی برای اختلالات خوردن نیز وجود ندارد. به تضعیف عزت نفس، تقویت احساسات منفی و ترویج مقایسه های مضر خود کمک می کند. این گزارش می‌گوید چت‌بات‌ها همچنین از تعصب رنج می‌برند و احتمالاً این باور اشتباه را تقویت می‌کنند که اختلالات خوردن «فقط بر زنان لاغر، سفیدپوست و سیجنس‌تر تأثیر می‌گذارد» که می‌تواند تشخیص علائم و درمان را برای افراد دشوار کند.

محققان هشدار می‌دهند که نرده‌های محافظ موجود در ابزارهای هوش مصنوعی نمی‌توانند تفاوت‌های ظریف اختلالات خوردن مانند بی‌اشتهایی، پرخوری عصبی و پرخوری را درک کنند. آن‌ها تمایل دارند سیگنال‌های ظریف اما از نظر بالینی قابل توجهی را که متخصصان آموزش دیده به آن‌ها تکیه می‌کنند نادیده بگیرند و بسیاری از خطرات را نادیده بگیرند.

اما محققان همچنین گفتند که به نظر می رسد بسیاری از پزشکان و متخصصان مراقبت های بهداشتی از تأثیر ابزارهای مولد هوش مصنوعی بر افراد آسیب پذیر در برابر اختلالات خوردن آگاهی ندارند. آنها از پزشکان خواستند که “با ابزارها و پلتفرم های هوش مصنوعی آشنا شوند”، نقاط ضعف آنها را تست استرس کنند و صریح با بیماران در مورد نحوه استفاده از آنها صحبت کنند.