یک خطای تعدیل خودکار باعث وحشت کاربران Tumblr شده است

کاربران Tumblr روز چهارشنبه پس از مسدود شدن ده‌ها حساب کاربری توسط یک سیستم خودکار در بعدازظهر همان روز با مشکل مواجه شدند. کاربران متعددی تماس گرفتند حد در مورد این حادثه، با این استدلال که موج ممنوعیت ها به طور نامتناسبی بر حساب های کاربرانی که به عنوان زنان ترنس معرفی می شوند، تأثیر می گذارد، و بسیاری از آنها دلیل خاصی برای بسته شدن حساب هایشان ارائه نشده است. در اسکرین شات ایمیلی که برخی از کاربران دریافت کردند و به آنها از ممنوعیت اطلاع رسانی می کرد، آمده است که “این اقدام به دنبال یک گزارش تولید شده داخلی انجام شده است. ممکن است از ابزارهای خودکار برای شناسایی محتوای مورد نظر استفاده شده باشد.”

Chenda Ngak، مدیر ارتباطات در شرکت مادر Tumblr Automattic، در بیانیه ای این ممنوعیت ها را تایید کرد. حداما آنها گفتند که بسیاری اشتباه می کنند و وضعیت برعکس شده است. “ما به طور مداوم برای حفظ یکپارچگی پلتفرم و سازگار کردن سیستم‌های خود برای جلوگیری از انتشار آسیب توسط عوامل بد تلاش می‌کنیم. در این فرآیند، سیستم خودکار ما به اشتباه چندین کاربر از جمله اعضای جامعه ترنس را علامت‌گذاری کرد. ما آن سیستم را غیرفعال کرده‌ایم و آن کاربران را با بهبود آن بازگردانیم. ما صمیمانه از همه افرادی که تحت تأثیر این خطا قرار گرفته‌اند عذرخواهی می‌کنیم.”

موج ممنوعیت های چهارشنبه فقط یک روز پس از آن رخ داد که Tumblr تغییر بحث برانگیز در سیستم وبلاگ نویسی خود را در اوایل این هفته لغو کرد که خشم بسیاری از کاربران این پلتفرم را برانگیخت. برخی از کاربرانی که تماس گرفتند حد پیشنهاد کرد که این ممنوعیت ها ممکن است پاسخی به پست های مخالفت با این تغییر باشد، اما نگاک گفت که “اکانت های بسته گزارش شده مربوط به بحث اخیر درباره وبلاگ های مجدد نیست.” نگاک همچنین اضافه کرد که «هیچ مدرکی دال بر حضور نامتناسب کاربران ترنس در میان کمتر از 200 حساب تحت تأثیر وجود ندارد».

با این حال، کاربران بیشتری که تماس گرفتند حد درباره تعدادی از مسائل مربوط به تعدیل در Tumblr ابراز نگرانی کرده است، که برخی از آنها به طور خاص شامل کاربران ترنس می شود. در سال 2024، مت مولنوگ، مدیرعامل Automattic، با یکی از کاربران Tumblr که از predstrogen استفاده می کرد و به عنوان ترنس معرفی شد، درگیر شد. پردستروژن در پاسخ به آزار و اذیت ادعایی که تجربه می‌کرد، پست‌های ناامیدکننده‌ای درباره عدم اقدام Tumblr به اشتراک گذاشت و در نهایت او را به پستی سوق داد که امیدوار است مدیر عامل Tumblr “با مرگی دردناک برای همیشه بمیرد که یک ماشین پوشیده از چکش بیش از یک بار منفجر شود و چکش‌ها در همه جا پرواز کنند.” حساب Tumblr Predstrogen متعاقباً ممنوع شد، اما اختلاف در سایر سیستم عامل های اجتماعی ادامه یافت، جایی که Mullenweg جزئیات حساب خصوصی، از جمله نام وبلاگ های جانبی Predstrogen را در Tumblr به اشتراک گذاشت.

علاوه بر این، این اولین باری نیست که Tumblr با مشکلات نظارت خودکار محتوا مواجه می شود. در سال 2022، با کمیسیون حقوق بشر شهر نیویورک (CCHR) بر سر اتهامات تبعیض ناشی از ممنوعیت محتوای بزرگسالان در سال 2018 به توافق رسید، که علاوه بر مسائل مربوط به صحت کلی گزارش شده است که به طور نامتناسبی بر محتوای LGBTQ+ تأثیر گذاشته است. این ممنوعیت قبل از خرید Tumblr توسط Automattic در سال 2019 که توسط مالک قبلی آن Verizon اجرا شد، اعمال شد. توافقنامه CCHR خواستار بازنگری در الگوریتم‌های تعدیل Tumblr شد و Tumblr را ملزم کرد تا تغییراتی در روند شکایات کاربران خود برای رسیدگی به سوگیری الگوریتمی ایجاد کند.

Automattic در سال های اخیر برنامه های Tumblr را کاهش داده است. در سال 2023، پس از اینکه سایت اهداف رشد را از دست داد، مولنوگ تایید کرد که این کار را خواهد کرد حد که “بیشتر” کارکنان غیرپشتیبانی، امنیتی و اعتدالی این پلتفرم به بخش‌های دیگر منتقل شدند.