Grammarly از هویت ما بدون اجازه استفاده می کند

ویژگی “بررسی تخصصی” Grammarly به کاربران ارائه مشاوره “با الهام از” کارشناسان موضوعی، از جمله اساتیدی که اخیراً درگذشته اند، می دهد. سیمی چهارشنبه گزارش داد. وقتی خودم این ویژگی را آزمایش کردم، متخصصانی را پیدا کردم که به دلایل متفاوتی تعجب کردند: یکی از آنها رئیس من بود.

بازخوردهای ایجاد شده توسط هوش مصنوعی شامل نظراتی بود که به نظر می رسید از آنها می آمدند حدسردبیر Nilay Patel، و همچنین سردبیر دیوید پیرس و سردبیران ارشد شان هالیستر و تام وارن، هیچ یک از آنها اجازه ندادند Grammarly آنها را در “بررسی های تخصصی” قرار دهد.

این ویژگی که در ماه آگوست راه اندازی شد، ادعا می کند که به شما کمک می کند “پیام خود را از دریچه دیدگاه های مرتبط با صنعت تیز کنید.” هنگامی که کاربران دکمه “بازبینی تخصصی” را در نوار کناری Grammarly انتخاب می کنند، نوشته های آنها را تجزیه و تحلیل می کند و پیشنهادات ایجاد شده توسط هوش مصنوعی را “الهام گرفته از” کارشناسان مرتبط نمایش می دهد. این “چشم انداز مرتبط با صنعت” شامل افرادی مانند استفن کینگ، نیل دگراس تایسون و کارل سیگان و بسیاری دیگر می شود.

حد من همچنین بسیاری از روزنامه نگاران فناوری دیگر را که در داستان نام برده شده اند، پیدا کردم، از جمله اولین در حد سردبیران کیسی نیوتن و جوانا استرن، سابق در حد نویسنده مونیکا چین، سیمیمن لورن گود هستم، بلومبرگمن مارک گورمن و جیسون شرایر هستم نیویورک تایمز تپه کشمیر، اقیانوس اطلساین کیتلین تیفانی است، PC Gamerاین وس فنلون است، Gizmodoریموند ونگ، ریخته گری دیجیتال بنیانگذار ریچارد لدبیتر، راهنمای تام مدیر مسئول مارک اسپوناور، سابق تفنگ کاغذی راک سردبیر کاترین کسل و سابق IGN مدیر خبر کت بیلی توضیحات برخی از کارشناسان حاوی نادرستی هایی مانند عناوین شغلی منسوخ شده است که اگر Superhuman از آن افراد برای ارجاع به کارشان اجازه می خواست می توانست به طور دقیق به روز شود.

در بیانیه ای به حدالکس گی، معاون بازاریابی شرکتی و محصول در شرکت مادر Grammarly، Superhuman، اظهار داشت: “Agent Expert Review ادعای تایید یا مشارکت مستقیم از سوی چنین کارشناسانی را ندارد؛ پیشنهادهایی با الهام از کار متخصصان ارائه می دهد و کاربران را به سمت صداهای با نفوذی راهنمایی می کند که می توانند پس از آن بتوانند عمیق تر بررسی کنند.”

در پاسخ به این سوال که آیا Superhuman به افرادی که در ویژگی هوش مصنوعی آن نام برده شده اند اطلاع رسانی کرده یا درخواست مجوز از آنها کرده است، گی پاسخ داد: کارشناسان Expert Review ظاهر می شوند زیرا آثار منتشر شده آنها در دسترس عموم است و به طور گسترده مورد استناد قرار می گیرد.

با این حال، کار کارشناسان برای “کاوش بیشتر” دشوار بود. این ویژگی اغلب خراب می‌شد و «منابع» آن به کپی‌های هرزنامه‌ای از وب‌سایت‌های قانونی یا دیگر نسخه‌های بایگانی‌شده‌ای که صفحه منبع واقعی نیستند، مرتبط می‌شدند.

برخی منابع حتی تا حد پیوندهای کاملاً مستقلی پیش رفتند که توسط شخصی که ظاهراً نمونه آن بودند نوشته نشده بود، به طور بالقوه نشان می دهد که پیشنهاداتی که توسط هوش مصنوعی Grammarly تحت نام یک شخص ارائه می شود می تواند بر اساس کار شخص دیگری باشد. این تنها در صورتی مشهود است که کاربران برای گسترش پیشنهادات روی “بیشتر مشاهده کنید” کلیک کنند، سپس روی دکمه “منبع” در انتهای پیشنهاد کلیک کنند.

علاوه بر این، نحوه ارائه نکات ممکن است گمراه کننده باشد. در Google Docs، پیشنهادات مشابه نظرات کاربران واقعی است و ظاهراً تجربه دریافت ویرایش‌ها از هر متخصصی را که هوش مصنوعی تقلید می‌کند، شبیه‌سازی می‌کند. نکته ای از هوش مصنوعی Grammarly “الهام گرفته از” در حد سردبیر ارشد شان هالیستر در شرف اضافه کردن یک نکته به متن بود که قبلاً در جای دیگری گنجانده شده بود. تنها مشکل این است که من در واقع توسط شان هالیستر واقعی ویرایش شده‌ام، که ترجیح می‌دهد از توضیحات تکراری یا غیرضروری خودداری کند در حالی که هنوز از زبان و سازماندهی ساده استفاده می‌کند.

اگر آن توصیه را می‌پذیرفتم و به او می‌سپردم، احتمالاً شان واقعی براکت پیشنهادی Grammarly را حذف می‌کرد. یک هوش مصنوعی ممکن است بتواند مقادیر زیادی از نوشته های یک نفر را جذب کند و یاد بگیرد که از آن تقلید کند، مطمئناً، اما همان استراتژی نمی تواند به هوش مصنوعی یاد دهد که چگونه مانند آن شخص ویرایش کند، فقط بر اساس نوشته ای که پست کرده است، حتی اگر به ربات یک لوگو با علامت چک بدهید و آن را “متخصص” خطاب کنید.