دنیای ادبی برای هوش مصنوعی آماده نیست

از سال 2012، مجله ادبی بریتانیا گرانت برندگان منطقه ای جایزه سالانه داستان کوتاه مشترک المنافع را منتشر کرده است. امسال اما یکی از انتخاب های این جایزه معتبر چیز عجیبی داشت: به نظر می رسد توسط هوش مصنوعی نوشته شده باشد.

«مار در بیشه» جمیر نظیر بسیاری از ویژگی‌های نثر تولید شده توسط LLM را دارد: استعاره‌های ترکیبی، آنافورا، فهرست‌های سه‌گانه. (من می دانم که این هم یک لیست سه تایی است و قول می دهم که این پست را به تنهایی و بدون کمک نوشتم، همانطور که همه چیز را می نویسم.) اعتراف می کنم که در ابتدا با این اتهام که داستان نذیر توسط هوش مصنوعی تولید شده است قانع نشدم. می‌دانم که مردم از LLM برای کمک به نوشتن استفاده می‌کنند – یا برایشان نوشتن – اما من نسبت به نوع پارانویایی که در مورد هوش مصنوعی در بین همکارانم ایجاد شده است، محتاط بوده‌ام. خط تیره ها ظاهراً سیگنال هوش مصنوعی هستند، همانطور که کلمه “delve” و لیست های بالا نیز وجود دارد. حتی جملات کوتاه و تند، به خصوص اگر برای علامت گذاری جملات طولانی تر استفاده شود.

اما من یک انسان قطعاً قبلاً از تمام موارد بالا در نوشته هایم استفاده کرده ام. به هر حال، LLM ها در نوشتن انسانی آموزش دیده اند. آنها منعکس کننده چیزی هستند که به آنها تغذیه شده است. با این حال، نثر تولید شده توسط هوش مصنوعی کیفیت ناراحت کننده ای دارد. مشکلی وجود دارد، حتی اگر بلافاصله نفهمید که چیست. اگر اطلاعات مخصوص هوش مصنوعی وجود دارد و من در حال حاضر از آنها استفاده می کنم، چگونه می دانید که من واقعاً این را نوشته ام؟

نبیل اس. قریشی، محقق سابق هوش مصنوعی در مرکز مرکاتوس دانشگاه جورج میسون، از اولین کسانی بود که به استفاده مشکوک از هوش مصنوعی در داستان نذیر اشاره کرد. برای قریشی دو جمله اول گواه کافی بود.

می گویند ظهر نخلستان هنوز وزوز می کند. نه سخت کوشی زنبورها یا خراش تمیز شمشیر بر جو، بلکه صدای شکم – انگار زمین فریادی را بلعیده و آن را نگه داشته است..

قریشی از طریق ایمیل به من گفت: “به طور کلی، نوشتن با هوش مصنوعی ریتم خاصی دارد که من یاد گرفته ام آن را درک کنم و توصیف آن دشوار است.” طیفی از «هوش مصنوعی به من کمک کرد ویرایش کنم» تا «هوش مصنوعی این را نوشته است» وجود دارد – این مورد به نظر من قسمت آخر آن است، اگرچه بدیهی است که من آن را با اطمینان نمی‌دانم.

مشکل این است که حتی زمانی که استفاده از هوش مصنوعی مشکوک است، هیچ یک از ما مطمئن نیستیم. رزمی فاروک، مدیر کل بنیاد مشترک المنافع، در بیانیه‌ای گفت که این سازمان از اتهامات مرتبط با هوش مصنوعی در داستان‌های برنده جوایز، از جمله داستان نذیر، آگاه است. فاروک گفت که از همه نویسندگانی که آثاری را برای جایزه ارسال کرده‌اند، سوال می‌شود که آیا آثار اصلی و منتشر نشده را ارسال می‌کنند یا خیر، و اینکه همه نویسندگان فهرست نهایی شخصاً اعلام کرده‌اند که از هوش مصنوعی برای کمک به آنها در پیش‌نویس داستان‌هایشان استفاده نشده است.

فاروک گفت: «تا زمانی که ابزار یا فرآیندی پدیدار شود که برای شناسایی قابل اعتماد استفاده از هوش مصنوعی کافی باشد و همچنین بتواند چالش‌های کار با داستان‌های منتشر نشده را برطرف کند، بنیاد و جایزه داستان کوتاه مشترک المنافع باید بر اساس اصل اعتماد عمل کنند.»

گرانتسیگرید راوسینگ، ناشر، در بیانیه‌ای گفت، او داستان نذیر را به کلود گفت: «و پرسید که آیا هوش مصنوعی تولید شده است یا خیر». “پاسخ طولانی بود، و به این نتیجه رسیدیم که “تقریباً مطمئناً بدون کمک انسان تولید نشده است.” در حالی که ابزارهای هوش مصنوعی اغلب در تشخیص نثر تولید شده توسط LLMها – یا حداقل کسانی که جوایز ادبی را قضاوت می کنند – بهتر از خوانندگان انسانی هستند. گرانتبیانیه تلویحاً نشان می دهد که آنها به منبع مراجعه کرده اند تا بپرسند آیا داستان مورد بحث واقعاً توسط هوش مصنوعی تولید شده است یا خیر، که نشان می دهد شاید حتی خود مجله نیز متوجه نحوه عملکرد هوش مصنوعی نباشد.

راوسینگ گفت: «ممکن است اکنون داوران به یک مورد سرقت ادبی هوش مصنوعی جایزه داده باشند: ما هنوز نمی دانیم و شاید هرگز نشناسیم.

نشریات به طور فزاینده‌ای فریب می‌خورند تا داستان‌های تولید شده توسط هوش مصنوعی را منتشر کنند، که برخی از آنها توسط «نویسندگانی» که در واقع وجود ندارند «نوشته شده‌اند». حتی این ظن وجود داشت که نذیر خودش جعلی باشد، اگرچه نویسنده کوین جرد حسین، برنده قبلی جایزه داستان کوتاه مشترک المنافع، تایید کرد که نذیر یک شخص واقعی است و پیام هایی را که اخیراً با نذیر مبادله کرده بود درباره سوء ظن در مورد استفاده از هوش مصنوعی در داستانش به اشتراک گذاشت. نذیر نیز در سال 2018 مجموعه شعری منتشر کرد که نذیر پاسخی نداد حددرخواست نظر در ماه مارس، هاچت انتشار رمان ترسناک میا بالارد را پس گرفت دختر خجالتی پس از اینکه نویسنده آن متهم به استفاده از هوش مصنوعی شد، اگرچه بالارد استفاده از آن را انکار کرد و ناشر را برای استخدام مقصر دانست.

همچنین این سوال وجود دارد که آیا روش قابل قبولی برای استفاده از هوش مصنوعی برای نویسندگان و روزنامه نگاران وجود دارد؟ نثر تولید شده توسط LLM بدیهی است که ممنوع است، اما در مورد استفاده از هوش مصنوعی برای تولید ایده یا تحقیق چطور؟ خدمات رونویسی هوش مصنوعی چطور؟ در چه مرحله ای اتکا به این ابزارها به این معنی است که کار دیگر متعلق به شما نیست؟ این هفته، اولگا توکارچوک، نویسنده لهستانی، اعتراف کرد که از هوش مصنوعی برای کمک به فرآیند خلاقیت خود استفاده کرده است – انتهای دیگر طیف استفاده از هوش مصنوعی که قریشی به آن اشاره کرد، اما برای خوانندگانی که نویسنده‌ای را تحسین می‌کنند که برنده جایزه نوبل ادبیات شده بود، نگران‌کننده است.

توکارچوک که بالاترین افتخار ادبی را در سال 2018 دریافت کرد، می‌گوید: «اغلب به سادگی ایده‌ای را با این درخواست در دستگاه قرار می‌دهم: «عزیز، چگونه می‌توانیم این را به زیبایی شرح دهیم؟»

«اگرچه من از توهمات و خطاهای واقعی او در زمینه اقتصاد کمی یا داده های واقعی اطلاع دارم، باید اعتراف کنم که در حوزه سیال داستان های ادبی، این فناوری منبعی با نفوذ باورنکردنی است. در عین حال، درد حاد انسانی را برای دورانی احساس می کنم که در حال ناپدید شدن است و هرگز باز نمی گردد. در تمام این موارد، من برای بالزاک، سیوران و ناباکوف تکرار نشدنی غمگینم، زیرا با وجود شور و شوق من، فکر نمی کنم هیچ پچ پچ مدرنی توانسته باشد به این زیبایی صحبت کند.

اظهارات توکارچوک که به زبان لهستانی در یک رویداد اخیر در پوزنان بیان شد، با بدشانسی تقریباً همزمان با جنجال جایزه مشترک المنافع در فضای مجازی منتشر شد. (ما صحبت های او را توسط یک انسان به انگلیسی ترجمه کردیم.) اما او در مورد هوش مصنوعی بسیار دوسوگراتر از آن چیزی است که تیترهای پیرامون این رویداد نشان می دهد. توکارچوک استفاده خود از هوش مصنوعی را در یک بیانیه سه نکته ای که با Lit Hub به اشتراک گذاشته شد، توضیح داد که در آن توضیح داد که از هوش مصنوعی برای نوشتن کتاب بعدی خود استفاده نکرده است، اما از آن برای “مستند کردن و بررسی سریعتر واقعیت” استفاده می کند، اگرچه خودش مستقلاً اطلاعات را تأیید می کند.

او ادامه داد: «گاهی اوقات رویاها به من الهام می‌بخشند، اما قبل از اینکه این عبارت توسط متخصصان گوشه‌ای شود و تکه تکه شود، عجله می‌کنم تا گزارش دهم که آنها رویاهای من هستند.»

خشم در مورد اظهارات اولیه توکارچوک – و نیازی که او برای توضیح خود احساس کرد – حاکی از یک پارانویای بزرگتر و نه کاملاً بی دلیل در انتشار در مورد استفاده از هوش مصنوعی است. نثر تولید شده توسط LLM ممکن است نرمال جدید باشد، اما آیا این چیزی است که هر کسی می خواهد؟ هزاران نفر پس از اینکه جیمز دانت، مدیر عامل شرکت، گفت مشکلی برای فروش کتاب‌های نوشته شده توسط هوش مصنوعی ندارد، هزاران نفر تهدید کردند که بارنز اند نوبل را بایکوت می‌کنند، تا زمانی که کتاب‌ها حاوی سلب مسئولیت‌هایی هستند که مشخص می‌کنند توسط شخصی نوشته نشده‌اند. دانت بعداً نظرات خود را پس گرفت، اما نه به طور کامل. وی گفت: «توقیف کتاب یک خطر آشکار و موجود است، بنابراین ما در مورد درخواست ممنوعیت هر کتابی بسیار مراقب هستیم. لس آنجلس تایمزدر عین حال اطمینان حاصل کنید که «کتاب‌های تولید شده با هوش مصنوعی که جعل هویت نویسندگان واقعی هستند را نمی‌فروشید».

با این حال، هیچ یک از اینها کیفیت فوق‌العاده کار تولید شده توسط هوش مصنوعی یا آنچه که نثر بد تولید شده توسط LLM را از نوشته بد انسانی متمایز می‌کند را توضیح نمی‌دهد. وقتی داستان نذیر را از طریق Pangram، یک نرم افزار تشخیص سرقت ادبی و هوش مصنوعی، اجرا کردم، 100% هوش مصنوعی تولید شده بود. به گفته پانگرام، آشکارترین افشاگری ها استفاده نذیر از سه گانه بود. کلمه “سرسخت”، که شش برابر بیشتر در متن تولید شده توسط هوش مصنوعی ظاهر می شود تا متن ساخته شده توسط انسان. و عبارت «مثلاً» که احتمال ظهور آن پنج برابر بیشتر است. اما در اینجا ما لیست دیگری از سه نفر را داریم که توسط من، یک انسان نوشته شده است.

من که ناراضی بودم، گزیده ای منتشر نشده از کتاب بعدی ام را که در حال حاضر در حال ویرایش آن هستم، از طریق پانگرام منتشر کردم. فقط یک پاراگراف گنجانده شده است دو سه گانه (قسمت خیلی خوبی از کتاب نیست، به همین دلیل دارم آن را ویرایش می کنم.) پانگرام گفت این قسمت توسط 100% انسان نوشته شده است، که درست است، اما من همچنان ناراضی بودم. من گزیده دیگری را خواندم – فکر کنم بهتر است – و همان چیز را می گفت. وقتی فصل اول را اجرا کردم در حد رمان توسط ویراستار کوین نگوین، اسناددر سراسر پانگرام، نتیجه یکسان بود. خود پانگرام تمامی برندگان جایزه مشترک المنافع را از طریق نرم افزار خود تجزیه و تحلیل کرد و دریافت که به نظر می رسد دو نفر از برندگان سال 2026 و همچنین برنده سال 2025 توسط هوش مصنوعی تولید شده اند. اثری که انسان تولید می‌کند، مانند عکس آن، دارای نوعی کیفیت غیرقابل توصیف است. شاید نثر تولید شده توسط هوش مصنوعی مانند فحاشی باشد: وقتی آن را می بینید آن را می دانید، حتی اگر دلیل آن را ندانید.