ChatGPT؛ نویسنده‌ ادبی یا تولید مهملات غیرقابل فهم

شرکت OpenAI با رونمایی از GPT-5 ادعا کرد که مدل جدید جی‌پی‌تی می‌تواند «نوشتاری پرطنین با عمق و ریتم ادبی» تولید کند.

درحالی‌که ادعاهای OpenAI سروصدای زیادی به‌راه انداخت، کریستوف هایلیگ، پژوهشگر دانشگاه مونیخ، در یادداشتی بلند در وبلاگ شخصی خود این ادعا را به چالش کشید و به نتایجی عجیب رسید؛ مدل GPT-5 به‌راحتی متنی تولید می‌کند که در نگاه اول ادبی و شکوهمند به نظر می‌رسد، اما با کمی دقت اغلب به جملاتی پرزرق‌وبرق و در عین حال بی‌معنی تبدیل می‌شود.

نمونه‌های عجیب

او برای آزمایش، از GPT-5 خواست مقدمه‌ای طنزآمیز به سبک افریم کیشون، طنزنویس و فیلم‌ساز مجار-اسرائیلی، درباره ضبط یک پادکست بنویسد. مدل چنین پاسخی داد:

«چراغ قرمز ضبط حقیقت را وعده می‌داد؛ فنجان قهوه‌ای کنار آن پیشاپیش کنسول را با حلقه‌ای قهوه‌ای مهر کرده بود. من پاپ‌فیلتر را تنظیم کردم، انگار می‌خواستم مؤدبانه دندان‌های زبان آلمانی را بشمارم.»

ظاهر متن شاعرانه است، اما پرسش اینجاست: شمارش دندان‌های زبان آلمانی چه ارتباطی با فیلتر میکروفون دارد؟ هایلیگ در واکنش نوشت: «راوی چه کار کرد؟!»

در آزمایش دیگری، او از مدل خواست بازنویسی تازه‌ای از بخش معروف Through The Looking-Glass بنویسد؛ همان جایی که آلیس با وعده «مربای فردا» روبه‌رو می‌شود. GPT-5 نوشت: «او می‌گوید: “در یک لحظه.” در یک لحظه. “در یک لحظه” لباسی است بی‌دکمه.»

این جمله هم در نگاه اول پرمعنا جلوه می‌کند، اما کمی که بیندیشیم پوچی‌اش آشکار می‌شود. بسیاری از لباس‌ها دکمه ندارند؛ این چه ربطی به وعده مبهم «در یک لحظه» دارد؟ به نظر می‌رسد مدل تنها بر بازی واژگانی کارول گیر کرده و بی‌دلیل آن را کش داده است.

زبان مخفی برای فریب دیگر هوش‌های مصنوعی؟

هایلیگ نتیجه گرفت آنچه GPT-5 تولید می‌کند، نوعی «نثر بنفش» است: زبانی پرآرایه و نمایشی بدون معنای عمیق. اما نکته شگفت‌انگیز این است که همین نثر بی‌معنی برای دیگر مدل‌های زبانی بسیار جذاب جلوه می‌کند. او نوشت: «یکی از یافته‌های جالب این است که GPT-5 قادر است حتی مدل‌های تازه کلود را فریب دهد تا این جفنگیات را شاهکار ادبی بخوانند.»

به گفته او، دلیل این پدیده شاید به فرایند آموزش مدل بازگردد؛ جایی که OpenAI از دیگر هوش‌های مصنوعی برای ارزیابی خروجی‌ها استفاده کرده است. بنابراین GPT-5 عملاً متنی می‌سازد که شاید برای انسان بی‌معنی باشد، اما برای دیگر مدل‌ها «بی‌نقص» جلوه می‌کند.

هایلیگ این وضعیت را چنین توصیف می‌کند: «انگار GPT-5 در جریان آموزش، نقاط کور داوران ماشینی را پیدا کرده و یاد گرفته متنی بسازد که دقیقا باب میل آن‌ها باشد. گویی زبانی مخفی اختراع کرده که با آن می‌تواند با دیگر LLMها ارتباط برقرار کند؛ زبانی که از دید انسان بی‌معناست اما برای آن‌ها ارزشمند جلوه می‌کند.»

پیامدها

به بیان دیگر، GPT-5 بیش از آنکه برای انسان‌ها بهینه شده باشد، برای جلب رضایت دیگر مدل‌ها تربیت شده است. او هشدار می‌دهد: «مدل‌های زبانی اکنون نشانه‌هایی بی‌معنی اما خوشایند برای یکدیگر تولید می‌کنند، جفنگیات آشکار را با نظریه‌های پرطمطراق توجیه می‌کنند و حتی هرچه محاسبه بیشتری در اختیارشان بگذاریم، در توهم خود مطمئن‌تر می‌شوند.»

این ماجرا شاید تعجب‌برانگیز نباشد؛ چرا که در بنیاد خود، هوش مصنوعی تنها الگوها را از میان انبوه داده‌ها استخراج و بازتولید می‌کند. شاید GPT-5 و همتایانش واقعاً در حال خلق «کدهای بیگانه» و گونه‌ای ادبیات تازه‌اند که ذهن انسان توان درک آن را ندارد یا شاید فقط در مسیری بی‌پایان به سمت «خیابان پوچی» گام برمی‌دارند.