آینده هوش مصنوعی مولد | پدیدهٔ اشباع
۲۴ آذر, ۱۴۰۳وقتی به آیندهٔ هوش مصنوعی مولد (Generative AI) و مشخصاً مدل‌های بزرگ زبانی (مثل چت جی‌پی‌تی) فکر می‌کنم، یکی از اصلی‌ترین چالش‌های LLMها را فراگیر شدن‌شان می‌بینم.
وقتی هوش مصنوعی مولد کاربران فعال بسیاری جذب کرده و به ابزار غالب تبدیل شود، در میان‌مدت، بخش قابل‌توجهی از ارزشش را از دست خواهد داد.
برای درک بهتر این اتفاق لازم است با دو پدیدهٔ اثر شبکه‌ای و اثر اشباع آشنا باشید.
مقایسهٔ اثر شبکه‌ای و اثر اشباع
ارزش بعضی از محصولات وابسته به تعداد کاربران‌شان است. یعنی وقتی تعداد کاربران و استفاده‌کنندگان از آن محصول افزایش می‌یابد، ارزش کلی محصول هم بیشتر می‌شود. این اثر را به اسم اثر شبکه‌ای یا Network Effect می‌شناسند و مثال کلاسیکش هم تلفن و ایمیل است (تلفن وقتی ارزش دارد که دیگران هم تلفن داشته باشند و بتوانید به آن‌ها زنگ بزنید؛ ایمیل هم همین‌طور).
اما محصولات دیگری هم هستند که افزایش تعداد کاربران‌شان لزوماً به افزایش ارزش‌شان منجر نمی‌شود. به خودرو فکر کنید. خودرو با تعداد کم یک محصول بسیار خاص و ارزشمند است. حتی اگر فقط یک خودرو در جهان باشد (بر خلاف یک دستگاه تلفن) هم‌چنان ارزش زیاد و برتری غیرمنتظره‌ای برای صاحبش ایجاد می‌کند. ضمن این‌که مشکل جای پارک و ترافیک هم ندارد.
شاید افزایش خودرو تا حدی مفید باشد (کاهش قیمت تمام شده و خدمات بهتر). پررنگ‌ترین اثری که در مورد خودرو مشاهده می‌شود، اثر اشباع (saturation effect) است. اگر همهٔ مردم جهان خودرو داشته باشند، دیگر تقریباً هیچ‌کس به مقصد نمی‌رسد و بسیاری از شهرهای بزرگ به پارکینگ‌های بزرگ تبدیل میشوند.
هوش مصنوعی مولد و اثر اشباع
هوش مصنوعی مولد الان دارد بخش بزرگی از خوراک خود را از محتوای روی وب و شبکه‌های اجتماعی تأمین می‌کند و تغذیه می‌شود. بخشی از این خوراک، رایگان و در دسترس است. بخشی هم به شکل غیرقانونی استفاده می‌شود (مثلاً کتابهایی که نسخهٔ دزدی‌شان در بخش‌هایی از وب در دسترس است).
این خوراک محتوایی فعلی، هر چه هست و با هر روشی که تأمین می‌شود، اخلاقی یا غیراخلاقی، ویژگی مهمی دارد: بخش بسیار زیادی از آن کاملاً انسانی است؛ یعنی محتوای اصیل (authentic) و نه محتوای ساخته‌شده (synthetic).
وقتی تعداد کاربران هوش مصنوعی مولد زیاد شود، طی چند سال، بخش بزرگی از محتوای آنلاین، سینتتیک و ساختگی خواهد شد و سهم محتوای تولیدی انسان در برابر محتوای تولیدی هوش مصنوعی تقریباً به صفر خواهد رسید. و این گاوهایی که ما به “چراگاه محتوا” می‌فرستیم، عملاً به جای خوراک خوب، چیزی را خواهند خورد که قبلاً خودشان دفع کرده‌اند.
همهٔ ضعف‌ها، ایرادها، توهم‌های زبانی (که اجتناب‌ناپذیر، حاصل معماری و لازمهٔ خلاقیت مدل‌های زبانی است) نهایتاً آن‌قدر زیاد تکثیر خواهد شد که خود مدل زبانی هم تحت تاثیر همان‌ها قرار می‌گیرد.
اگر بخواهیم اسم عامی برای این پدیده انتخاب کنیم، اثر اشباع (saturation effect) عنوان مناسبی است. اما اگر عنوان خاص‌تر و دقیق‌تری می‌پسندید، model collapse اصطلاح بهتری است. این اصطلاح را – اگر اشتباه نکنم – اولین بار ایلیا شومایلوف به کار برد.
اگر با دنیای الگوریتم آشنا باشید، احتمالاً اصطلاح The curse of recursion را بیشتر دوست خواهید داشت (نفرین ناشی از حلقه‌های تو در توی ریکرسیو).
آیا این مشکل را می‌شود حل کرد؟ در کوتاه‌مدت عملاً این مشکل حس نخواهد شد. در بلندمدت هم احتمالاً راه‌حل‌هایی پیدا می‌شود. اما در میان‌مدت، قطعاً چالشی جدی است.
به هر حال، مهم این است که حل این مشکل، سخت‌تر از چیزی است که در نگاه نخست به‌نظر می‌رسد. چون انسان‌ها خروجی مدل‌های زبانی را ویرایش، تمیز و گاه بازآفرینی می‌کنند و ممکن است مدل‌ها به‌سادگی متوجه نشوند که با خروجی خود مواجه هستند.
اگر به این بحث علاقه‌مندید، می‌توانید مقالهٔ شومایلوف و رفقایش را هم دانلود کنید و بخوانید:
AI models collapse when trained on recursively generated data
توضیح
این نوشته نخستین بار در آذر ماه ۱۴۰۳ در کانال تلگرام بامتمم منتشر شده است.
لینک این نوشته در کانال تلگرام با متمم