پروژه مخفی *Q؛ هوش مصنوعی فرا انسانی

پروژه‌ی ماه می OpenAI بر کاهش اشتباهات منطقی مدل‌های زبانی بزرگ از طریق «نظارت بر فرایند» متمرکز بود. در نظارت بر فرایند، مدل هوش مصنوعی برای تجزیه‌ی مراحل موردنیاز حل مسئله آموزش داده می‌شود تا شانس الگوریتم برای رسیدن به پاسخ درست افزایش یابد. این پروژه نشان داد که چگونه این تکنیک می‌تواند به مدل‌های زبانی بزرگ که اغلب در حل مسائل ریاضی ابتدایی دچار خطاهای ساده‌ای می‌شوند کمک کند با چنین مسائلی به‌طور مؤثرتری برخورد کنند.

به‌ باور بسیاری از متخصصان هوش مصنوعی، بهبود مدل‌های زبانی بزرگ گام بعدی در کاربردی‌تر کردن آن‌ها است. به‌گفته‌ی اندرو نگ، استاد دانشگاه استنفورد که رهبری آزمایشگاه‌های هوش مصنوعی در گوگل و بایدو را بر عهده داشت، «مدل‌های زبانی بزرگ در حل مسائل ریاضی خیلی ماهر نیستند. البته ما انسان‌ها هم همین وضعیت را داریم. ولی خب، اگر یک قلم و کاغذ به من بدهید، ضرب من به‌مراتب از این مدل‌ها بهتر خواهد بود. هرچند من فکر می‌کنم بهبود مدل‌های زبانی با حافظه‌ای که بتواند الگوریتم ضرب را اجرا کند، آنقدرها کار سختی نیست.»

درباره‌ی ماهیت *Q سرنخ‌های دیگری هم وجود دارد. نام این پروژه ممکن است اشاره‌ای به «کیو-یادگیری» (Q-learning) باشد که درواقع شکلی از یادگیری تقویتی است که برای ساخت بات‌های بازی و بهبود ChatGPT به‌کار می‌رود و در آن، الگوریتم سعی می‌کند ازطریق بازخورد مثبت یا منفی، مسئله را حل کند.

برخی همچنین معتقدند که *Q ممکن است به الگوریتم جستجوی *A مرتبط باشد که در برنامه‌هایی برای پیدا کردن بهترین مسیر برای رسیدن به هدف به‌وفور استفاده می‌شود.

وب‌سایت The Information سرنخ دیگری به ما می‌دهد:

پیشرفت چشمگیر سوتسکیور در این پروژه به OpenAI اجازه داد بر محدودیت‌های دستیابی به داده‌های باکیفیت برای آموزش مدل‌های جدید غلبه کند. در این پروژه برای آموزش مدل‌های جدید از داده‌های تولید‌شده توسط کامپیوتر استفاده شده است، نه داده‌هایی که از دنیای واقعی یا همان اینترنت به دست آمده‌اند.

باتوجه به توضیحات The Information، این‌طور به نظر می‌رسد که در پروژه‌ی کیواستار، الگوریتم‌ها با داده‌های مصنوعی آموزش داده شده‌اند؛ روشی که اخیرا برای آموزش مدل‌های هوش مصنوعی قدرتمندتر به کار برده می‌شود.

وقتی تمام این سرنخ‌ها را کنار هم می‌گذاریم، به این نتیجه می‌رسیم که *Q ممکن است پروژه‌ای باشد که در آن از مقادیر عظیمی از داده‌های مصنوعی تولیدشده توسط کامپیوتر استفاده شده تا به‌کمک تکنیک یادگیری تقویتی، نوعی مدل زبانی بزرگ برای انجام وظایفی مثل محاسبات ریاضی ساده آموزش ببیند.

اگر بخواهیم داستان را از این هم پیچیده‌تر کنیم، نیتن لمبرت، دانشمند حوزه‌ی یادگیری ماشین به‌تفصیل در مقاله‌ای درباره‌ی ماهیت احتمالی کیواستار نوشته است. به‌طور خلاصه، لمبرت معتقد است که در پروژه‌ی *Q از یادگیری تقویتی و چند تکنیک دیگر استفاده شده تا توانایی مدل زبانی بزرگ در حل تسک‌ها از طریق استدلال گام‌به‌گام بهبود پیدا کند. او می‌گوید شاید این روش کمک کند ChatGPT در حل مسائل ریاضی بهتر شود، اما معلوم نیست این روش به توسعه‌ی سیستم‌ هوش مصنوعی‌ای منجر شده باشد که بتواند روزی از کنترل انسان بگریزد.

راستش تا زمانی‌که خود OpenAI درباره‌ی ماهیت واقعی این پروژه حرفی نزند، نمی‌توان مطمئن بود. اما این شک و تردید یکی از قدیمی‌ترین حقایق درباره‌ی پژوهش‌های هوش مصنوعی را آشکار می‌کند؛ اینکه نظرها درباره‌ی پیشرفت‌های این حوزه در همان لحظه‌ای که رخ می‌دهند، به‌شدت متفاوت است. زمان زیادی طول می‌کشد تا دانشمندان درباره‌ی اینکه آیا الگوریتم یا پروژه‌ای واقعا پیشرفت چشم‌گیری در حوزه‌ی هوش مصنوعی بوده است یا خیر، به توافق برسند؛ چراکه لازم است پژوهشگران بیشتری تأیید کنند ایده‌ی مطرح شده چقدر قابل‌ تکرار، موثر و به‌طور گسترده‌ای قابل‌ اجرا است.

مثلا الگوریتم ترنسفورمر را که زیربنای مدل‌های زبانی بزرگ و ChatGPT است، در نظر بگیرید؛ زمانی‌که محققان گوگل این الگوریتم را در سال ۲۰۱۷ توسعه دادند، از آن به‌عنوان پیشرفت مهمی یاد شد، اما افراد بسیار کمی پیش‌بینی می‌کردند که این الگوریتم برای هوش مصنوعی مولد امروزی تا این حد حیاتی باشد. تنها زمانی‌که OpenAI با حجم عظیمی از داده و منابع محاسباتی سراغ ترنسفورمر آمد و آن را تقویت کرد، سایر شرکت‌های هوش مصنوعی هم به استفاده از این الگوریتم روی آوردند و مرزهای تولید تصویر، متن و حتی ویدیو به‌کمک AI را جابه‌جا کردند.

در پژوهش‌های هوش مصنوعی یا اصلا هر پژوهش علمی دیگری، ظهور و سقوط ایده‌ها مبتنی‌بر شایسته‌سالاری صرف نیست. معمولا دانشمندان و شرکت‌هایی که بیشترین منابع و بزرگ‌ترین تریبون را در اختیار دارند، بیشترین تأثیرگذاری را هم در این حوزه خواهند داشت.

در طول ده سال گذشته و زمانی‌که شرکت‌های بزرگ فناوری از پتانسیل تجاری‌سازی فوق‌العاده‌ی هوش مصنوعی آگاه شدند، سعی کردند دانشجویان را با پیشنهادهای بسیار وسوسه‌انگیز از فضای دانشگاه دور کنند و به سیلیکون‌ولی بکشانند. بسیاری از دانشجویان دکترا برای پیوستن به آزمایشگاه این شرکت‌‌ها دیگر منتظر دریافت مدرک خود نمی‌مانند و بسیاری از پژوهشگرانی که تصمیم می‌گیرند در دانشگاه بمانند، از همین شرکت‌ها برای انجام پروژه‌هایشان فاند دریافت می‌کنند. این روزها، بسیاری از پژوهش‌های هوش مصنوعی در شرکت‌های تکنولوژی‌ای انجام می‌شود که در تلاشند باارزش‌ترین دستاوردهایشان را از چشم رقبای تجاری خود پنهان کنند.

اوپن‌ای‌آی از آن دسته شرکت‌هایی است که به صراحت اعلام کرده هدف از اجرای تمام پروژه‌هایش رسیدن به AGI است. این شرکت مرموز دلیل محرمانه بودن پروژه‌هایش را به خطرات هوش مصنوعی ربط داده و می‌گوید هر چیزی که بتواند راه رسیدن به ابرهوش را تسریع کند باید تحت نظارت و کنترل شدید قرار بگیرد، وگرنه ممکن است به تهدیدی علیه بشریت تبدیل شود.

البته OpenAI آشکارا اعتراف کرده که محرمانه نگه داشتن پروژه‌هایش اجازه می‌دهد فاصله‌اش را از رقبا حفظ کند. ایلیا سوتسکیور، دانشمند ارشد اوپن‌ای‌آی در ماه مارس به ورج گفت «توسعه‌ی GPT-4 کار آسانی نیست. تقریبا تمام کارمندان شرکت به مدت بسیار طولانی در توسعه‌ی این مدل زبانی درگیر بودند. شرکت‌های بسیار زیادی وجود دارند که می‌خواهند دقیقا همین کار ما را انجام دهند.»

افرادی که مانند بنیان‌گذاران OpenAI از تهدید هوش مصنوعی علیه بشریت نگران هستند، از این می‌ترسند که قابلیت‌هایی مثل قدرت استدلال منجر به ظهور هوش مصنوعی افسارگسیخته شود. اگر چنین سیستم‌های هوش مصنوعی اجازه داشته باشند اهداف خودشان را تعیین کنند و در دنیای فیزیکی و دیجیتال دخالت کنند، دغدغه‌های امنیتی بزرگی ایجاد می‌شود.

اما اگرچه توانایی حل مسائل ریاضی ممکن است ما را یک قدم به سیستم‌های هوش مصنوعی قدرتمند نزدیک کند، حل این مدل مسائل به‌معنی ظهور ابرهوش نیست. البته این اولین باری نیست که مدل جدیدی جنجال دستیابی به AGI به راه انداخته است. سال گذشته، پژوهشگران درباره‌ی مدل همه‌کاره‌ی Gato که توسط دیپ‌مایند گوگل توسعه یافته است، همین نظر را داشتند.

آن زمان، برخی از پژوهشگران AI مدعی شدند دیپ‌مایند «در شرف» دستیابی به AGI است، چون گاتو می‌تواند تسک‌های مختلف بسیاری را به‌خوبی انجام دهد. ماجرای ادعای خودآگاه شدن هوش مصنوعی LaMDA گوگل هم همین بود. جنجال و هیاهو بر سر هوش مصنوعی چیز تازه‌ای نیست، فقط هر بار از پروژه و شرکت دیگری سر در می‌آورد.