افشای نامه‌های ایلان ماسک و OpenAI؛ ترس خالقان ChatGPT از دیکتاتوری ثروتمندترین مرد دنیا

ماجرای تأسیس شرکت OpenAI

بازتاب قدرت‌طلبی ماسک و آلتمن در ایمیل‌های ایلیا سوتسکور

سال‌ها بعد از استعفای ایلان ماسک از هیئت‌مدیره‌ی OpenAI، وبسایت خبری Semafor در گزارشی نوشت که ماسک قصد داشت شرکت را به‌تنهایی اداره کند تا از گوگل پیشی بگیرد؛ اما وقتی درخواستش رد شد، سرمایه‌اش را بیرون کشید و شرکت را ترک کرد.

یکی از جالب‌ترین ایمیل‌ها مربوط به ایلیا سوتسکور، دانشمند ارشد سابق OpenAI است که نگرانی‌های تیم درباره‌ی رهبری ماسک را توضیح می‌دهد:

ساختار کنونی به تو این امکان را می‌دهد که به‌صورت یک‌جانبه هوش مصنوعی قوی (AGI) را تحت کنترل مطلق خود داشته باشی. تو اعلام کرده بودی که نمی‌خواهی AGI نهایی را کنترل کنی، اما در طول این مذاکرات نشان داده‌ای که کنترل مطلق برایت اهمیت زیادی دارد.

به‌عنوان‌مثال، گفته بودی که باید مدیرعامل شرکت جدید باشی تا همه بدانند که تو مسئول این شرکت هستی. درعین‌حال می‌گویی از مدیرعامل شدن متنفری و ترجیح می‌دهی مدیرعامل نباشی. بنابراین، ما نگران هستیم که با پیشرفت واقعی شرکت به سمت AGI، تصمیم بگیری که کنترل مطلقت بر شرکت را حفظ کنی، برخلاف نیات فعلی‌ات.

هدف OpenAI این است که آینده‌ای خوب خلق کند و مانع از دیکتاتوری AGI شود. تو از اینکه دمیس هسابیس (از دیپ‌مایند گوگل) بتواند دیکتاتوری AGI ایجاد کند، نگرانی. ما هم نگرانیم. بنابراین اصولاً ایجاد ساختاری که به تو اجازه دهد دیکتاتور شوی، ایده‌ی بدی است؛ مخصوصاً زمانی که می‌توان ساختار دیگری ایجاد کرد که از این احتمال جلوگیری کند.

اما موضوع صرفاً کنترل شرکت و هوش مصنوعی قوی نبود. در این ایمیل‌ها می‌بینیم که سوتسکور با لحن مشابهی در مورد سم آلتمن نیز ابراز نگرانی می‌کند و همان چیزی را می‌گوید که بعدها هیئت‌مدیره‌ی شرکت آن را «صداقت نداشتن مداوم آلتمن» خواند:

ما نمی‌توانیم کاملاً به قضاوت‌هایت اعتماد کنیم، زیرا تابع هزینه‌‌ات را نمی‌فهمیم. ما نمی‌فهمیم چرا عنوان مدیرعامل برایت اینقدر مهم است. دلایلی که برای این امر عنوان می‌کنی نسبت به گذشته تغییر کرده‌اند و درک درست انگیزه‌هایت دشوار شده است. آیا واقعاً AGI را انگیزه‌ی اصلی خود می‌دانی؟ این موضوع با اهداف سیاسی تو چه ارتباطی دارد؟

طبق شواهد، OpenAI در سال ۲۰۱۷ به‌طور جدی قصد خرید شرکت تراشه‌سازی Cerebras را داشت (یا می‌خواست با آن ادغام شود) و به‌نظر می‌رسید این اقدام از طریق منابع تسلا انجام می‌شود. همان‌طور که سوتسکور در ایمیلی می‌نویسد:

درصورتی‌که تصمیم بگیریم Cerebras را بخریم، قویاً حس می‌کنم که این کار از طریق تسلا انجام خواهد شد.

بااین‌حال، این معامله انجام نشد و دلیل آن نیز در ایمیل‌ها ذکر نشده است.

این جریان‌ به زمانی برمی‌گردد که ماسک به دنبال این بود که OpenAI را به یکی دیگر از شرکت‌های خود تبدیل کند و رهبران شرکت نیز نسبت‌به احتمالات، ذهن بازتری داشتند. همان‌طور که آندریج کارپاتی، یکی از هم‌بنیان‌گذاران OpenAI نوشت:

همان‌طور که قبلاً اشاره کردم، امیدوارکننده‌ترین گزینه‌ این است که OpenAI به تسلا متصل شود و از آن به‌عنوان منبع مالی استفاده کند. اگر این کار را به‌خوبی انجام دهیم، صنعت حمل‌ونقل به اندازه‌ی کافی بزرگ است که بتوانیم ارزش بازار تسلا را به میزان بسیار زیادی (حدود صد میلیارد دلار) افزایش دهیم و از این درآمد برای تأمین مالی کارهای AI در مقیاس مناسب استفاده کنیم.

اما این اتفاق هم رخ نداد. البته ارزش بازار تسلا افزایش یافت اما نه به نحوی که کارپاتی تصور می‌کرد. او که بعدها در بخشی از زیرمجموعه‌های توسعه‌ی تسلا مشغول به کار شد، نتوانست کمک معناداری به درآمد این شرکت کند.

مایکروسافت از سال ۲۰۱۶ پیشنهاد همکاری مالی با OpenAI را مطرح کرده بود و ۶۰ میلیون دلار اعتبار رایانشی در پلتفرم آژور را به این شرکت ارائه داد، مشروط به اینکه دو شرکت یکدیگر را تبلیغ کنند؛ اما ماسک از این همکاری بیزار بود و گفت که آن را «مشمئزکننده» می‌داند.

یکی دیگر از جزئیات ناآشنای این پرونده‌ی شکایت اصلاح‌شده‌ی ۱۰۷ صفحه‌ای، این بود که سم آلتمن در ژانویه‌ی ۲۰۱۸ پیشنهاد کرد اوپن‌ای‌آی ارز دیجیتال خود را بفروشد، اما سازمان، ساختار سود محدود (capped-profit) را انتخاب کرد.

در ایمیلی که ماسک به پرونده ضمیمه کرده، آلتمن نوشته است:

صرفاً جهت اطلاع، با برخی از اعضای تیم ایمنی صحبت کردم و نگرانی‌های زیادی درباره عرضه‌ی اولیه سکه (ICO) و پیامدهای ناخواسته‌ی احتمالی آن در آینده مطرح شد. می‌خواهم تأکید کنم که این موضوع باید محرمانه بماند، اما فکر می‌کنم خیلی مهم است که موافقت همه را جلب کنیم و به افراد فرصت دهیم از همین اول نظر بدهند.

ظاهراً ماسک با قاطعیت ایده‌ی فروش توکن و رمزارز را رد کرد. او در ایمیلی که برای آلتمن، گرگ بروکمن، ایلیا سوتسکور و دیگر بنیان‌گذاران اوپن‌ای‌آی فرستاد، نوشت:

من رویکرد ICO را بررسی کردم و از آن حمایت نخواهم کرد. به نظر من، این کار فقط باعث سقوط شدید اعتبار OpenAI و همه‌ی کسانی می‌شود که با عرضه‌ی اولیه‌ی سکه مرتبط هستند.

در شکایت جدید، وکلای ماسک استدلال می‌کنند که OpenAI اکنون «فعالانه» برای حذف رقبایی مانند xAI تلاش می‌کند و این کار را با تعهدگرفتن از سرمایه‌گذاران برای دور نگه‌داشتن پولشان از این شرکت‌ها انجام می‌دهد. آن‌ها همچنین مدعی هستند که اوپن‌ای‌آی به‌طور ناعادلانه‌ای از زیرساخت‌ها و تخصص مایکروسافت بهره‌مند می‌شود.

در این شکایت که در دادگاه فدرال اوکلند کالیفرنیا ثبت شده، آمده است:

xAI به این دلیل که نتوانسته در شرایطی مشابه اوپن‌ای‌آی، به منابع محاسباتی مایکروسافت دسترسی داشته باشد، آسیب‌دیده است. مایکروسافت و اوپن‌ای‌آی اطلاعات حساس و رقابتی را به‌طور انحصاری با یکدیگر تبادل می‌کنند که این موضوع می‌تواند مزیت ناعادلانه‌ای برای آن‌ها ایجاد کند و به رقبا آسیب برساند.

مایکروسافت که اولین‌بار در سال ۲۰۱۹ در OpenAI سرمایه‌گذاری کرد، سال گذشته با سرمایه‌گذاری ۱۳ میلیارد دلاری در این استارتاپ مشارکت خود را به‌طرز چشمگیری گسترش داد. با این اقدام مایکروسافت عملاً ۴۹ درصد از سود اوپن‌ای‌آی را در اختیار گرفت. علاوه‌براین اوپن‌ای‌آی به‌طور گسترده از زیرساخت‌های سخت‌افزاری ابری مایکروسافت برای آموزش، بهینه‌سازی و اجرای مدل‌های هوش مصنوعی خود مانند ChatGPT استفاده می‌کند.

ایلان ماسک در این شکایت، رید هافمن را نیز که هم‌زمان در هیئت‌مدیره مایکروسافت و اوپن‌ای‌آی حضور داشت و همچنین یکی از شرکای شرکت سرمایه‌گذاری Greylock بود، به دسترسی غیرمجاز به اطلاعات حساس متهم می‌کند.

مشاور ماسک می‌گوید Greylock روی استارتاپ هوش‌مصنوعی Inflection که امسال توسط مایکروسافت خریداری شده، سرمایه‌گذاری کرده است؛ با این حساب به‌طور منطقی می‌توانیم اینفلکشن را رقیب اوپن‌ای‌آی درنظر بگیریم.

در پرونده‌ی جدید همچنیندی تمپلتون، که مایکروسافت برای مدت کوتاهی او را به‌عنوان ناظر هیئت بدون رأی در OpenAI منصوب کرد، به نقض قوانین ضدانحصار متهم شده؛ زیرا به‌عقیده‌ی شاکیان، توافقات بین مایکروسافت و OpenAI را تسهیل کرده است.

در این شکایت می‌خوانیم:

هدف از ممنوعیت حضور اعضای مشترک در هیئت‌مدیره‌ی شرکت‌های مختلف، جلوگیری از تبادل اطلاعات حساس رقابتی است که می‌تواند قوانین ضدانحصاری را نقض کند، یا به بستری برای هماهنگی فعالیت‌های ضدرقابتی تبدیل شود. حضور رید هافمن و دی تمپلتون در هیئت‌مدیره اوپن‌ای‌آی، این هدف را تضعیف می‌کرد.

اما در سمت شاکیان، نام شیوون زیلیس که سال ۲۰۲۳ پس از ۴ سال عضویت در هیئت‌مدیره‌ی اوپن‌ای‌آی استعفا داد، نیز به چشم می‌خورد. زیلیس می‌گوید بارها نگرانی‌های خود را درمورد معاملات داخلی این شرکت مطرح کرده، اما حرف‌هایش مورد بی‌توجهی قرار گرفته است. این نگرانی‌ها از نظر محتوایی شباهت زیادی به گفته‌های ماسک دارند.

زیلیس که بین سال‌های ۲۰۱۷ تا ۲۰۱۹ به‌عنوان مدیر پروژه در تسلا فعالیت داشت، به‌عنوان رهبر تحقیقات شرکت نورالینک ایلان ماسک نیز شناخته می‌شود و درعین‌حال مادر سه فرزند او است.

در متن شکایت‌نامه علیه OpenAI آمده است:

هیچ پیش‌نویس زیرکانه یا معامله‌ی خلاقانه‌ای نمی‌تواند آنچه را در اینجا رخ داده، پنهان کند. اوپن‌ای‌آی، شرکتی که ماسک به‌عنوان یک نهاد خیریه مستقل، با تعهد به ایمنی و شفافیت بنیان‌گذاری کرد، به‌سرعت در حال تبدیل‌شدن به زیرمجموعه‌ی تماماً انتفاعیِ مایکروسافت است.

در هر صورت، محور اصلی دعوی کماکان ثابت می‌ماند: اینکه اوپن‌ای‌آی از مشارکت اولیه‌ی ماسک در شرکت سود برده است، اما به وعده‌های غیرانتفاعی خود برای ارائه‌ی نتایج تحقیقات هوش مصنوعی، عمل نمی‌کند. اوپن‌ای‌آی همچنان ادعای ماسک را رد می‌کند و آن را بی‌اساس می‌خواند.