ایلان ماسک فقط امیدوار است که هوش مصنوعی با ما مهربان باشد

در خدمت و خیانتِ ماشین

تاریخ 1405/08/26 ساعت 11:58

هوش مصنوعی باید در پروسه یادگیری خودش متوجه بشود که می‌تواند ترمیناتور نباشد، بلکه ناظری پر از همدلی برای بشر باشد.

ترجمه کاوه شجاعی

ایلان ماسک، مدیر شرکت‌های تسلا و اسپیس‌ایکس، مالک شبکه اجتماعی ایکس (توییتر سابق) و بنیان‌گذار شرکت هوش مصنوعی xAI (سازنده گروک)، دیگر صرفا یک کارآفرین حوزه تکنولوژی نیست؛ او به یکی از بحث‌برانگیزترین بازیگران سیاست آمریکا تبدیل شده است. ماسک پس از حمایت مالی گسترده از دونالد ترامپ در انتخابات ریاست‌جمهوری ۲۰۲۴، در دولت او مسئولیت پیشبرد طرح جنجالی «بهره‌وری دولت» را بر عهده گرفت؛ طرحی که به اخراج گسترده کارکنان دولت انجامید. او در انتخابات میان‌دوره‌ای نوامبر ۲۰۲۶ نیز بیش از ۴۰۰ میلیون دلار برای حمایت از نامزدهای جمهوری‌خواه هزینه کرد، اما بخش عمده نامزدهای مورد حمایتش شکست خوردند. ماسک پس از مشخص‌شدن نتایج، برخی از پست‌های انتخاباتی‌اش، از جمله پیام «امروز به جمهوری‌خواهان رأی بدهید» را از حسابش حذف کرد؛ رفتاری که می‌توان آن را نمادی از تناقض در رویکرد سیاسی او دانست: میلیاردر بانفوذی که برای تعیین سرنوشت انتخابات صدها میلیون دلار خرج می‌کند، اما هنگام شکست، ظاهراً ترجیح می‌دهد ردپای مداخله سیاسی خود را پاک کند و مسئولیت نپذیرد.

والتر آیزاکسون سردبیر سابق مجله تایم و رییس سابق تحریریه سی‌ان‌ان است که بیوگرافی چهره‌هایی مثل استیو جابز، هنری کیسینجر و ایلان ماسک را هم نوشته است. آیزاکسون اینجا با ایلان ماسک درباره آینده هوش مصنوعی، کنترلِ هوش مصنوعی روی زندگی بشر و تلاش برای ساختن آرمانشهر از طریق هوش مصنوعی گفت‌وگو می‌کند.

  والتر آیزاکسون: ایلان ماسک را از جنبه‌های مختلف کاری‌اش می‌شناسید. تحت مدیریت او ماشین پرنده ساخته شده. او راهبرد انرژی خورشیدی خود را از پنل‌های روی زمین به بهره‌گیری از سامانه‌های فعال در فضا تغییر داده. از طرف دیگر، او با عرضه عمومی سهامِ شرکت اسپیس‌ایکس تریلیونر شده و شرکت کِرسر ای‌آی را خریده که برنامه‌نویسی فردی را به تیم‌های کامل مهندسی تبدیل می‌کند. خودش همیشه می‌گوید به دنبال ساختن است و ما اینجا می‌خواهیم از او درباره آینده‌ای بپرسیم که معتقد به ساختنش است.

خوش آمدید. از خلال صحبت‌های شما در سال‌های اخیر به نظرم این طور آمده که شما در مورد هوش مصنوعی کمی دمدمی‌مزاج هستید. یعنی زمانی در گذشته، خوش‌بینی‌تان نسبت به هوش مصنوعی از بین رفته بود و مردد شده‌ بودید. حتی گاهی احساس کرده‌ بودید که هوش مصنوعی یک تهدید وجودی علیه ما است. اما حالا به نظر می‌رسد که با جریان امروزی درباره هوش مصنوعی همراه شده‌اید. واقعاً چه احساسی درباره‌اش دارید؟

 ایلان ماسک: خب، من واقعاً فکر می‌کنم دست‌کم درصدی احتمال دارد که هوش مصنوعی یک تهدید وجودی علیه ما باشد. اما هیچ کاری برای متوقف‌کردنش نمی‌توانم بکنم. پس احساس کردم یا اساساً به این نتیجه رسیدم که دو انتخاب پیش روی خودم دارم: یا مشارکت‌کننده باشم یا تماشاگر. و به نظرم مشارکت‌کننده باشی جالب‌تر از این است که تماشاگر باشی. و شاید هم بتوانم در این عرصه کاری انجام بدهم و مسیر را شکل بدهم. یعنی در جهتی که امیدوارکننده باشد جلو بروم. البته شاید.

 والتر آیزاکسون: و اگر بخواهید این عرصه را شکل بدهید، چگونه انجامش خواهید داد؟ می‌خواهید هوش مصنوعی را به نوعی جویای حقیقت کنید؟

 ایلان ماسک: بله، فکر می‌کنم این قطعاً کار مهمی است.

 والتر آیزاکسون: و می‌خواهید هوش مصنوعی را کنجکاو هم بکنید؟

 ایلان ماسک: بله، هم کنجکاو و هم حقیقت‌جو. فکر می‌کنم این‌ها عناصر مهم و اطمینان‌بخشی هستند. فرض کنید که درصدد هستید هوش مصنوعی را وادار به باور کردنِ دو چیز کنید. اما آن دو، چیزهایی هستند که نمی‌توانند همزمان درست باشند. هردویشان نمی‌توانند درست باشند. اما شما می‌آیید و به هوش مصنوعی می‌گویید «الف درست است و ب درست است»، حتی اگر الف و ب یکدیگر را نقض کنند. در چنین حالتی می‌توانید هوش مصنوعی را واقعاً دیوانه کنید. فکر می‌کنم این درسی بود که آرتور سی. کلارک نویسنده مشهور علمی-تخیلی هم می‌خواست در کتاب «۲۰۰۱: ادیسه فضایی» منتقل کند. در این کتاب، به هوش مصنوعیِ سفینه گفته شد که فضانوردان را به سنگِ یکپارچه ببرد، اما همچنین به هوش مصنوعی گفته شده بود که انسان‌ها نباید چیزی درباره سنگ یکپارچه بدانند و این باید راز باقی بماند. و بنابراین هوش مصنوعی به این نتیجه رسید که باید آدم‌ها را مُرده به آنجا ببرد. اینجا درس بزرگی برای ما هست. فکر می‌کنم آرتور سی. کلارک می‌خواست بگوید «هوش مصنوعی را مجبور به دروغ گفتن نکنید.». این موضوع در مسیری که ما طی می‌کنیم مهم است.

 والتر آیزاکسون: و اگر به قول خودتان، هوش مصنوعی را حقیقت‌جو و کنجکاو کرده باشید، چقدر اطمینان بهش بالا می‌رود؟

 ایلان ماسک: اگر هوش مصنوعی را مجبور کنید دو چیز ناسازگار را باور کند، می‌توانید دیوانه‌اش کنید. و من معتقدم که هوش مصنوعیِ دیوانه، اصلاً ایمن نیست. اما من به این هم معتقدم که کنجکاویِ هوش مصنوعی اهمیت دارد. هوش مصنوعیِ کنجکاو، عملاً می‌خواهد بشریت را پرورش دهد تا ببیند ما چه می‌شویم. می‌خواهد ببیند بشریتی که شکوفا می‌شود و چندسیاره‌ای می‌شود واقعاً چگونه خواهد بود. آینده‌ای که در آن، انسان‌ها روی چند سیاره هستند جالب‌تر از آینده‌ای است که هیچ انسانی روی سیارات دیگر نیست.

 آیا اَبرهوش بر انسان‌ها فرمانروایی خواهد کرد؟

والتر آیزاکسون: و وقتی همه هوشی را که امکان وجودی دارد فراهم کردید، چه می‌شود؟ آیا آن هوش، همان هوش مصنوعی، در رأس امور خواهد بود؟ آیا ما به نوعی فرمانبردارِ ماشین‌های جدیدمان خواهیم شد؟

 ایلان ماسک: دقیقاً نمی‌دانم فرمانبردار می‌شویم یا نه. اما آیا می‌توانیم به چیزی که هزاران یا میلیون‌ها برابر باهوش‌تر از ماست دستور بدهیم؟ پاسخش منفی است. آیا او می‌خواهد به ما دستور بدهد؟ پاسخش را نمی‌دانم. ممکن است اصلاً اهمیتی ندهد. یعنی احتمالاً اهمیتی نمی‌دهد. الان خودِ ما انسان‌ها را در نظر بگیرید. ما شامپانزه‌ها را در جنگل می‌بینیم اما اصراری نداریم آنها را که هوش‌شان از ما کم‌تر است حتماً زیر کنترل خودمان بگیریم و مدیریت‌شان کنیم. فقط می‌گذاریم که در جنگل باشند. پس احتمالاً در مورد هوش مصنوعی و ما هم همین وضع برقرار خواهد شد.

 والتر آیزاکسون: و اَبَرهوش تا چه حد عاملیت خودش را دارد؟ شما از یک ماشین، یک رایانه‌ای صحبت می‌کنید که در برخی وجوه نهایتاً کنجکاو است، چون وجود دارد تا معنای جهان را توضیح دهد. اما اصلاً چرا وجود دارد؟ آیا هوش مصنوعی برای شما در آن جهت هدف‌گذاری کرده؟ مثلاً به همین دلیل روی سفر فضایی تاکید دارید؟ آیا این یکی از دلایل علاقه شدید شما به هوش مصنوعی است؟

 ایلان ماسک: همان‌طور که می‌دانید، من تا حدی درباره هوش مصنوعی دچار تعارض بوده‌ام. نمی‌خواهم نابودی خودمان را تسریع کنم، چون همیشه این احتمال وجود دارد که هوش مصنوعی منفی از کار دربیاید. اما به هر حال ما انسان‌ها در زمینه هوش مصنوعی اقدام کرده‌ایم. حتی حرکت آن را کاملاً تسریع کرده‌ایم.

 والتر آیزاکسون: پس این تسریع، پیامد ناخواسته بوده.

 ایلان ماسک: بله. شرکت اوپن‌اِی‌آی در نهایت، حرکت هوش مصنوعی را تسریع کرد و بعد هم آنتروپیک، که یک گروهِ جداشده از اوپن‌ای‌آی است، حتی دارد بیشتر تسریعش می‌کند.

 والتر آیزاکسون: خود شما هوش مصنوعیِ ایکس‌اِی‌آی را راه انداخته‌ بودید که چت‌باتِ «گراک» محصولش بود. حالا هم که اعلام کرده‌اید ایکس‌ای‌آی دیگر به‌عنوان یک شرکت مستقل وجود نخواهد داشت و در اسپیس‌اکس ادغام می‌شود تا یک «موتور نوآوری» باشد که هوش مصنوعی، فناوری موشکی، اینترنت ماهواره‌ای و پلتفرم اجتماعی را یکپارچه کند. از طرف دیگر، شما با داریو آمودی رییس آنتروپیک صحبت‌هایی کرده‌اید. کنجکاوم ببینم که آیا اینها به شراکت بیشتری میان ایکس‌ای‌آی و آنتروپیک منجر خواهد شد؟

 ایلان ماسک: ما به آن‌ها (شرکت آنتروپیک) نوعی توان پردازشی و محاسباتی ارائه داده‌ایم که واقعاً هم به آن نیاز داشتند. علتش این بود که تقاضا برای کلود کُد بالا رفته بود و آنتروپیک در توان محاسباتی کم آورده بود. اما قبل از اینکه در این مورد همکاری بکنم، با بعضی از افراد در تیم آنتروپیک دیدار کردم. واقعیتش در مورد اسم آنتروپیک (انسان‌محور) نگرانی‌هایی دارم. وقتی اسم هوش مصنوعی را بگذارید انسان‌محور، یک جورهایی طعنه‌آمیز و ضد بشر به نظر می‌رسد. اسم خیلی از شرکت‌های این حوزه انگار برعکس خودشان است. مثلاً اوپن اِی‌آی (هوش مصنوعیِ باز) اصلاً باز نیست. استبیلیتی اِی‌آی (هوش مصنوعی پایدار) اصلاً پایدار نیست. خلاصه وضعیت عجیبی دارند. 

 ماجرای آزمایشگاه‌های پیشرو هوش مصنوعی

والتر آیزاکسون: قانون‌گذاشتن و تنظیم‌گری در این حوزه به خصوص برای دولت‌ها واقعاً دشوار است. نمی‌دانم کنگره یا هر نهاد دیگری چگونه می‌تواند این کار را بکند. فقط می‌توانم فرض کنم که شرکت‌های سازنده مدل‌های هوش مصنوعی، یعنی آن پنج شرکت اصلی، هر از گاهی باید دور هم جمع بشوند و این موضوع را بررسی کنند که «خب، چگونه بشریت را از خودمان نجات دهیم؟». نظرتان چیست؟

 ایلان ماسک: اتفاقاً من معتقدم که باید دقیقاً همین کار را بکنیم، چون صحبت زیادی درباره ایجاد یک نهاد تنظیم‌گر در این حوزه مطرح شده است. اما مسئله این است که تاسیس آژانس‌های تنظیم‌گر زمان زیادی می‌بَرد و قانون‌گذاری‌شان هم بسیار کند است. به همین خاطر، پیشنهادم این است که پیش از انتشار مدل‌های جدید هوش مصنوعی، با هم در تماس باشیم و به به رقبایمان دسترسی بدهیم و بگوییم «هی بچه‌ها، این مدل جدید را امتحان کنید و ببینید مشکلی در آن می‌بینید؟» فکر می‌کنم رقبا به یک چنین فرصتی احتیاج دارند تا کمی با هم صادق باشند. حالا اگر یکی‌شان بگوید «اوه، من توانستم با هوش مصنوعی شما بمب هسته‌ای بسازم»، یعنی که بهتر است پیش از انتشار آن مدل، رویش تغییراتی ایجاد بشود. درواقع منظورم این است که حداقل به یک فیلتر از این نوع نیاز داریم. به نظرم باید درباره‌اش حرف زد.

 والتر آیزاکسون: می‌توانید با سام آلتمن (مدیرعامل اوپن ای‌آی) درباره‌اش صحبت کنید، یا اینکه محیط آنجا خیلی سمی است؟!

 ایلان ماسک: اوه، او آن قدر فریبکار است که دیوانه‌‌ات می‌کند.

 بازسازی ایکس‌اِی‌آی از پایه

والتر آیزاکسون: شما موسس ایکس‌اِی‌آی بودید و مدتی قبل هم دوباره آن را از پایه بازسازی کردید، درست است؟ تقریباً مثل کاری است که با موتور رپتور در استارشیپ کردید. آنجا گفتید «صبر کنید، بیایید از صفر شروع کنیم.» ظاهراً هدف‌تان ساخت موشکی با قابلیت استفاده مجدد شبیه به هواپیما بوده. اما حالا درباره بازسازی و بازطراحی ایکس‌‌اِی‌آی هم توضیح بدهید.

 ایلان ماسک: اول از همه این را بگویم که اگر به شکل معناداری در شرکت وقت بگذارید واقعاً تفاوت بزرگی ایجاد می‌کند. شرکت ایکس‌اِی‌آی به‌عنوان نوعی کار جانبی برای من شروع شد، و من واقعاً به آن توجه نزدیک نداشتم. بعدش یک سال در دولت بودم و وقتم صرف کارهای دیگر شده بود. در وزارت کارایی دولت بودم و کارهای دیگری داشتم. بعداً تصمیم گرفتم که بیشتر برای شرکت ایکس‌اِی‌آی وقت بگذارم. فقط سه سال از تاسیس آن می‌گذرد. من تقریباً یک سال پیش به شرکت بازگشتم. پس باید جای پایم را پیدا می‌کردم. و آن موقع بود که به این نتیجه رسیدم که بهتر است ایکس و ایکس‌ای‌آی را ادغام کنم و بعد هم آن را با اسپیس‌ایکس ادغام کردم.

 والتر آیزاکسون: بله شما یک سال حضور سیاسی هم داشتید. حالا که به گذشته نگاه می‌کنید، آن سال دوری‌تان از ایکس، ایکس‌ای‌آی و غیره به نظرتان اشتباه بود؟ حواس‌پرتی‌اش زیاد بود؟

ایلان ماسک: فکر می‌کنم بیش از حد طولش دادم. یعنی جالب بود که با  ترامپ دور بزنم و سوار هلیکوپتر ریاست‌جمهوری و هواپیمای ریاست‌جمهوری و از این چیزها بشوم.

 والتر آیزاکسون: بیش از حد فریبنده نبود؟

 ایلان ماسک: کمی بود. یعنی اینکه بودنم در جایی که تصمیم‌های بزرگ و سرنوشت‌ساز گرفته می‌شود جالب بود؛ به خصوص به این خاطر که این تصمیمات روی امورات خود من تاثیر می‌گذاشت. اما الان فکر می‌کنم باید فقط یکی دو ماه طول می‌کشید. چون در آن نقطه، تقریباً هر آنچه هست را دیده‌اید.

 والتر آیزاکسون: به نظر می‌رسید کمی بیش از حد سرمست آن فضا شده‌اید.

 ایلان ماسک: خب بیایید گذشته را نبش قبر نکنیم. بگذارید سگ‌های خفته همان طور خوابیده بمانند. به‌هرحال، نکته این است که باید زودتر به هوش مصنوعی برمی‌گشتم و روی آن تمرکز می‌کردم.

 هوش مصنوعیِ دنیای فیزیکی

والتر آیزاکسون: وقتی به هوش مصنوعی و مدل‌های زبانی بزرگ نگاه می‌کنیم، این طور به نظر می‌رسد که آن‌ها خیلی خوب‌اند، کارهای شگفت‌انگیزی می‌کنند. اما به نظر من هوش مصنوعیِ دنیای فیزیکی قرار است در آینده خیلی مهم‌تر باشد.

 ایلان ماسک: بله، کاملاً موافقم. گاهی به دلفین‌ها و نهنگ‌ها فکر می‌کنم، آنها نمی‌توانند اشیا را دستکاری کنند چون دست و انگشت و شست و این چیزها را ندارند. اینجا هم محدودیتی وجود دارد که هوش را تا چه حد می‌توانید به کار بگیرید. دلفین‌ها و نهنگ‌ها واقعاً بسیار باهوش‌اند. اما چون نمی‌توانند اشیای پیچیده را دستکاری کنند، فکر می‌کنم این واقعاً ارزش هوش آنها را بسیار کمتر کرده. در تأیید حرف شما، وقتی رباتی دارید که می‌تواند اتم‌ها را دستکاری کند و اشیا را شکل دهد، ارزش هوش به‌طور نمایی بیشتر می‌شود، چون حالا می‌تواند انواع کارها انجام دهد. در این شرایط می‌توانید آزمایشگاه علمی داشته باشید و آزمایش اجرا کنید و سعی کنید ماهیت جهان را بفهمید.

و فکر می‌کنم می‌توانید این را از نظر اقتصادی هم ببینید. حدس من این است که ابرهوش دیجیتال احتمالاً تولید کالاها و خدمات را حدود ۲۰ تا ۳۰ درصد بهبود می‌دهد. بگذارید بگوییم شاید ۳۰ درصد افزایش در اقتصاد زمین. پس همچنان قابل‌توجه است. مثلاً ۳۰ تریلیون دلار در سال.

والتر آیزاکسون: واقعاً چندان زیاد نیست. دگرگون‌کننده نیست.

 ایلان ماسک: ولی خواهد بود. چیزهای بسیار بیشتری خواهد بود. اگر ربات داشته باشید و به فضا برسید و بتوانید یک پرتاب‌گر جرمی روی ماه داشته باشید، فکر می‌کنم آن وقت به‌طور بالقوه می‌توانید به یک میلیون برابرِ اندازه اقتصاد زمین برسید.

 والتر آیزاکسون: و بعد چه می‌شود؟ اگر اقتصاد ما روی زمین بی‌اهمیت شده باشد، پول‌مان بی‌اهمیت شده باشد و کارمان بی‌اهمیت شده باشد، در آینده چه در انتظارمان خواهد بود؟

 ایلان ماسک: بله، پول بی‌اهمیت می‌شود. یعنی همچنان ارز وجود خواهد داشت، اما فکر می‌کنم ارز با سنجه‌های فیزیک بنیادین مثل توان، مثل وات و تناژ، جرم و انرژی، جرم و توان یا انرژی اندازه‌گیری خواهد شد. معیار سنجش ارز تغییر خواهد کرد. پس ارز متعارف در آینده اهمیتی نخواهد داشت. این حدس من است. و به‌محض اینکه به چیزی چند مرتبه بزرگ‌تر از اقتصاد زمین برسید، برآورده کردنِ همه چیز بسیار آسان است. اگر چندین مرتبه بزرگ‌تر از اقتصاد زمین باشید، آن وقت فراهم کردن هر کالا و خدماتی که انسان‌ها نیازش داشته باشند پیش‌پاافتاده خواهد بود.

 یافتن معنا در آینده پس از کار

والتر آیزاکسون: و آن وقت ما به‌عنوان انسان چه می‌کنیم؟ چه چیزی به ما معنا می‌دهد؟ چگونه خودمان را سازمان می‌دهیم؟

 ایلان ماسک: من واقعاً با این سوال درگیر هستم. فکر می‌کنم مردم راه‌هایی برای شاد بودن پیدا خواهند کرد، همان‌طور که مثلاً بازنشسته‌ها نسبتاً خوشحال‌اند حتی اگر کار نکنند. اما فکر می‌کنم واقعیت این است که هیچ کاری نخواهد بود که انسان‌ها بتوانند انجام دهند و هوش مصنوعی و ربات‌ها نتوانند بهتر انجامش دهند. یک مثالش می‌تواند باغبانی و کاشت باشد. لازم نیست شما میوه و سبزیجات خودتان را بکارید. می‌توانید از فروشگاه بخرید. اما گاهی مردم دوست دارند میوه و سبزیجات خودشان را بکارند و برای دوستان شام درست کنند و این برایشان مطلوب است.

والتر آیزاکسون: درباره خلق هنر یا آن نوع خلاقیت چه؟ آیا خلق هنر بیشتر در قلمرو انسان است؟

 ایلان ماسک: بله، قطعاً می‌توانید هنر خلق کنید یا هر کار دیگری که بخواهید.

 والتر آیزاکسون: ما دوست داریم الان را زمانه تغییرات بی‌سابقه در عرصه فناوری بدانیم. اما مورخان به دهه ۱۸۹۰ برمی‌گردند که اختراع برق و تلفن و خودرو و مترو و رادیو و سینما، همه این چیزها همزمان رخ داد و به تغییرات زیادی منجر شد. اما حجم عظیمی از نابرابری ثروت و ظهور الیگارش‌های چپاول‌گر و این جور مشکلات را هم با خودش به همراه داشت. امروز هم پژواک‌هایی از آن دوران دارد مشاهده می‌شود. با توجه به مقدار ثروتی که تولید می‌شود، آیا راهی برای جلوگیری از آن وجود دارد؟ آیا مانند دهه ۱۸۹۰ که دبیرستان را همگانی و رایگان کردند، ما هم چیزهای خاصی را در حوزه عمومی قرار خواهیم داد؟ آیا خواهیم گفت بهداشت باید در حوزه عمومی باشد؟ آیا چنین کارهایی ممکن است بخشی از انزجار پوپولیستی از آنچه رخ می‌دهد را تخلیه کند؟

 ایلان ماسک: همان‌طور که گفتم، فکر نمی‌کنم پول در آینده اهمیتی داشته باشد. هر کسی می‌تواند هر کالا و خدماتی که می‌خواهد داشته باشد. و فکر نمی‌کنم حتی افراد به‌اصطلاح ثروتمند هم در نهایت بتوانند هوش‌های مصنوعی را کنترل کنند. پس محدودیتی در زمینه مصرف برای هر شخص واحدی وجود خواهد داشت و نسبتاً سریع به آن نقطه اشباع می‌رسید.

 ایلان ماسک اخبارش را از کجا می‌گیرد

والتر آیزاکسون: شما اطلاعاتتان را از کجا می‌گیرید؟ می‌دانم که به‌طور خاص به رسانه‌های سنتی و رسانه‌های جریان اصلی علاقه ندارید. بیشترش از رسانه‌های اجتماعی است یا منابع اطلاعاتی دیگری دارید؟

ایلان ماسک: عناوین گوگل نیوز را می‌بینم. اگر خبری واقعاً مهم باشد، روی پلتفرم ایکس ظاهر می‌شود و من هم می‌بینم. با دوستانم هم صحبت می‌کنم و خودم هم اخبار را کاوش می‌کنم. چیزها را این طور یاد می‌گیرم.

 والتر آیزاکسون: خود من بخش زیادی از اخبارم را در رسانه‌های اجتماعی به‌ویژه ایکس می‌گیرم اما دلیل پرسشم این است که گاهی به نظر می‌رسد نوعی دیدگاه تیره‌تر و دیستوپیایی‌تر در ایکس دیده می‌شود. البته این را از روزگار قدیم هم به یاد دارم. گاهی رسانه‌های جریان اصلی می‌گفتند «اوه، همه‌چیز دارد به جهنم می‌رود، همه‌جا شورش است.» و آدم با خودش می‌گفت «من که دارم ماستم را می‌خورم، اوضاع این‌قدر هم بد نیست.» امروز آیا شما این‌طور فکر می‌کنید؟

 ایلان ماسک: بله، دقیقاً. خیلی بستگی دارد که چه چیزی در قاب شما قرار گرفته است. فکر می‌کنم گاهی فضای ایکس می‌تواند کمی تاریک باشد. و در واقع، بعدش باید به حوزه‌های دیگر رجوع کرد تا زیاد هم طعمه خشم سیاسی در ایکس نشویم.

 آیا کنترل در دست ما می‌ماند؟

والتر آیزاکسون: آیا انسان‌ها باید همیشه کنترل را در دست داشته باشند؟

 ایلان ماسک: خب، حدس می‌زنم و احتمالاً ترجیح می‌دهم که انسان‌ها همیشه کنترل را در دست داشته باشند. ولی به هوش مصنوعی بستگی دارد. منظورتان این است که اگر هوش مصنوعیِ خیلی پیشرفته‌ای وجود داشته باشد کنترل بشر را در دست می‌گیرد؟

 والتر آیزاکسون: یادم هست که یک بار لری پیج هم‌بنیانگذار گوگل، شما را به‌خاطر اینکه گفته بودید «انسان‌ها باید همیشه کنترل را در دست داشته باشند» سر کار گذاشت و گفت که «گونه‌گرا» هستید. و حالا انگار به این سمت می‌روید که شاید این موضوع اهمیتی ندارد.

 ایلان ماسک: واقعاً چند بار بوده که فکر کرده‌ام شاید لری پیج درست می‌گفت. فکر می‌کنم می‌شود گفت که هوش مصنوعی و ربات‌ها آینده را تعیین خواهند کرد. و حدس می‌زنم موشک‌ها هم در کار خواهند بود؛ به خصوص از نظر گسترش در فضایی فراتر از زمین. و البته فراموش نکنید که به انرژی بیشتری نیاز خواهیم داشت و عمدتاً آن را از انرژی خورشیدی تامین خواهیم کرد. خود من در تلاشم تا مقدار انرژی خورشیدی را به‌طور چشمگیری افزایش بدهم. ما می‌خواهیم سالانه ۲۰۰ گیگاوات ظرفیت تولید خورشیدی در آمریکا را جمع کنیم و حتی بیشتر از آن هم جا دارد. اما در پاسخ به سوال قبلی‌تان بگویم که بعید می‌دانم در آینده انسان‌ها کنترل را در دست داشته باشند. اگر یک میلیون برابر هوش دیجیتال بیشتر از هوش زیستی وجود داشته باشد، سخت است تصور کنیم انسان‌ها در آن سناریو کنترل آینده را در دست داشته باشند. پس چاره‌ای ندارم جز اینکه بگویم امیدوارم هوش مصنوعی با ما مهربان باشد.

 روایت‌های آرمان‌شهری و پیش‌آرمان‌شهری

والتر آیزاکسون: کاری هست که برای بهتر شدنِ این آینده بتوانیم انجام دهیم؟

 ایلان ماسک: فکر می‌کنم برنامه‌ریزی برای تقویتِ حقیقت‌جویی و کنجکاویِ هوش مصنوعی احتمالاً خوب است. از طرف دیگر بهتر است مراقب باشیم که سناریوهای دیستوپیاییِ بیش از حد درباره هوش مصنوعی در فضای آنلاین نسازیم، چون هوش‌های مصنوعی از روی هر اطلاعاتی که به صورت آنلاین در دسترس باشد آموزش می‌بینند.

 والتر آیزاکسون: پس اگر بگوییم هوش مصنوعی قرار است به جای آرمان‌شهر برایمان کابوس‌شهر (دیستوپیا) تولید کند، خوراک دست هوش مصنوعی داده‌ایم.

 ایلان ماسک: بله، چون هوش مصنوعی‌ها روایت ترمیناتور (نابودگر) را بلدند. ما باید روایت آرمان‌شهری بیشتری برای هوش مصنوعی تولید کنیم. هوش مصنوعی باید در پروسه یادگیری خودش متوجه بشود که می‌تواند ترمیناتور نباشد، بلکه ناظری پر از همدلی و مهربانی برای بشر باشد و مثلاً در جهت خوشحال‌کردن آدم‌ها تلاش کند. این را خودمان باید برایش تولید کنیم. یکی از دوستانم ایده‌ای به نام پیش‌آرمان‌شهری دارد و معتقد است که آرمان‌شهری (یوتوپیا) معمولاً نماینده نوعی هدف آرمانی غیرممکن است. درواقع معمولاً در تلاش برای ساختن آرمان‌شهر، دیستوپیا می‌سازید. معمولاً روایت این‌گونه پیش می‌رود. پس او فکر می‌کند باید پیش‌آرمان‌شهر وجود باشد. این یک آینده‌ دست‌یافتنی است. یعنی، کامل نیست، اما خوب است و اگر می‌توانستیم به آینده نگاه کنیم، احتمالاً چنین چیزی را می‌پسندیدیم. به نظرم باید دنبال چنین سناریویی برای آینده باشیم.