جفری هینتون حدود سه دهه روی ایده‌ای کار می‌کرد که اکثر دانشمندان آن را چرند یا در محترمانه‌ترین حالت غیرممکن قلمداد می‌کردند؛ اینکه کامپیوترها بتوانند مثل انسان‌ها فکر کنند. حالا ما به سرعت وارد جهانی می‌شویم که هینتون از معماران آن است. جهانی که هنوز برای آن آماده نیستیم.

حدود دو سال پیش، هینتون گفت‌وگوی جالبی با PBS انجام داد که گزیده‌ای از آن را همان‌زمان در آینده‌نگر خواندید. هینتون آن موقع تازه از پروژه‌ی هوش مصنوعی شرکت گوگل استعفا داده بود تا بتواند آزادانه نسبت به خطرات این تکنولوژی هشدار دهد. او در آن مصاحبه حتی مدعی شد که تهدید هوش مصنوعی برای بشر از گرم‌شدن زمین بدتر است. حالا دو سال از آن روزها گذشته و با پیشرفت چشمگیر هوش مصنوعی و حضور روزافزون آن در زندگی و کار ما، هشدارهای هینتون کاملا منطقی به نظر می‌رسند. او چند روز پیش دوباره با PBS مصاحبه کرد تا نظرات تازه‌اش را مطرح کند و توضیح دهد که در این دو سال این تکنولوژی چه تغییراتی کرده است و آینده‌اش به کدام سمت می‌رود.

هینتون در ۱۹۴۷ در ویمبلدون انگلیس به دنیا آمد و در حال حاضر استاد دانشگاه تورنتو است. او  در سال ۲۰۱۸ به همراه دو همکار دیگر خود (یان لی کان و یوشوا بنجیو) برنده جایزه تورینگ شدند که معادل جایزه نوبل در حوزه علوم کامپیوتری است. این سه نفر در رسانه‌ها به «پدرخوانده‌های هوش مصنوعی» مشهورند. هینتون در سال ۲۰۲۴ «به‌خاطر کشفیات و ابداعات بنیادینش در حوزه‌ی یادگیری ماشینی» برنده‌ی جایزه‌ی نوبل فیزیک شد.

آخرین بار ما دو سال و یک ماه پیش گفت‌وگو کردیم. کنجکاوم بدانم انتظارات شما از هوش مصنوعی طی این مدت چه تغییراتی کرده و آینده را چطور می‌بینید؟

 هوش مصنوعی حتی از آنچه که من فکر می‌کردم سریع‌تر توسعه یافت. بخصوص که ما حالا عامل‌های هوش مصنوعی (AI agents) را داریم که از هوش مصنوعی خطرناک‌ترند. عامل‌ها در واقع برنامه‌هایی هستند که موجودی گفته می‌شود که از محیط اطراف خود درک پیدا می‌کنند، و برای رسیدن به اهداف، به طور خودمختار دست به عمل می‌زنند و همزمان عملکردشان را با یادگیری ماشینی بهتر می‌کنند. دو سال پیش هوش مصنوعی نمی‌توانست بیرون از کامپیوتر کاری انجام بدهد، حالا عامل‌های هوش مصنوعی می‌توانند این کار را بکنند. همین نشان می‌دهد که ما چه تحولاتی را کلید زده‌ایم. به نظر من ماجرا ترسناک‌تر از قبل شده است.

 در مورد اَبَرهوش (Superintelligence) چه؟ به نظرتان ما چه زمانی به هوش مصنوعی‌ای می‌رسیم که در تمامی زمینه‌ها (مثل نوآوری علمی، هوش عمومی و مهارت‌های اجتماعی) از بزرگ‌ترین نوابغ انسانی هم باهوش‌تر باشد؟

 یک سال پیش جایی گفتم بین ۵ تا ۲۰ سال آینده ما اَبَرهوش را خواهیم دید. حالا می‌شود بین ۴ تا ۱۹ سال آینده. دفعه پیش که صحبت کردیم گفتید ۲۰ سال طول می‌کشد تا به اَبَرهوش برسیم. بله. حالا معتقدم احتمالش بالاست که در ده سال آینده یا کمتر از آن اَبَرهوش را ببینیم.

 پس بین ۴ تا ۱۹ سال آینده به این نقطه‌ی عجیب می‌رسیم. اصلا رسیدن به اَبَرهوش چه شکلی است؟

 من قصد ندارم دست به گمانه‌زنی بزنم که اگر هوش مصنوعی از ما باهوش‌تر بشود چه خواهد کرد و چطور قدرت را در دست می‌گیرد. اَبَرهوش برای در دست گرفتن قدرت، راه‌های مختلفی پیش رو دارد.

 من هم الان نمی‌خواهم درباره‌ی آن روز خاص سوال بپرسم که هوش مصنوعی کنترل و قدرت را در دست خواهد گرفت. الان ببینیم این هوش مصنوعی فوق‌العاده باهوش توانایی چه کارهایی را خواهد داشت و چه کارهایی خواهد کرد؟

 می‌توانیم چند سناریو داشته باشیم. در سناریوی خوش‌بینانه، وضع ما شبیه آن مدیرعامل خنگ شرکت می‌شود که دستیاری فوق‌العاده باهوش دارد. در واقع همین دستیار است که همه کارها را انجام می‌دهد، اما کارهایی که مدیرعامل از او می‌خواهد. مدیرعامل البته فکر می‌کند که دارد کارها را انجام می‌دهد، اما در واقع کارها دست دستیارش است. مدیرعامل احساس مثبتی دارد چون هر تصمیمی که می‌گیرد درست انجام می‌شود. این سناریوی خوشبینانه است.

 ۱

هوش مصنوعی و تشخیص بیماری‌ها

 و شما قبلا گفته‌اید که در چند حوزه‌ی خاص جای خوش‌بینی هم وجود دارد. منظورتان کدام حوزه‌هاست؟

 مثلا مراقبت‌های درمانی. در این حوزه مثلا هوش مصنوعی خیلی دقیق‌تر از پزشکان می‌تواند تصاویر رادیوگرافی (مثل اشعه ایکس) را تفسیر کند چون می‌تواند آن را با حجم بی‌نظیری از داده‌های قبلی مقایسه کند. من چند سال قبل پیش‌بینی کردم که هوش مصنوعی تا سال ۲۰۲۵ از متخصصان انسانی جلو خواهد زد. اینطور نشد و آنها در حال حاضر تقریبا مثل متخصصان انسانی کار انجام می‌دهند. اما به زودی خیلی بهتر خواهند شد چون تجربه‌ی خیلی بیشتری پیدا خواهند کرد. یک هوش مصنوعی می‌تواند به میلیون‌ها عکس اشعه ایکس نگاه کند و یک پزشک نمی‌تواند.

به علاوه هوش‌های مصنوعی می‌توانند پزشکان خانوادگی خیلی خوبی بشوند. یک پزشک را تصور کنید که تا حالا صد میلیون نفر را ویزیت کرده، از جمله دهها نفر با بیماری خیلی کمیاب مشابه شما را. پس این پزشک هوش مصنوعی، از پزشک محل شما پزشک بهتری خواهد بود. این پزشک می‌تواند اطلاعات ژنتیکی شما را با نتایج آزمایش‌های شما و فامیل‌تان را ادغام کند، پزشکی که چیزی یادش نمی‌رود. همین حالا هم پزشکی که از هوش مصنوعی بهره می‌گیرد خیلی بهتر از بقیه تشخیص پزشکی می‌دهد. پس با اطمینان می‌شود گفت که ما با هوش مصنوعی در بخش مراقبت‌های درمانی اوضاع خیلی بهتری خواهیم داشت. هوش مصنوعی داروهای بهتری هم طراحی خواهد کرد.

 در بخش آموزش هم شما به آینده خوش‌بینید. درست است؟

بله. تحقیقات نشان داده که که اگر شما معلم خصوصی داشته باشید می‌توانید حدودا دو برابر سریع‌تر از بقیه چیز یاد بگیرید. هوش‌های مصنوعی در نهایت می‌توانند تبدیل به معلمان خصوصی عالی‌ای شوند چون به خوبی می‌دانند اشتباه فهمیدن یعنی چه و می‌دانند دقیقا چه مثالی بزنند تا موضوع برای شما روشن شود. با چنین معلمی ممکن است شما بتوانید سه تا چهار برابر سریع‌تر یاد بگیرید. این خبر بدی برای دانشگاه‌هاست و خبر خوشی برای مردم. 

 فکر می‌کنید سیستم دانشگاهی از این دوره جان سالم به در می‌برد؟

 من فکر می‌کنم تعداد زیادی از جنبه‌های این سیستم جان سالم به در می‌برند. من هنوز فکر می‌کنم دانشجویی که از یک دانشگاه خوب فارغ‌التحصیل شده و در جمع دانشجویانی خوب قرار داشته، همچنان بهتر از بقیه می‌تواند تحقیقات عمیقا نوآورانه انجام دهد. این جنبه از دانشگاه‌ها احتمالا از دسترس هوش مصنوعی دور می‌ماند. ما همچنان به نوعی شاگردی‌کردن نیازمندیم.

 عده‌ای از مردم امیدوارند هوش مصنوعی بتواند به ما در حل بحران گرم شدن زمین کمک کند.

 به نظر من هم به ما کمک خواهد کرد. هوش مصنوعی باعث می‌شود ما مواد بهتری بسازیم. مثلا من مطمئنم هوش مصنوعی به ما کمک می‌کند باتری‌های بهتری طراحی کنیم. یا مثلا ما به کمک هوش مصنوعی بتوانیم به موادی برسیم که در دمای محیط هم ابررسانا باشند و این یعنی می‌توانیم در کویرها تعداد فراوانی پنل خورشیدی داشته باشیم و هزاران کیلومتر آن‌طرف‌تر از انرژی آنها استفاده کنیم.

 در حوزه‌های دیگری هم به تاثیر هوش مصنوعی خوش‌بینید؟

 می‌شود گفت در تمام صنایع شاهد افزایش بهره‌وری خواهیم بود چون تمام شرکت‌ها می‌خواهند به کمک دیتا دست به پیش‌بینی بزنند و هوش مصنوعی در پیش‌بینی‌کردن خیلی خوب است. از روش‌های قبلی ما بهتر عمل می‌کند. پس هوش مصنوعی باعث افزایش عظیم راندمان شرکت‌ها خواهد شد. مثلا فرض کنید ویندوز شما مشکل خورده و به مایکروسافت زنگ می‌زنید تا از آنها کمک بگیرید. شما اینجا با یک هوش مصنوعی صحبت خواهید کرد که خیلی بهتر از آدم‌ها اطلاعات دارد.

 ۲

ضربه‌ای که هوش مصنوعی به بازار کار می‌زند

وقتی چند سال پیش از شما درباره‌ی تاثیر هوش مصنوعی روی بازار کار پرسیدم به نظر می‌رسید که خیلی نگران نیستید. حالا هم همین‌طور فکر می‌کنید؟

نه، حالا فکر می‌کنم باید خیلی نگران باشیم. هوش مصنوعی در چند سال اخیر واقعا بهتر شده. اگر من در بخش خدمات مشتریان یک شرکت مشغول به کار بودم حتما نسبت به آینده نگران می‌شدم. 

 و شاید هم اگر شغل‌تان وکیل بود، یا روزنامه‌نگار یا حسابدار هم بود باید نگران می‌شدید.

 به نظرم هر کاری که تا حالا به صورت روتین انجام می‌شده، در خطر خواهد بود. مثلا به نظرم روزنامه‌نگاری تحقیقی مدتی طولانی دوام خواهد آورد چون برای انجام آن نیاز دارید که به لحاظ اخلاقی از مسئله‌ای خشمگین باشید و بعد برای پیدا کردن حقیقت کلی کار متفاوت انجام بدهید و با افراد فراوانی ارتباط بگیرید. اما حالا هر کار روتینی در خطر است: مثلا شغل منشی‌گری، یا دستیاران وکلا.

 به این فکر کرده‌اید که در دنیایی که این همه شغل از بین خواهد رفت چه کار باید بکنیم؟

ببنید خوش‌بین‌ها می‌گویند «اگر شما بتوانید راندمان کلی اقتصاد را بالا ببرید به نفع همه است. یعنی آدم‌هایی که این کارها را انجام می‌دهند حالا می‌توانند به جای ۶۰ ساعت در هفته، چند ساعت در هفته کار کنند. دیگر نیاز نیست آنها دوشغله باشند. در دنیایی که راندمان بالا رفته، شما با انجام یک شغل می‌توانید اندازه‌ی دو شغل حقوق بگیرید چون با دستیار هوش مصنوعی‌تان به همان اندازه مولد هستید.» اما من و شما می‌دانیم که ماجرا قرار نیست اینطوری پیش برود. ما می‌دانیم که قرار است پولدارها پولدارتر شوند و آدم‌های معمولی حالا باید سه شغله شوند تا اموراتشان بگذرد. 

 ۳

هوش مصنوعی و احتمال انقراض بشر

 خیلی‌ها از پرسیدن این سوال طفره می‌روند اما بهتر است آن را مطرح کنیم. چقدر احتمال می‌دهید هوش مصنوعی از ما باهوش‌تر شود و کنترل اوضاع را از دست ما خارج کند؟

 اکثر محققانی که در حوزه‌ی هوش مصنوعی تحقیق کرده‌اند معتقدند احتمال اینکه ۱) این هوش‌ها از ما خیلی باهوش‌تر شوند و بعد ۲) کنترل را در دست بگیرند خیلی بیشتر از ۱ درصد و خیلی کمتر از ۹۹ درصد است.

 این تخمین هیچ کمکی به ما نمی‌کند!

 چرا! برای شروع خوب است. ممکن است رخ بدهد و ممکن است رخ ندهد. البته افراد مختلف روی این اعداد تفاهم ندارند. من متاسفانه مجبورم با ایلان ماسک سر یک موضوع هم‌نظر باشم چون گفته احتمال اینکه هوش مصنوعی کنترل اوضاع را در دست بگیرد بین ۱۰ تا ۲۰ درصد است. اما این هم یک حدس است. ما داریم در مورد چیزی حرف می‌زنیم که هیچ تجربه‌ای از آن نداریم و به همین خاطر راه درستی برای تخمین احتمال آن را نداریم. به هر حال احتمالش خیلی بالاست که اینها از ما باهوش‌تر شوند، همین حالا از ما پراطلاع‌تر هستند. مثلا GPT4 هزاران بار از یک آدم معمولی بیشتر می‌داند اگر چه در هر حوزه‌ای متخصص خیلی خوبی نیست. اما در نهایت در هر حوزه‌ای متخصص خوبی خواهد شد. آنها می‌توانند ارتباطاتی را بین حوزه‌های مختلف ببینند که ما حتی به آنها فکر نمی‌کنیم.

 پس ۸۰ درصد احتمال می‌دهید که آنها کنترل را در دست نگیرند و ما را به نابودی نکشانند.

بله، اما فقط در صورتی که ما تصمیم بگیریم جلوی قدرت گرفتن هوش مصنوعی را بگیریم. یعنی تلاشی جدی صورت بگیرد تا با این روند مقابله شود. به نظر من موقعی که مردم احساس کنند اَبَرهوش ممکن است کنترل را در دست بگیرد شروع می‌کنند به فشار آوردن به دولت‌ها، تا تلاش جدی علیه آن انجام دهند. اما اگر ما همین روش کنونی را ادامه بدهیم، یعنی فقط شرکت‌های هوش مصنوعی را داریم که بدون محدودیت دنبال سود بیشتر هستند، هوش مصنوعی جوری قدرتمند می‌شود که کنترل را در دست خواهد گرفت. ما باید کاری کنیم که افکار عمومی روی دولت‌ها فشار بیاورند. اما حتی اگر هوش مصنوعی هم قدرت را در دست نگیرد ما گروه‌هایی را داریم که از هوش مصنوعی استفاده خواهند کرد تا کارهای بدی انجام دهد. مثلا با هوش مصنوعی نظارت سنگین روی مردم داشته باشند و همه‌ی کارهای آنها را رصد کنند. 

 شما سال گذشته برنده‌ی جایزه‌ی نوبل شدید و در سخنرانی‌تان به طور ضمنی گفتید که می‌خواهید از اعتبارتان استفاده کنید تا به مردم جهان پیام‌تان را برسانید. چه پیامی را می‌خواهید به مردم برسانید.

 پیام من این است که هوش مصنوعی به طور بالقوه خیلی خطرناک است و ما با دو شکل خطر روبروییم. یکی اینکه افراد با نیت‌های بد از آن استفاده کنند و دوم اینکه خود هوش مصنوعی قدرت را از چنگ ما بیرون بکشد. اینها تهدیدات کاملا متفاوتی هستند. ما می‌دانیم که افراد، گروه‌ها و حکومت‌ها با نیت‌های بد همین حالا هم دارند از هوش مصنوعی استفاده می‌کنند مثلا در زمان برگزیت، از هوش مصنوعی برای تبلیغات استفاده شد تا مردم انگلیس به شیوه‌ای ابلهانه به خروج از اتحادیه اروپا رای بدهند. ماجرا این بود که شرکتی به اسم کمبریج انلتیکا از فیس‌بوک اطلاعات خرید و به کمک هوش مصنوعی تبلیغات به شدت هوشمندانه‌ای انجام داد. تازه این ماجرا مربوط به ۵ سال پیش بود و هوش مصنوعی از آن زمان رشد خیره‌کننده‌ای داشته است. احتمالا در پیروزی ترامپ در سال ۲۰۱۶ هم هوش مصنوعی موثر بوده. اما حالا هوش مصنوعی بسیار قوی‌تر شده و مردم از آن به شیوه‌ای موثرتر استفاده خواهند کرد تا مثلا حملات سایبری ترتیب بدهند، ویروس‌های جدید طراحی کنند یا فیلم‌های تقلبی بسازند تا روی نتیجه‌ی انتخابات تاثیر بگذارند. به کمک هوش مصنوعی می‌توانند سلاح‌های مرگبار خودمختار طراحی کنند. تمام تولیدکنندگان بزرگ سلاح همین حالا در حال توسعه‌ی سلاح‌های مرگبار خودمختار هستند. سلاحی که خودش تصمیم می‌گیرد چه زمانی شلیک کند. آمریکا، روسیه، چین، انگلیس و اسرائیل و فکر می‌کنم کانادا در حال توسعه چنین سلاح‌هایی هستند.

۴

لابی خطرناک هوش مصنوعی

حالا سوال اینجاست که چه کار باید کرد.

 پس اول باید بین دو تهدید تفاوت قائل شویم. اول بازیگران بدی هستند که از هوش مصنوعی استفاده نادرست می‌کنند و دوم، خود هوش مصنوعی است که ممکن است از ما باهوش‌تر شود و قدرت را در دست بگیرد. من اصولا به تهدید دوم فکر می‌کنم، نه به این خاطر که از باقی تهدیدات مهم‌تر است، بلکه به این دلیل که مردم اصلا آن را تهدید نمی‌دانند و فکر می‌کنند داستان علمی تخیلی است. من می‌خواهم از اعتبارم استفاده کنم تا به مردم توضیح بدهم که نه، این داستانی علمی تخیلی نیست. ما باید واقعا نگرانش باشیم. و اگر از من بپرسید که باید برای این مشکل چه کار کنیم باید بگویم که این شبیه معضل گرم‌شدن زمین نیست. در مورد گرم‌شدن زمین راه‌حلش مشخص است: کربن نسوزانید و در بلندمدت همه چیز به حالت قبل برمی‌گردد. اما در مورد قدرت گرفتن هوش مصنوعی، ما واقعا نمی‌دانیم که راه حل چیست. پژوهشگران این حوزه نمی‌دانند اصلا راهی وجود دارد که جلوی آن را بگیریم یا نه. بدون شک باید تلاش زیادی بکنیم و شرکت‌های بزرگ هم قرار نیست این کار را بکنند. می‌دانید شرکت‌های بزرگ در حال حاضر چه کار می‌کنند؟ آنها میلیون‌ها دلار خرج لابی می‌کنند تا قوانین مربوط به هوش مصنوعی کمتر تصویب شود. همین حالا هم قوانین خاصی در مورد هوش مصنوعی نداریم اما آنها به دنبال کمترشدن قوانین هستند. چرا؟ چون سود کوتاه‌مدت می‌خواهند. ما نیازمند آنیم که مردم روی دولت‌ها فشار بیاورند تا آنها شرکت‌های بزرگ را مجبور کنند تحقیقات جدی روی امنیت ماجرا انجام دهند. مثلا در کالیفرنیا یک قانون معقول دارند به اسم قانون ۱۰۴۷ که می‌گوید دست کم شرکت‌های بزرگ باید چیزها را به دقت تست کنند و نتیجه را اعلام کنند. شرکت‌ها حتی این را هم دوست ندارند.

 فکر می‌کنید اصلا قرار نیست قانون و مقرراتی وضع شود یا قرار است شاهد سخت‌گیری نباشیم؟

 به این بستگی دارد که با چه دولتی طرف هستیم. به اعتقاد من تحت دولت کنونی آمریکا قرار نیست این صنعت زیر بار قوانین و مقررات برود. تمام شرکت‌های بزرگ هوش مصنوعی سعی می‌کنند رفیق گرمابه و گلستان ترامپ بشوند. وضعیت خوبی نیست.

 ایلان ماسک که در ماه‌های اول دولت ترامپ از افراد کلیدی او بوده، از جمله کسانی است که مدت‌های طولانی نسبت به خطرات هوش مصنوعی هشدار داده.

 ماسک مخلوط جالبی از چیزهای خوب و بد است. او اعتقادات ابلهانه‌ای دارد، مثل اینکه باید به مریخ برویم. و من واقعا فکر می‌کنم عقیده‌ی کاملا احمقانه‌ای است.

 چون قرار نیست رخ بدهد یا چون این نباید اولویت ما باشد؟

چون هر چقدر هم ما اوضاع زمین را خراب کنیم باز هم بارها و بارها از مریخ قابل سکونت‌تر خواهد بود. حتی اگر یک جنگ جهانی هسته‌ای راه بیفتد باز هم زمین جای بهتری خواهد بود. ماسک البته کارهای بزرگی انجام داده مثل ساخت خودروهای برقی. اما در حال حاضر به نظر می‌رسد مست قدرت شده و کارهای ابلهانه‌ای انجام می‌دهد. من او را مخلوطی بامزه از چیزهای خوب و بد می‌دانم.

 پس نگرانی‌های ماسک درباره‌ی هوش مصنوعی باعث نمی‌شود احساس بهتری راجع به دولت ترامپ داشته باشید.

 من فکر نمی‌کنم اینها باعث شود ترامپ در حوزه‌ی هوش مصنوعی تصمیمی عاقلانه و ایمن بگیرد. همین حالا شرکت OpenAI تصمیم گرفته وزن‌های مدل‌های زبانی هوش مصنوعی‌اش (weights of language models) را منتشر کند که تصمیم بسیار خطرناکی است.

 اصلا این یعنی چه؟ وزن مدل زبانی چه اهمیتی دارد؟

ببینید وزن‌ها به مجموعه اعداد و پارامترهایی می‌گویند که یک مدل هوش مصنوعی مثل چت‌جی‌پی‌تی در طول آموزش یاد می‌گیرد. این وزن‌ها تعیین می‌کنند که مدل چگونه به ورودی‌ها پاسخ دهد، مثلاً چگونه متن تولید کند یا سوالات را جواب دهد. حالا اوپن‌ای‌آی اعلام کرده که می‌خواهد اولین مدل‌ زبانی وزن باز خود را به طور عمومی منتشر کند. این یعنی دیگران هم می‌توانند این مدل‌ها را تحلیل کنند و بر اساس نیازهای خاص خود، آن‌ها را تنظیم کنند. عده‌ای به اشتباه فکر می‌کنند این خوب است چون دانش را در اختیار همگان قرار می‌دهد. نه! وقتی شما وزن‌های این مدل‌های زبانی را منتشر می‌کنید مانع اصلی استفاده‌ی همه از این چیزها را از بین می‌برید.

بگذارید یک مثال بزنم. فکر می‌کنید چرا کشورهای اندکی سلاح اتمی دارند؟ چون رسیدن به ماده‌ی شکافت‌پذیر آسان نیست. اگر شما بتوانید در سایت آمازون ماده‌ی شکافت‌پذیر بخرید آن‌وقت کشورهای دیگر هم می‌توانند بمب اتم درست کنند. ماده‌ی شکافت‌پذیر برای بمب‌ اتم همان‌کاری را می‌کند که وزن برای مدل زبانی می‌کند. چون باید صدها میلیون دلار هزینه کنید تا یک مدل بزرگ زبانی را آموزش بدهید. فرقه‌های کوچک و گروه‌های تبهکار سایبری که چنین بودجه‌ای ندارند. وقتی شما وزن‌ها را منتشر می‌کنید آنها می‌توانند از همین نقطه‌ی کنونی شروع کنند و هوش مصنوعی را با توجه به نیازهایشان تنظیم کنند. در چنین صورتی آنها به جای صدها میلیون دلار فقط چند میلیون دلار نیاز دارند. به نظرم چنین حرکتی توسط شرکت‌های بزرگ ابلهانه است. مردم طوری حرف می‌زنند که انگار شرکت‌ها دارند به بشریت خدمت می‌کنند.

 مدافعان این ایده می‌گویند کدام بهتر است؟ اینکه این تکنولوژی قدرتمند دست عده‌ای اندکی باشد یا اینکه همه بتوانند از آن استفاده کنند؟

به نظرم اینکه عده‌ی اندکی آن را کنترل کنند بهتر است. اینکه یک تکنولوژی به شدت قدرتمند دست همه بیفتد اصلا چیز خوبی نیست. می‌توانید این را برای بمب اتم هم بگویید. اینکه همه بمب اتم داشته باشند چیز خوبی نیست. 

پس شما به شدت نگران رفتار شرکت‌های حاضر در حوزه‌ی هوش مصنوعی هستید.

ببینید شرکت‌ها قانونا مجبورند برای افزایش سود سهامدارانشان تلاش کنند. آنها قانونا مجبور نیستند به نفع جامعه کار کنند. 

کار کردن در کدام یک از این شرکت‌ها ممکن است احساس بهتری به شما بدهد؟

 من قبلا از کارکردن در گوگل حس خوبی داشتم چون گوگل مسؤلیت‌پذیر بود. گوگل اولین شرکتی بود که چت‌بات‌های هوش مصنوعی را راه انداخت اما هیچ وقت آنها را منتشر نکرد. اگر حالا در گوگل کار می‌کردم کمتر خوشحال بودم. الان از کار کردن در هیچ کدام از این شرکت‌ها حس خوبی نخواهم داشت.

 گوگل قول داده بود از استفاده‌های نظامی از هوش مصنوعی حمایت نکند.

 وقتی گوگل قولش را شکست بسیار ناامید شدم. من می‌دانستم که سرگی برین مخالف استفاده نظامی از هوش مصنوعی است.

چه شد که تصمیمشان عوض شد؟

 (مکث می‌کند و لبخند می‌زند) من اطلاعاتی از ماجراهای داخلی گوگل ندارم. من فکر می‌کنم آنها به این نتیجه رسیدند که اگر به آمریکا در ساخت سلاح کمک نکنند مورد بی‌مهری این دولت قرار می‌گیرند.

 سخت‌ترین سوال امروز را بپرسم: آیا هنوز سهام گوگل را نگه داشته‌اید؟

من مقداری سهام گوگل دارم. اما اکثر پس‌انداز من دیگر سهام گوگل نیست. و وقتی ارزش سهام گوگل بالا برود خوشحال می‌شوم و وقتی پایین بیاید ناراحت می‌شوم. پس من منافعی در گوگل دارم. البته اگر گوگل در حوزه‌ی هوش مصنوعی سخت‌گیری کند و این باعث شود ارزش سهام گوگل پایین بیاید و احتمال نجات بشریت بالا برود من خیلی خوشحال می‌شوم. 

 شرکت اوپن‌ای‌آی (موسس ChatGPT) یکی از قوی‌ترین تیم‌های تحقیقاتی را در حوزه‌ی هوش مصنوعی داشته اما آنها تعداد زیادی از محققان رده‌بالای خود را از دست داده‌اند. نظرتان درباره‌ی این روند چیست؟

 این شرکت اصلا راه افتاده بود تا هوش مصنوعی امن به وجود آورد. اما هر چه گذشت بحث ایمنی کمرنگ و کمرنگ‌تر شد. آنها حتی قرار بود بخشی از قدرت کامپیوتری و بودجه‌ی خود را وقف ایمنی کنند اما آن را فراموش کردند. آنها حالا به سوددهی بالا فکر می‌کنند و تلاش می‌کنند تمام تعهدات سابق خود به ایمنی هوش مصنوعی را کنار بگذارند. به همین خاطر پژوهشگران مهمی را از دست داده‌اند.

 در مورد رقابت کنونی آمریکا و غرب با چین چه نظری دارید؟ اینکه ما جلوی دسترسی آنها به تکنولوژی هوش مصنوعی را بگیریم و بگوییم اول باید دموکراتیک شوید تا بعد تصمیم بگیریم.

اول باید تصمیم بگیریم کدام کشورها هنوز دموکراسی به حساب می‌آیند! به نظرم در بلندمدت این محدودیت‌ها تاثیر خاصی نمی‌گذارد. البته آنها را کند می‌کند اما می‌روند صنایع بومی خودشان را توسعه می‌دهند. فرض کنید جلوی دسترسی آنها به پیشرفته‌ترین تکنولوژی‌ها بگیریم. مردم می‌دانند این تکنولوژی‌ها چطور کار می‌کنند و در نهایت به آن می‌رسند. چین میلیاردها دلار در این حوزه‌ها سرمایه‌گذاری کرده تا صنایع خودش را بسازد. آنها خیلی متبحر هستند. 

می‌گویند ما نباید با چین کمونیست همکاری کنیم.

به نظر من آنها دیگر کمونیست نیستند!

 به نظرتان این بیکاری گسترده‌ای که هوش مصنوعی به وجود می‌آورد چه راه حلی دارد؟ باید به همه مردم یک حقوق پایه بدهیم؟

 برای اینکه مردم به گرسنگی نیفتند احتمالا راه حلی بدی نیست. اما کل مشکل را حل نخواهد کرد. حتی اگر به همه‌ی مردم حقوق پایه‌ی بالایی هم بدهید مشکل بی‌استفاده ماندن آنها را برطرف نخواهید کرد. هویت خیلی از مردم با کار آنها گره خورده. وقتی آنها بیکار شوند و حتی اگر همان حقوق سابق‌شان را بگیرند باز حال‌شان مثل قبل نخواهد بود. آنها بخشی از هویت‌شان را از دست خواهند داد.

 شما یک بار گفته بودید که دوست دارید نجار بشوید. موقعی که هوش مصنوعی همه‌ی کارها را انجام بدهد شما می‌توانید بروید روی چوب کار کنید.

 اینکه کاری را برای تفریح انجام بدهید فرق می‌کند با وقتی که آن کار را برای تامین زندگی‌تان انجام می‌دهید. در حالت دوم آن کار واقعا کار است.

پس از آن آینده‌ای که همه حقوق پایه می‌گیرند و دنبال علایق‌شان هستند خوش‌تان نمی‌آید؟

 این خوب است فقط به شرطی که همه همین وضع را داشته باشند. اما اگر شما جزو گروهی باشید که بیکار هستند و حقوق پایه می‌گیرند، و عده‌ی دیگری با حقوق‌های بالاتر مشاغل خاصی را دارند، ماجرا فرق می‌کند.

منبع: آینده نگر