یکی از چالش‌های واقعی برای افرادی که تازه از دانشگاه فارغ‌التحصیل شده‌اند این است که نظام دانشگاهی در سازگار شدن با تغییرات، کُند عمل می‌کند. سرعت تغییر در دانشگاه به‌هیچ‌وجه با سرعت تغییرات هوش مصنوعی همخوانی ندارد.
ترجمه: کاوه شجاعی
اندرو انگ (Andrew Ng) زاده‌ی ۱۹۷۶ در لندن (از پدر و مادری هنگ‌کنگی) از چهره‌های تأثیرگذار و شناخته‌شده در حوزه‌ی هوش مصنوعی و یادگیری ماشین در جهان است. او یکی از سه بنیانگذار پروژه‌ی تحقیقاتی هوش مصنوعی گوگل (Google Brain) در سال ۲۰۱۱ بود که راه را برای ورود شرکت گوگل به این حوزه هموار کرد. انگ تلاش کرده این حوزه را از فضای صرفاً دانشگاهی و آزمایشگاهی به ابزاری کاربردی برای کسب‌وکارها و عموم مردم نزدیک کند. او که سال‌ها در دانشگاه استنفورد تدریس کرده، بنیانگذار پلتفرم آموزش آنلاین کورسرا است.
انگ برخلاف برخی روایت‌های افراطی درباره‌ی هوش مصنوعی ــ چه روایت‌های کاملاً بدبینانه درباره‌ی نابودی مشاغل و چه وعده‌های اغراق‌آمیز درباره‌ی توانایی‌های نامحدود این تکنولوژی ــ تلاش می‌کند تصویری واقع‌بینانه از فرصت‌ها و چالش‌های AI ارائه دهد. او در این گفت‌وگو با مارینا موگیلکو در پادکست محبوب «سیلکون‌ولی گرل» درباره‌ی آینده‌ی مشاغل، نقش انسان در کنار هوش مصنوعی، مهارت‌های مورد نیاز نسل جدید و چگونگی استفاده‌ی مؤثر از ابزارهای هوش مصنوعی صحبت می‌کند.
۱
موج مخالفت با هوش مصنوعی از کجا آغاز شد
مارینا موگیلکو: چیزی که من به‌خصوص در تابستان اخیر دیدم این بود که جامعه، به‌ویژه در شبکه‌های اجتماعی، درباره‌ی هوش مصنوعی بسیار دوقطبی شده. وقتی درباره‌ی هوش مصنوعی پست می‌گذارم، مردم از هجوم مراکز داده (data centers) به شهرها و از دست رفتن مشاغل حرف می‌زنند. این موج اخیر چطور شروع شد؟
اندرو انگ: اطلاعات نادرست زیادی درباره‌ی هوش مصنوعی منتشر شده و ریشه‌ی بسیاری از این مسائل، به نظر من، یک تلاش ناخوشایند است که از دو یا سه سال پیش آغاز شد؛ تلاشی که ترکیبی از روابط عمومی شرکت‌ها و تلاش برای تأثیرگذاری بر قانون‌گذاران بود.
ببینید در حال حاضر یکی از ارزشمندترین چیزها در حوزه‌ی هوش مصنوعی، مدل‌های عظیم هوش مصنوعی، به‌ویژه مدل‌های زبانی بزرگ، هستند که شرکت‌ها آموزش داده‌اند. اما اگر میلیاردها دلار برای آموزش یک مدل هزینه کرده باشید، بسیار ناخوشایند خواهد بود اگر کس دیگری مدلی مشابه بسازد و بخواهد آن را به‌صورت رایگان در اختیار همه‌ی مردم جهان قرار دهد. (کاری که دیپ‌سیک چینی انجام داد.)
بنابراین به نظر من، تعدادی از شرکت‌های پیشرو در حوزه‌ی هوش مصنوعی با صدای بسیار بلند درباره‌ی خطرات این تکنولوژی هشدار داده‌اند تا مقرراتی ایجاد شود که زمین بازی ناعادلانه‌ای به نفع شرکت‌های فعلی شکل دهد؛ به شکلی که همه‌ی ما مجبور شویم هزینه‌ی بالایی برای استفاده از هوش مصنوعی بپردازیم و در عین حال تیم‌های دیگر - چه پژوهشگران و چه شرکت‌هایی که می‌خواهند مدل‌های متن‌باز را با هزینه‌ی بسیار کمتر در اختیار دیگران قرار دهند - محدود شوند.
متاسفانه این ایجاد ترس تا آنجا پیش رفت که مدعی شدند هوش مصنوعی مانند سلاح اتمی خطرناک است؛ مقایسه‌ای که هیچ پایه‌ی واقعی ندارد. این دو تا چه ربطی به هم دارند؟ یا زمانی که نمونه‌هایی را انتخاب کنیم که هوش مصنوعی در آنها اشتباه کرده و آن موارد را بسیار بزرگ‌تر از واقعیت نشان می‌دهیم. حتی گاهی اطلاعات نادرستی درباره‌ی میزان مصرف آب مراکز داده‌ی هوش مصنوعی منتشر می‌شود و این میزان را بسیار بیشتر از واقعیت جلوه می‌دهند.
این موج مداوم ارسال پیام‌های مبتنی بر ترس باعث شده برداشت جامعه از هوش مصنوعی بسیار منفی شود؛ این تاسف‌آور است چون سرعت پذیرش هوش مصنوعی در آمریکا را کاهش می‌دهد و رقابت‌پذیری‌اش را پایین می‌آورد.
۲
از دست رفتن مشاغل و افزایش نابرابری
موگیلکو: می‌خواهم به طور خاص درباره‌ی برخی از نگرانی‌های مردم صحبت کنیم: مثل از دست رفتن مشاغل و افزایش نابرابری.
انگ: ایده‌ی «آخرالزمان مشاغل» یا Jobpocalypse ــ اینکه هوش مصنوعی بیش از ۵۰ درصد مشاغل را تصاحب خواهد کرد، مردم بیکار خواهند شد و در خیابان‌ها شورش خواهند کرد ــ به سادگی اتفاق نخواهد افتاد.
با هر موج تکنولوژی، از جمله هوش مصنوعی، مهارت‌هایی که برای انجام کارها نیاز داریم تغییر می‌کنند. بنابراین هوش مصنوعی هم حرفه‌ها و مشاغل را تغییر می‌دهد.
اما واقعاً ای کاش هوش مصنوعی بهتر کار می‌کرد. می‌دانم که تعدادی از کسب‌وکارها تلاش می‌کنند درباره‌ی هوش مصنوعی اغراق کنند و بگویند ما به اَبَرهوش یا هوش عمومی مصنوعی (AGI) رسیده‌ایم و این می‌تواند همه‌ی کارهایی را که انسان انجام می‌دهد انجام دهد. اما من واقعاً آرزو می‌کنم هوش مصنوعی بهتر بود. ما هنوز به اندازه‌ای پیشرفته نیستیم که بتوانیم کاری کنیم هوش مصنوعی همه‌ی کارهای یک انسان را انجام دهد.
اگر تحلیل‌های مربوط به مشاغل را نگاه کنید، اقتصاددانانی مانند دوست من اریک برین‌یولفسون در دانشگاه استنفورد و اندی مک‌آفی در مؤسسه‌ی فناوری ماساچوست (MIT)، مشاغل فراوانی را بررسی کرده‌اند و آنها را به وظایف کوچک‌تر تقسیم کرده‌اند. باید اینطوری به ماجرا نگاه کنیم:
ممکن است هوش مصنوعی بتواند ۳۰ یا ۴۰ درصد از بسیاری از مشاغل را انجام دهد. معنای این موضوع این است که آن ۶۰ درصد باقی‌مانده که انسان انجام می‌دهد، حتی ارزشمندتر خواهد شد؛ زیرا آن بخش، مکمل اقتصادی برای ۳۰ یا ۴۰ درصدی است که اکنون ارزان‌تر انجام می‌شود.
بنابراین اتفاقی که خواهد افتاد این است که شاید افرادی که از هوش مصنوعی استفاده می‌کنند جایگزین افرادی شوند که از آن استفاده نمی‌کنند؛ اما هوش مصنوعی هنوز در موقعیتی نیست که در بیشتر مشاغل جای انسان‌ها را بگیرد.
۳
حال و آینده‌ی مهندسان نرم‌افزار
انگ: در میان همه‌ی حرفه‌های مختلف، حرفه‌ای که در حال حاضر بیش از همه تحت تأثیر هوش مصنوعی قرار گرفته، مهندسی نرم‌افزار است، چون هوش مصنوعی واقعا در نوشتن کد فوق‌العاده عمل می‌کند.
اما چیزی که می‌بینیم این است که برخلاف ادعای کسانی که با بدبینی درباره‌ی آینده صحبت می‌کنند، تعداد فرصت‌های شغلی در بخش مهندسی نرم‌افزار افزایش یافته است. هوش مصنوعی در واقع نمی‌تواند جای مهندسان نرم‌افزار را بگیرد. همه‌ی مهندسان نرم‌افزار توانمندی که من می‌شناسم سرشان از همیشه شلوغ‌تر است.
البته سوی دیگر ماجرا این است که اگر کسی هنوز همان‌طور کدنویسی کند که در سال ۲۰۲۲، پیش از ظهور ChatGPT، کدنویسی می‌کرد، دچار مشکل خواهد شد. چنین فردی باید مهارت‌های جدیدی یاد بگیرد.
نباید همچنان کارهایی را انجام دهید که هوش مصنوعی می‌تواند ۳۰ یا ۴۰ درصد آنها را خودکار کند. باید این کار را متوقف کنید. اجازه دهید هوش مصنوعی آن بخش را انجام دهد و در عوض، مهارت‌های تازه‌ای کسب کنید تا بتوانید آن ۶۰ یا ۷۰ درصدی را انجام دهید که هوش مصنوعی از پس آن برنمی‌آید.
۴
توصیه به دانشجویان
موگیلکو: توصیه‌ی شما به فارغ‌التحصیلان جدید چیست؟ من در همین پادکست با اریک اشمیت از گوگل صحبت کردم و او می‌گفت که در مجموع هنوز تاثیر خیلی زیادی بر بازار کار دیده نمی‌شود، به‌جز، اگر درست یادم باشد، گروه سنی ۱۸ تا ۲۵ سال که تازه فارغ‌التحصیل شده‌اند. توصیه‌ی شما به افرادی که هنوز آن تخصص و تجربه را ندارند که بتوانند درباره‌ی شغل‌شان استراتژیک فکر کنند چیست؟ شاید در حال حاضر فقط بتوانند کارهای اجرایی و دستی انجام دهند؛ همان کارهایی که هوش مصنوعی هم قادر به انجامشان است.
انگ: یکی از چالش‌های واقعی برای افرادی که تازه از دانشگاه فارغ‌التحصیل شده‌اند این است که نظام دانشگاهی در سازگار شدن با تغییرات، کُند عمل می‌کند.
من دانشگاه و فضای آکادمیک را بسیار دوست دارم. فکر می‌کنم همه‌ی ما باید از دانشگاه‌ها و محیط دانشگاهی حمایت کنیم. اما وقتی هوش مصنوعی از راه می‌رسد و شیوه‌ی نوشتن نرم‌افزار را متحول می‌کند، معمولاً حدود یک یا دو سال طول می‌کشد تا اعضای هیات علمی مهارت‌های جدید را به‌خوبی یاد بگیرند. بعد باید دوره‌های جدید طراحی کنند، تأیید کمیته‌ی برنامه‌ی درسی را بگیرند، شاید شورای دانشگاه هم باید رای بدهد و مراحل دیگری طی شود. همه‌ی این فرایندها سال‌ها زمان می‌برد.
سرعت تغییر در دانشگاه به‌هیچ‌وجه با سرعت تغییرات هوش مصنوعی همخوانی ندارد.
متأسفانه بسیاری از دانشگاه‌ها هنوز دانشجویان را برای مشاغل سال ۲۰۲۲ آماده می‌کنند، در حالی که حتی نباید آنها را صرفا برای مشاغل سال ۲۰۲۶ آماده کنیم. باید آنها را برای مشاغل سال ۲۰۲۸ و سال‌های پس از آن آموزش دهیم.
اما این وضعیت به این معنا نیست که فرصت شغلی وجود ندارد. فرصت‌های شغلی فراوانی وجود دارند. بسیاری از کارفرمایانی که می‌شناسم، در پیدا کردن افراد ماهر با مشکل مواجه‌اند؛ آن هم تقریبا در هر سطحی از سابقه و رده‌ی شغلی.
همین حالا در دفتر من تعداد زیادی کارآموز حضور دارند. بعضی از آنها هنوز دانشجو هستند و بعضی به‌تازگی فارغ‌التحصیل شده‌اند. حتی یک کارآموز دبیرستانی هم داریم و عملکردشان فوق‌العاده و بهره‌وری‌شان بالاست.
نکته‌ی کلیدی این است که همه‌ی آنها به‌اصطلاح «AI Native» یا کاملاً آشنا و خوگرفته با هوش مصنوعی هستند. آنها «بومی دنیای هوش مصنوعی» به حساب می‌آیند. آنها از ابزارهای هوش مصنوعی برای انجام کارهایی استفاده می‌کنند که هوش مصنوعی قادر به انجامشان است، اما هم‌زمان تمرکز خود را بر کارهایی می‌گذارند که انسان می‌تواند انجام دهد و هوش مصنوعی تا مدت‌ها قادر به انجامشان نخواهد بود. بنابراین کار زیادی برای انجام دادن وجود دارد.
توصیه‌ی من به کسانی که تازه فارغ‌التحصیل شده‌اند یا هنوز در دانشگاه هستند این است که حتماً در کلاس‌ها جدی و سخت‌کوش باشند، اما هرجا مهارت‌های دیگری وجود دارد که دانشگاه هنوز فرصت نکرده آنها را وارد برنامه‌ی آموزشی کند، باید راه‌های دیگری برای یادگیری پیدا کنند؛ مثلاً از دوره‌های آنلاین در پلتفرم‌هایی مانند Coursera، DeepLearning.AI، Udemy یا منابع دیگر استفاده کنند تا مهارت‌های به‌روزتر را یاد بگیرند، به‌خصوص مهارت‌های مرتبط با هوش مصنوعی که بسیاری از دانشگاه‌ها هنوز وارد برنامه‌ی درسی خود نکرده‌اند.
۵
با هوش مصنوعی بیشتر بسازید
انگ: می‌خواهم به نکته‌ی دیگری هم اشاره کنم. اگر به تغییر نقشه‌ی مهارت‌ها نگاه کنید، متوجه می‌شوید که یکی از مهم‌ترین تغییرات این است که ساختن چیزهای جدید با هوش مصنوعی بسیار آسان‌تر از گذشته شده است. وقتی انجام کاری بسیار آسان‌تر می‌شود، افراد بسیار بیشتری هم باید آن کار را انجام دهند.
بنابراین امروز دیگر فقط مهندسان حرفه‌ای نرم‌افزار نیستند که باید با استفاده از هوش مصنوعی نرم‌افزار بسازند. ساختن و توسعه دادن با کمک هوش مصنوعی برای همه آسان‌تر شده است. افرادی که این تغییر را می‌پذیرند و از آن استفاده می‌کنند، بهره‌وری بیشتری خواهند داشت، کارهای بیشتری انجام خواهند داد و حتی فکر می‌کنم نسبت به کسانی که این ابزارها را نمی‌پذیرند بیشتر هم از کارشان لذت خواهند برد. هوش مصنوعی به شما اجازه می‌دهد چیزها را با سرعت بسیار بالایی بسازید.
بنابراین فقط درباره‌ی مهندسان نرم‌افزار صحبت نمی‌کنیم. بازاریاب‌ها، نیروهای استخدام، متخصصان منابع انسانی، کارشناسان عملیات و افراد فعال در حوزه‌های دیگر نیز اگر یاد بگیرند چگونه با هوش مصنوعی چیزهای جدید بسازند، می‌توانند تقریبا در هر شغلی که دارند، کار بسیار بیشتری انجام دهند. همین حالا برای من این سوال پیش آمده که شما در کسب‌وکارتان چگونه از هوش مصنوعی استفاده می‌کنید؟
موگیلکو: راستش ما خیلی از آن استفاده می‌کنیم! اول از همه، همه‌ی ما به Claude دسترسی داریم و برای هر شبکه‌ی اجتماعی که در آن فعالیت می‌کنیم، پروژه‌های مشخصی ساخته‌ایم. مثلاً برای همین پادکست پروژه‌ای به نام «مهمانان» داریم. این پروژه تمام داده‌های تحلیلی مربوط به مهمانان قبلی را می‌داند و مجموعه‌ای از معیارها دارد که براساس آنها هر فردی را که قرار است به پادکست بیاید رتبه‌بندی می‌کند. بررسی می‌کند که آیا به آن فرد ارجاع و استناد شده یا نه، آیا دیدگاه مشخصی درباره‌ی هوش مصنوعی دارد، آیا در شرکتش در این زمینه فعال بوده یا مثلا اخیرا شرکتی در حوزه‌ی هوش مصنوعی تأسیس کرده یا نه. به هریک از این معیارها وزن متفاوتی می‌دهد و در نهایت امتیازی تولید می‌کند؛ مثلا امتیاز ۴۰ ممکن است به معنای سطح یک باشد، امتیاز ۳۰ به معنای سطح سه و به همین ترتیب. یک پروژه‌ی دیگر هم داریم که تک‌تک قسمت‌های پادکست را تحلیل می‌کند و به من پیشنهاد می‌دهد که چگونه سؤال‌هایم را مطرح کنم. برای اینستاگرام هم همین‌طور است، برای لینکدین هم همین‌طور. سیستم لحن من، پرونده‌ی شخصی من و استراتژی‌های کسب‌وکارم را می‌شناسد. بنابراین هر وقت چیزی می‌نویسد، تمام اطلاعات مربوط به من و نحوه‌ی صحبت کردنم را می‌داند. البته هر شبکه‌ی اجتماعی توسط یک انسان اداره می‌شود، بنابراین تصمیم استراتژیک نهایی را یک فرد می‌گیرد.
راستی اگر بتوانید درباره‌ی این فرایند به من مشاوره بدهید و بگویید چطور می‌توانم آن را بهتر کنم، عالی است. ببینید ما در گروهی تلگرامی در مورد کارهای تیم بازخورد می‌دهیم. مثلا اعضای تیم متنی برای من می‌فرستند و من می‌گویم: «خب، باید این قسمت، آن قسمت و فلان مورد را تغییر دهیم.» ما این بازخوردها را داریم و حتی یک بات هم داریم که تمام گفت‌وگوهای ما را اسکن می‌کند. اما چیزی که واقعاً می‌خواهم این است که هوش مصنوعی بتواند به‌طور مستمر از این بازخوردها یاد بگیرد و سلیقه‌ی من را بهتر و بهتر بشناسد.
انگ: یکی از چیزهایی که زیاد در هوش مصنوعی می‌بینم این است که وقتی از AI به‌عنوان یک دانشمند داده یا شریک طوفان فکری استفاده می‌کنید، اغلب یک یا دو ایده‌ی خوب ارائه می‌دهد، دو یا سه ایده‌ی متوسط و چهار ایده‌ی واقعاً افتضاح.
گاهی آدم با خودش فکر می‌کند: «هوش مصنوعی من چطور اصلا تصور کرده که چنین چیزی می‌تواند یک ایده‌ی قابل قبول باشد؟»
به نظر من این موضوع به بحث «آخرالزمان مشاغل» هم مرتبط است.
برای مدت طولانی، انسان‌ها ــ من، شما و همه‌ی کسانی که شاهد این گفت‌وگو را هستند ــ در مقایسه با هوش مصنوعی یک مزیت بسیار مهم خواهند داشت: مزیت زمینه یا Context Advantage.
شما ممکن است چیزی را بدانید که برای خودتان کاملا بدیهی است و براساس آن فوراً متوجه شوید یک ایده بسیار بد است، اما هوش مصنوعی آن را نمی‌داند.
یکی از دلایلی که باعث می‌شود هوش مصنوعی در آینده‌ی نزدیک نتواند همه‌ی مشاغل یا حتی بخش بسیار بزرگی از مشاغل را جایگزین کند این است که انسان‌ها در مقایسه با AI از نظر درک زمینه، مزیت عظیمی دارند. ما در طول سال‌ها تجربه، اطلاعات بسیار زیادی کسب کرده‌ایم. مثلاً با یک مشتری صحبت کرده‌ایم و حالت عجیب چهره‌ی او را دیده‌ایم و از همان حالت فهمیده‌ایم: «آها، این را دوست ندارد.» یا با فردی در یک کسب‌وکار صحبت کرده‌ایم، یا مدیرمان به ما گفته است: «این موضوع برای من واقعاً مهم است.»
انسان‌ها ــ شاید بتوان گفت تقریبا همه‌ی انسان‌ها ــ حجم عظیمی از چنین اطلاعاتی را در ذهن دارند؛ اطلاعاتی که اساسا هنوز زیرساختی وجود ندارد که بتوان همه‌ی آنها را به هوش مصنوعی منتقل کرد. و فکر نمی‌کنم در آینده‌ی قابل پیش‌بینی هم چنین زیرساختی ایجاد شود.
گاهی مردم درباره‌ی اهمیت «قضاوت انسانی» یا «سلیقه‌ی انسانی» صحبت می‌کنند و ممکن است از خودتان بپرسید: بسیار خب، اصلاً سلیقه چیست؟ آیا چیزی مبهم و تعریف‌ناپذیر است؟ اما از نظر من، آن عامل فنی و بنیادی که توضیح می‌دهد چرا انسان‌ها در مقایسه با هوش مصنوعی قضاوت و سلیقه‌ی بهتری دارند، همین مزیت زمینه است. و چون این یک مزیت بلندمدت است و قرار نیست کسی ظرف چند سال آینده آن را به‌سادگی حل کند، ما به انسان‌های بسیار بیشتری نیاز خواهیم داشت که با قضاوت و سلیقه‌ی خود، هوش مصنوعی را تکمیل کنند.
۶
چرا هوش مصنوعی برای یادگیری بد است
موگیلکو: آیا این موضوع آموزش را حتی مهم‌تر نمی‌کند؟ چون آموزش به ما «زمینه» می‌دهد. این یکی دیگر از چیزهایی است که درباره‌ی هوش مصنوعی می‌شنوم: اینکه دیگر به آموزش نیاز نداریم، چون تمام اطلاعات در دسترس ماست و کافی است از ChatGPT سؤال کنیم. اما وقتی شما درباره‌ی زمینه و سلیقه صحبت می‌کنید، از نظر من این‌ها حاصل سال‌ها کسب دانش، یاد گرفتن از بهترین افراد و دیدن نحوه‌ی عملکرد آن‌هاست، نه صرفا سؤال پرسیدن از یک چت‌بات.
انگ: می‌خواهم چیزی بگویم که شاید بحث‌برانگیز باشد. نمی‌دانم قبلاً این را به‌صورت عمومی گفته‌ام یا نه، اما فکر می‌کنم حقیقت دارد: صادقانه بگویم، مدل‌های هوش مصنوعی برای یادگیری افتضاح هستند.
می‌دانم که مردم فکر می‌کنند هوش مصنوعی برای انجام دادن کارها فوق‌العاده است. خود من هم همیشه از آن استفاده می‌کنم و دوستش دارم. اما تمام داده‌هایی که منتشر می‌شوند یک نکته را نشان می‌دهند. مثلاً وقتی دانشجویان دانشگاه از هوش مصنوعی استفاده می‌کنند داده‌ها بسیار روشن‌اند. دانشجویان وقتی برای انجام تکالیفشان از هوش مصنوعی استفاده می‌کنند، نمرات بالاتری می‌گیرند. عالی است؛ نمره‌ی تکالیفشان بالاتر می‌رود. اما میزان ماندگاری مطالب در ذهن و عملکرد بلندمدت آنها بسیار ضعیف‌تر می‌شود، چون هوش مصنوعی کار را به جای آنها انجام می‌دهد. اکنون پژوهش‌های بیشتری منتشر می‌شوند که این موضوع را تأیید می‌کنند.
به نظر من ویکی‌پدیا ابزار فوق‌العاده‌ای است و حجم عظیمی از اطلاعات را در اختیار ما قرار می‌دهد. جست‌وجوی وب هم ابزار فوق‌العاده‌ای است و اطلاعات بسیار زیادی دارد. اما وقتی از هوش مصنوعی می‌خواهید کاری را به جای شما انجام دهد، در واقع بخشی از فعالیت شناختی خود را به هوش مصنوعی واگذار می‌کنید؛ چیزی که در اصطلاح به آن Cognitive Offloading یا «برون‌سپاری شناختی» گفته می‌شود. از یک جهت این اتفاق فوق‌العاده است، چون جامعه به همین شکل پیشرفت می‌کند و کارها انجام می‌شوند. اما از طرف دیگر، میزان ماندگاری اطلاعات در ذهن انسان بسیار کمتر می‌شود. حالا کاملاً روشن است که استفاده از هوش‌های مصنوعی، دست‌کم به شیوه‌ای که امروز معمولاً مورد استفاده قرار می‌گیرند، برای یادگیری بسیار بد هستند.
نمی‌گویم هیچ راهی برای استفاده از هوش مصنوعی وجود ندارد که به یادگیری کمک کند. فکر می‌کنم روش‌هایی وجود دارند که می‌توان از این ابزارها به شکل مفید برای یادگیری استفاده کرد. اما حتی درباره‌ی خودم هم همین‌طور است. در شش ماه گذشته بارها هنگام ساخت یک پروژه از مدل هوش مصنوعی سؤال کرده‌ام. مثلاً پرسیده‌ام: «این بخش فرانت‌اند و بک‌اند چطور کار می‌کند؟» هوش مصنوعی جواب را به من داده، من کارم را انجام داده‌ام و نتیجه هم فوق‌العاده بوده است. اما شش ماه بعد، دیگر جواب را به خاطر نمی‌آورم. وقتی دوباره لازم باشد همان بخش فرانت‌اند یا بک‌اند را بسازم، دوباره از هوش مصنوعی سؤال می‌کنم. بنابراین داده‌ها واقعاً روشن هستند. باید این تصور را کنار بگذاریم که هوش مصنوعی ذاتاً برای یادگیری مفید است.
درباره‌ی کودکانی که با هوش مصنوعی بزرگ می‌شوند هم همین نگرانی را دارید؟
انگ: فکر می‌کنم آینده‌ی کودکان روشن است. واقعاً دوران هیجان‌انگیزی برای کودک بودن و بزرگ شدن است، چون آنها در محیطی بزرگ می‌شوند که ابزارهایی در اختیارشان قرار دارد که هیچ‌کدام از ما در کودکی نداشتیم. موضوعی که شخصاً خیلی درباره‌اش نگرانم این است که هوش مصنوعی، با وجود اینکه ابزار فوق‌العاده‌ای است، بتواند به فرایند یادگیری آسیب بزند. من خودم یک فرزند پنج‌ساله و یک فرزند هفت‌ساله دارم. وقتی به آنها ریاضی یاد می‌دهم، هنوز آن‌قدر کوچک هستند که عملاً می‌توانم اجازه ندهم از ماشین‌حساب استفاده کنند. می‌توانم بپرسم: «این دو عدد را چطور در هم ضرب می‌کنی؟» و ماشین‌حساب هم در اختیارشان نگذارم تا خودشان تمرین کنند. اما وقتی کمی بزرگ‌تر شوند، به‌شدت نگران این هستم که دانش‌آموزان از هوش مصنوعی برای «برون‌سپاری شناختی» استفاده کنند و در نتیجه توانایی نگهداری بلندمدت آموخته‌ها در ذهنشان آسیب ببیند.
۷
انتخاب رشته‌ی دانشگاهی در عصر هوش مصنوعی
مارینا موگیلکو: اگر کسی امروز بخواهد رشته‌ای انتخاب کند که در عصر هوش مصنوعی موفق شود، بهترین رشته چیست؟
انگ: راستش نمی‌دانم بهترین رشته‌ی دانشگاهی چیست. رشته‌های بسیار عالی زیادی وجود دارند. برای من سؤال «بهترین رشته‌ی دنیا چیست؟» کمی شبیه این سؤال است که «بهترین شغل دنیا چیست؟»
بگذارید درباره‌ی ایمیلی بگویم که از یک نوجوان در آستانه‌ی ورود به دانشگاه دریافت کردم. او برایم نوشته بود: «اندرو، من دوره‌های آنلاین می‌گذرانم، اما واقعاً نمی‌دانم در دانشگاه چه رشته‌ای انتخاب کنم، چون چهار سال دیگر آیا هوش مصنوعی همه‌ی این کارها را انجام نمی‌دهد و هر چیزی که یاد گرفته‌ام منسوخ نمی‌شود؟»
پاسخ این است: نه، البته که همه‌چیز منسوخ نخواهد شد. اما وقتی دائماً این پیام‌های ترس‌آفرین را تکرار می‌کنیم، باعث می‌شویم مردم حتی درباره‌ی این تردید کنند که آیا در آینده اصلاً جایی در اقتصاد خواهند داشت یا نه. این ترس باعث می‌شود به سمت یادگیری مهارت‌هایی نروند که می‌تواند آنها را در موقعیت بسیار بهتری قرار دهد. من به‌وضوح می‌بینم که این پیام‌های ترس‌آفرین، نگاه افراد را نسبت به اقتصاد منحرف است. صادقانه بگویم، وادار کردن مردم به تسلیم شدن یکی از بدترین کارهایی است که می‌توانیم در این دوره انجام دهیم؛ دوره‌ای که کسانی که با جدیت وارد میدان می‌شوند، می‌توانند رشد کنند و موفق شوند.
وقتی به توسعه‌ی مهارت‌های انسانی فکر می‌کنم، احساس می‌کنم از آنجا که هوش مصنوعی تأثیر بسیار شدیدی بر مهندسی نرم‌افزار گذاشته، اتفاقاتی که امروز در بازار کار مهندسی نرم‌افزار می‌بینیم، نشانه‌ای از چیزهایی است که در آینده در سایر حوزه‌ها نیز خواهیم دید.
در مهندسی نرم‌افزار، افراد باید مهارت‌های جدیدی یاد بگیرند؛ اما وقتی این کار را انجام می‌دهند، شکوفا می‌شوند، ارزش بیشتری خلق می‌کنند، صادقانه بگویم حقوقشان افزایش پیدا می‌کند و روی پروژه‌های هیجان‌انگیزتری کار می‌کنند. نشانه‌های اولیه‌ی همین روند را در رشته‌ها و حوزه‌های دیگر نیز می‌بینم.
مثلاً در مهندسی نرم‌افزار، بسیاری از توسعه‌دهندگانی که قبلاً صرفاً توسعه‌دهنده‌ی فرانت‌اند یا بک‌اند بودند، اکنون با کمک هوش مصنوعی به توسعه‌دهندگان «فول‌استک» تبدیل شده‌اند، چون می‌توانند دامنه‌ی وسیع‌تری از کارها را بر عهده بگیرند.
در حوزه‌های دیگر هم نشانه‌های اولیه‌ی مشابهی می‌بینم. برای مثال، فردی که در بازاریابی وظیفه‌اش هماهنگی کمپین‌های بازاریابی بود، اکنون با کمک هوش مصنوعی می‌تواند بیشتر به یک بازاریاب «تمام‌چرخه» تبدیل شود و دامنه‌ی گسترده‌تری از کارها را انجام دهد.
در حوزه‌ی استخدام هم می‌بینم افرادی که پیش‌تر صرفاً وظیفه‌ی پیدا کردن و شناسایی نامزدهای شغلی را داشتند، به سمت انجام کل فرایند استخدام از ابتدا تا انتها حرکت می‌کنند. بنابراین اینجا هم یک خبر خوب داریم و هم یک خبر بد.
برای اینکه افراد بتوانند وارد چنین نقش‌های گسترده‌تری شوند، باید مهارت‌های هوش مصنوعی را یاد بگیرند. اما موضوع فقط یادگیری AI نیست. آنها باید مهارت‌های دیگری را هم یاد بگیرند؛ مثلاً سایر بخش‌های بازاریابی، استخدام، مهندسی نرم‌افزار یا مهندسی هوش مصنوعی.
به همین دلیل فکر می‌کنم امروز نیاز بسیار بزرگی به کسب مهارت‌های تازه ایجاد شده است. اما وقتی افراد این مهارت‌ها را کسب کنند ــ هم مهارت‌های هوش مصنوعی و هم مهارت‌های تخصصی رشته‌ی خودشان ــ می‌توانند کارهای بسیار بیشتری انجام دهند، امیدوارم بیشتر از کارشان لذت ببرند، روی پروژه‌های هیجان‌انگیزتری کار کنند و امیدوارم دستمزد بیشتری هم بگیرند.
موگیلکو: پس در پاسخ به این سوالات که «بهترین رشته‌ی دنیا چیست» و «بهترین شغل دنیا چیست؟» باید جواب بدهیم چیزی که دوستش داشته باشید، درست است؟
انگ: دقیقا. دختر من می‌خواهد فضانورد شود. نمی‌دانم آیا رشته‌ای وجود دارد که آدم در آن «فضانورد شدن» بخواند یا نه! باید درباره‌اش فکر کنم. البته ممکن است وقتی بزرگ‌تر شود نظرش عوض شود. من در طیف بسیار گسترده‌ای از مشاغل فرصت‌های فراوانی می‌بینم و همه‌ی آنها برایم هیجان‌انگیز به نظر می‌رسند. اما هوش مصنوعی را باید یاد بگیرید. یاد بگیرید با هوش مصنوعی چیزی بسازید.
یک نکته مهم هم اینجا وجود دارد: این را قبلاً به‌طور شهودی احساس می‌کردم، اما وقتی دیدم داده‌ها هم آن را نشان می‌دهند، برایم جالب بود: در تعداد بسیار بیشتری از آگهی‌های شغلی می‌بینیم که شرکت‌ها دنبال افرادی هستند که قدرت ابتکار و عاملیت شخصی بسیار بالایی داشته باشند.
دلیلش این است که با وجود هوش مصنوعی، فرصت‌های بسیار بیشتری برای افراد ایجاد شده تا خودشان یک مشکل را تشخیص دهند و بعد چیزی بسازند یا اقدامی انجام دهند تا آن مشکل را حل کنند. بنابراین فکر می‌کنم واقعاً در حال عبور از دوره‌ای هستیم ــ البته مدت‌هاست این روند شروع شده، اما حالا سرعت گرفته ــ که افراد صرفاً می‌نشستند و منتظر می‌ماندند رئیسشان به آنها بگوید چه کاری انجام دهند.
۸
استقلال بیشتر افراد درون سازمان‌ها
موگیلکو: من هم این موضوع را احس کرده‌ام، به‌خصوص از زمانی که کار از راه دور را شروع کردیم. دوست دارم افراد در حوزه‌ی کاری خودشان مثل یک کارآفرین رفتار کنند. واقعاً فکر می‌کنم ــ و بگویید آیا با من موافقید یا نه ــ در حال حرکت به سمت بازاری هستیم که در آن تقریباً همه‌ی افراد استقلال بیشتری دارند.
انگ: فکر می‌کنم افراد استقلال و خلاقیت بسیار بیشتری خواهند داشت، بنابراین با شما موافقم. حتی یک قدم جلوتر هم می‌روم. من با افراد زیادی، از جمله مهندسان و کارکنان دیگر شرکت‌های بزرگ، صحبت می‌کنم که می‌گویند مدیرشان دائماً به آنها می‌گوید: «از محدوده‌ی مسئولیت خودت خارج نشو.» ممکن است فردی بگوید: «من یک ایده‌ی خلاقانه دارم»، اما مدیرش پاسخ بدهد: «نه، من می‌خواهم فقط روی همین یک موضوع تمرکز کنی.» و صادقانه بگویم، گاهی علتش این است که آینده‌ی شغلی خود آن مدیر به موفقیت همان موضوع وابسته است. اما احساس می‌کنم فرصت‌های بسیار بیشتری ایجاد شده تا افراد چیزهایی را خارج از محدوده‌ی سنتی مسئولیتشان ببینند و بعد، به شکلی مسئولانه، بررسی کنند چگونه می‌توانند آن کار را انجام دهند. این موضوع برای من واقعاً هیجان‌انگیز است.
فکر می‌کنم در آینده، کسب‌وکارهایی که فرهنگی ایجاد کنند که کارکنان را تشویق کند هوش مصنوعی یاد بگیرند، سریع و مسئولانه چیزهای جدید بسازند و با مشتریان صحبت کنند، بسیار بیشتر از سازمان‌های سلسله‌مراتبی و جزیره‌ای ارزش خلق خواهند کرد.
۹
«مسلط بودن به AI» در محیط کار یعنی چه
موگیلکو: وقتی می‌گویید افراد باید کار با هوش مصنوعی را یاد بگیرند و در آن ماهر شوند، می‌توانید معیارهای مشخصی ارائه کنید؟ مثلاً فرض کنید فردی بازاریاب است و می‌گوید در استفاده از هوش مصنوعی پیشرفته است. وقتی با چنین فردی مصاحبه می‌کنید، دقیقاً دنبال چه چیزی هستید؟
انگ: تقریباً مطمئنم تیم من در این زمینه از جریان عمومی جلوتر است. تمام بازاریاب‌های من بلدند کدنویسی کنند. بنابراین یکی از چیزهایی که هنگام مصاحبه با بازاریاب‌ها از آنها می‌پرسیم این است که چه چیزهایی ساختهاند. و اگر هیچ نرم‌افزاری نساخته باشند...
موگیلکو: مثلا چه چیزی ساختهاند؟
انگ: خب، همین چند وقت پیش یکی از افراد تیم بازاریابی درباره‌ی ابزارهایی صحبت می‌کرد که خودش ساخته بود. وقتی می‌خواهد درباره‌ی موضوعی مقاله بنویسد، سیستم او وب را جست‌وجو می‌کند، مطالب مرتبط را پیدا می‌کند و حتی یک اپلیکیشن دسکتاپ اختصاصی دارد. در واقع خودش یک برنامه‌ی دسکتاپ ساخته که روی مک او اجرا می‌شود و مقالات مرتبط را برایش برجسته می‌کند. بعد می‌تواند با کل این سیستم گفت‌وگو کند و هم میان چیزی که خودش در حال نوشتن است و هم منابع و مطالب مرتبط جابه‌جا شود. یک داشبورد بزرگ هم ساخته بود که اینترنت را جست‌وجو می‌کرد و موضوعات جالب و تازه‌ای را که در حال ظهور بودند برایش برجسته می‌کرد. حتی در تیم خود من هم فکر می‌کنم آن بازاریاب از بقیه جلوتر است.
موگیلکو: نمونه‌های کاربردی دیگری هم دارید که بتواند الهام‌بخش افراد باشد تا چیزی مشابه بسازند؟
انگ: بگذارید فکر کنم. مثلاً تیم مالی من به شکل گسترده‌ای از هوش مصنوعی استفاده می‌کند. یکی از مدیران مالی ما متوجه شد که اعضای تیمش هر هفته ساعت‌ها وقت صرف کلیک کردن روی اسناد مختلف می‌کنند: این فایل را باز کن، این عدد را کپی کن و اینجا بچسبان و مانند آن. بنابراین شروع کرد به ساخت اسکریپت‌های خودکارسازی که به‌طور منظم اجرا می‌شوند. این اسکریپت‌ها فایل‌ها را به‌صورت خودکار باز می‌کنند، محتوای آنها را بررسی می‌کنند، سازگاری داده‌ها را می‌سنجند و اگر نکته‌ای وجود داشته باشد که اعضای تیم باید به آن توجه کنند، آن را برجسته می‌کنند. حتی اگر سند جدیدی اضافه شده باشد، به تیم اطلاع می‌دهند. چیزی که برای من جالب است این است که تیم‌ها دیگر لازم نیست منتظر بمانند تا یک مهندس برایشان این کارها را انجام دهد. آنها نه‌فقط می‌توانند داشبورد بسازند، بلکه می‌توانند نوعی زیرساخت مدیریت داده ایجاد کنند که اطلاعات را دریافت کند و هر وقت اتفاق مهمی افتاد به آنها هشدار دهد.
تیم استخدام ما را هم باید اضافه کنم. ما در واقع مهندسان استخدام داریم؛ یعنی مهندسان حرفه‌ای واقعی که درون تیم استخدام فعالیت می‌کنند و ابزارهای بسیار پیشرفته‌ای برای فرایند استخدام می‌سازند. این خودش روند مهم دیگری است. به نظرم بازاریاب‌ها، استخدام‌کنندگان، متخصصان منابع انسانی و نیروهای عملیاتی همگی باید هوش مصنوعی را یاد بگیرند. اما در کنار آن، اگر یک مهندس را مستقیماً درون چنین تیم‌هایی قرار دهید، سرعت و دامنه‌ی کارهایی که می‌توانید انجام دهید باز هم به‌طور قابل‌توجهی افزایش پیدا می‌کند.
موگیلکو: ما هم همین کار را انجام می‌دهیم. ابتدا از یک چیز ساده شروع می‌کنیم و خودمان آن را با هوش مصنوعی می‌سازیم. بعد به یک محدودیت می‌رسیم و دیگر نمی‌توانیم جلوتر برویم. آن موقع یک مهندس وارد می‌شود و نسخه‌ی پیشرفته‌تر را با هم می‌سازیم.
انگ: صادقانه بگویم، وقتی نه‌فقط به «مهندس نرم‌افزار»، بلکه به نقش‌هایی مثل مهندس استخدام، مهندس بازاریابی یا مهندس منابع انسانی نگاه می‌کنید، متوجه می‌شوید که امروز حجم بسیار زیادی کار مهندسی ارزشمند وجود دارد که می‌توان انجام داد. واقعاً نگران این نیستم که روزی کار مهندسی تمام شود. همه‌ی دوستان من آن‌قدر سرشان شلوغ است که گاهی با خودمان می‌گوییم: واقعاً چطور ممکن است مشاغل مهندسی تمام شوند؟
اتفاق مهمی که با هوش مصنوعی افتاده این است که هزینه‌ی ساختن به‌شدت سقوط کرده است. به همین دلیل، چالش اصلی حالا از «چگونه بسازیم؟» به «چه چیزی بسازیم؟» منتقل شده است. واقعاً کارهای هیجان‌انگیز بسیار زیادی برای انجام دادن وجود دارد.
۱۰
از دست رفتن کنترل انسان بر هوش مصنوعی
موگیلکو: حالا به نگرانی دیگری بپردازیم: از دست رفتن کنترل انسان بر هوش مصنوعی. من با یوشوا بنجیو - یکی از سه پدرخوانده هوش مصنوعی - صحبت می‌کردم که درباره‌ی هوش مصنوعی متن‌باز و رایگان، بدون هیچ‌گونه مقررات، دیدگاهی بسیار منفی داشت. او سناریوهای بسیار ترسناکی برای من ترسیم کرد که در آن هوش مصنوعی کنترل را در دست می‌گیرد. اساس این سناریو این است که ما نمی‌توانیم چیزی را که از خودمان باهوش‌تر است کنترل کنیم. اگر هوش مصنوعی هر روز باهوش‌تر و باهوش‌تر شود، در نهایت به کجا می‌رسیم؟ نظر شما چیست؟
انگ: من به چیز دیگری فکر می‌کنم که آن را هم نمی‌توانیم به‌طور کامل کنترل کنیم: هواپیما. هیچ‌کس نمی‌تواند هواپیمایی بسازد که بتوان آن را در همه‌ی شرایط به‌طور کامل و بی‌نقص کنترل کرد. باد می‌تواند هواپیما را تکان دهد و مسیرش را تغییر دهد. صادقانه بگویم، در سال‌های اولیه‌ی توسعه‌ی هواپیماها، بعضی هواپیماها سقوط کردند و انسان‌هایی جان باختند. اتفاقاتی تراژیک و وحشتناک بود. اما از همان تجربه‌های اولیه درس گرفتیم و به‌تدریج یاد گرفتیم هواپیماها را بهتر و بهتر کنترل کنیم. امروز بیشتر ما می‌توانیم سوار هواپیما شویم بدون اینکه دائماً نگران جان خود باشیم. در مورد هوش مصنوعی هم تا حد زیادی همین وضعیت وجود دارد. هیچ‌کس نمی‌تواند هوش مصنوعی را به‌طور کامل کنترل کند، چون این سیستم‌ها توکن‌ها یا خروجی‌هایی تولید می‌کنند که تا حدی تصادفی هستند. بنابراین دقیقاً نمی‌دانیم در هر لحظه چه کاری انجام خواهند داد. در جریان استفاده از این سیستم‌ها تعداد محدودی حادثه و خطا رخ داده است که البته تأسف‌آور است و بعضی از آنها خسارت واقعی نیز ایجاد کرده‌اند. اما شیوه‌ای که تقریباً هر سیستم مهندسی را توسعه می‌دهیم ــ از هواپیما گرفته تا مدارهای الکتریکی و حالا هوش مصنوعی ــ این است که توانایی‌های آن را به‌تدریج و با احتیاط افزایش می‌دهیم تا بتوانیم در محیطی کنترل‌شده ببینیم چه چیزی اشتباه پیش می‌رود و بعد سیستم را طوری اصلاح کنیم که به اندازه‌ی کافی تحت کنترل باشد و رفتاری مسئولانه و ایمن داشته باشد. حتی امروز هم نمی‌توانیم هیچ هواپیمایی را صددرصد کنترل کنیم و احتمالاً هیچ‌وقت هم نخواهیم توانست هوش مصنوعی را به‌طور کامل کنترل کنیم. اما فکر می‌کنم همین حالا هم کنترل ما بر این سیستم‌ها به اندازه‌ای هست که ایده‌ی «از دست رفتن کامل کنترل» برای من بیشتر شبیه داستان‌های علمی‌تخیلی است تا علم.
منبع: پادکست «سیلکون‌ولی گرل»