با توجه به دیجیتالی شدن زندگی روزمره، دیگر دستیار‌های شخصی هم دیجیتالی شده و نیاز به دستیارهای انسانی کم‌تر احساس می‌شود. پنج شرکت بزرگ فناوری هم برای سلطه به این بازار، دستیار صوتی دیجیتالی خود را معرفی کرده‌اند. هم‌اکنون به‌راحتی و با هزینه‌ای اندک، می‌توانید دستیار دیجیتالی شخصی خود را که تمام و کمال و به صورت ۲۴ ساعته در اختیار شما باشد، در اختیار داشته باشید، دستیاری که فقط نیازمند اینترنت و دستگاه‌های هوشمند است. پنج قدرت دنیای فناوری اطلاعات (اپل، مایکروسافت، آمازون، فیس‌بوک و گوگل) در حال حاضر دستیارهای شخصی خود را به کاربران پیشنهاد می‌دهند که بیشتر وظایف خسته‌کننده‌ یک دستیار واقعی را با گوش‌دادن به فرمان‌های صوتی یا اجرای فرمان‌های متنی کاربر خود در دستگاه‌های هوشمند مختلف انجام می‌دهند. امروزه مشهورترین دستیارهای شخصی از یک واسط کاربری مبتنی بر زبان طبیعی برای تسهیل ارتباط با کاربر بدون نیاز به تایپ متن استفاده می‌کنند. به این ترتیب، نه‌تنها استفاده از این ابزارهای نرم‌افزاری برای افراد معمولی آسان‌تر می‌شود بلکه کاربران ناتوان جسمی نظیر نابینایان نیز می‌توانند از طریق گفت‌وگوی معمولی با گوشی هوشمند، تبلت، رایانه و سایر دستگاه‌های دیجیتال پشتیبانی شده ارتباط آسان‌تری برقرار کنند.

پاسخ‌گویی به پرسش‌های کاربر (نظیر فاصله تا مقصد حین رانندگی)، ارائه پیشنهادهای متناسب با موقعیت یا رفتارهای تکرارشوندهی خاص (مثل پیشنهاد صرف شام در رستورانی که در نزدیکی آن هستید و بارها به آن مراجعه کرده‌اید)، استخراج وضعیت آب‌وهوا یا ترافیک از سرویس‌های تحت وب، نمایش نتایج مسابقات ورزشی، جست‌وجو در موتورهای جست‌وجوی وب، تنظیم زنگ هشدار، یادآوری فعالیت‌های روزانه، مدیریت ایمیل‌ها، انجام محاسبات ریاضی، ارسال پیام، یافتن کالا از فروشگاه‌های آنلاین مشهور و حتی یادآوری زمان شرکت در رویدادی که بلیتش را چند روز پیش از یک فروشگاه آنلاین خریداری کرده‌اید، همگی از جمله اعمالی هستند که توسط دستیارهای هوشمند قابل انجام‌اند. حالا باید دید این دستگاه‌های به‌ظاهر کارآمد و مفید، چه مشکلات و خطراتی در خود دارند.

در 21 نوامبر سال 2015، جیمز بیتی، سه دوستش را بر آن داشت تا به دیدن بازی تیم­ رازوربکز آرکانزاس در مقابل بولداگ ایالت می­سی­سی­پی بروند. بیتس در شهر بنتنویل آرکانزاس ساکن بود و دوستانش  در طول این بازی فشرده و پایاپای راگبی تا می‌توانستند خوشی کردند. بعد از باخت 50 به 51 تیم رازوربکز یکی از مردها به خانه رفت. بقیه به جکوزی بیتس رفتند تا به خوش‌گذرانی و تفریح ادامه دهند. بیتس بعدتر گفت که حدود ساعت 1 صبح به رختخواب رفته است و دو مرد دیگر – یکی از آن‌ها ویکتور کالینز نام داشت – قصد کردند آن شب بی­دعوت در خانه­اش پلاس شوند. وقتی بیتس صبح روز بعد از خواب بیدار شد دوستانش را ندید. ولی وقتی در پشتی را باز کرد جسدی را دید که با صورت در جکوزی شناور بود. آن فرد همان کالینز بود.

هرگز حادثه‌ای محلی مانند واقعه وحشتناک مرگ ویکتور کالینز، توجه دنیای بین‌الملل را به خود جلب نمی‌کرد اگر این‌طور نمی‌شد که تحقیقات پلیسی مقامات شهر بنتنویل به زورآزمایی با یکی از قدرتمندترین شرکت­های جهان،‌ یعنی آمازون تبدیل نمی‌شد. مرگ کالینز سبب جنگ و جدال‌های بسیار بر سر حریم شخصی در دوران صدا - کامپیوترها شد، گفت‌وگوهایی که شرکت­های بزرگ تکنولوژی را به لرزه درآورد.

پلیس که صبح روز بعد از مسابقه راگبی توسط بیتس از واقعه خبردار شد، با پیداکردن نشانه­هایی از درگیری به قضیه مشکوک شد. پشت سری­ها و دستگیره­های جکوزی و همین‌طور دو بطری شکسته بر زمین افتاده بود. کالینز چشمی کبود و لب‌هایی متورم داشت و خون­آلود شده بود. بیتس اظهار می­کرد نمی­داند چه اتفاقی افتاده است ولی افسرهای پلیس شک داشتند. در 22 فوریه او را در نقش قاتل دستگیر کردند. 

در تفتیش محل جنایت، کارآگاهان متوجه یک دستگاه آمازون اکو شدند. از آنجایی که پلیس حدس می­زد بیتس حقیقت را نمی­گوید، افسرهای پلیس از خود پرسیدند که آیا ممکن است این دستگاه اکو ناخواسته چیزی را که روشن­کننده ماجرا باشد ضبط کرده باشد. در دسامبر 2015، کارآگاهان یک حکم بازرسی به آمازون ابلاغ کردند که حاوی درخواست برای «داده­های الکترونیک به‌شکل صدای ضبط‌شده، گزارش­های رونوشت‌شده یا دیگر گزارش­های متنی» بود.

آمازون گزارشی از مذاکراتی را که دستگاه اکو ضبط کرده بود ولی بدون داده­های صوتی تحویل داد. در پرونده قضایی آمازون اعلام شد «با توجه به در خطر افتادن متمم اول قانون اساسی و الزام رعایت حریم شخصی، حکم باید باطل اعلام می­شد». وکیل بیتس، کیمبرلی وبر، بحث را با لحنی خودمانی­تر بیان کرد. او به یک خبرنگار گفت: «من با این مشکل دارم که یک هدیه کریسمس که انتظار می­رود زندگی بهتری برایت بسازد، می­تواند علیهت استفاده شود. این وسیله دقیقا مانند یک پایگاه پلیس است.» 

وضعیت طوری است که انگار اشتازی در آلمان شرقی آرزوی داشتن دستگاه­های آمازون را داشته است، با  مجموعه­ای از میکروفن‌ها که صداها را از سراسر اتاق می­شنوند. مشابه آن می­توان از محصولات هوشمند خانگی اپل، گوگل و مایکروسافت نام برد و همچنین از هوش­های مصنوعی به‌کاررفته در تمامی گوشی­های تلفن که به میکروفن مجهز هستند. همان‌طور که آدام کلارک استس نویسنده بیان می­کند: «با خرید یک اسپیکر هوشمند شما درواقع پولی پرداخت می­کنید تا به یک شرکت عظیم تکنولوژی اجازه دهید شما را زیر نظر بگیرد.»

در این ماجرا آمازون، با تاخیر، از این شکایت کرد که محصولاتش غیرمنصفانه بدنام شده است. درست است، دستگاه­ها همیشه در حال شنیدن هستند اما بی‌هیچ قصدی هرآنچه را می­شنوند انتقال می­دهند. تنها زمانی که دستگاه کلمه بیدارسازی «الکسا» را دریافت ­کند آن را به‌صورت پیامی برای آغاز تحلیل به فضای ابری می‌فرستد. بعید است که بیتس چیزی را گفته باشد که به‌وضوح او را متهم کند، مثلا اینکه «الکسا جسد را چطور پنهان کنم؟» ولی این قابل درک است که دستگاه توانسته چیزی را ذخیره کند که برای کارآگاهان پلیس اهمیت داشته است. برای مثال، اگر کسی دانسته کلمه بیدارسازی را برای فعال‌کردن اکو استفاده کند – برای درخواستی بی­خطر مانند پخش یک موسیقی – دستگاه احتمالا صداهای مربوط به پس­زمینه را هم ردیابی می‌کند، صداهایی مانند مشاجره یا صحبت افراد. اگر بیتس دستگاه اکو خود را به هر دلیلی بعد از ساعت 1 صبح فعال کرده باشد، ادعای خود مبنی بر خواب‌بودن در آن زمان را بی‌اعتبار کرده است.

در ماه اوت سال 2016، یک قاضی که ظاهرا این ایده را پذیرفته که شاید آمازون به شواهد ارزشمندی دسترسی داشته باشد، دومین حکم بازرسی را تایید کرد تا پلیس بتواند اطلاعات شرکت را که دفعه پیش، از تسلیم‌شان امتناع کرده بود به دست بیاورد. در این نقطه که به نظر می‌رسید پرونده به بن‌بست رسیده، نور امیدی سوسو زد و بیتس که ادعا می‌کرد بی‌گناه است به‌همراه وکیلش اعلام کردند که با دسترسی پلیس به اطلاعاتی که دنبالش هستند مخالفتی ندارند. آمازون پذیرفت و اگر دستگاه اکو موردی هم مبنی بر احراز جرم ضبط کرده بود، پلیس هرگز آن را فاش نکرد. در عوض، در دسامبر سال 2017 دادستان پرونده بیتس را مختومه اعلام کرد، با اشاره به اینکه بیش از یک دلیل موجه برای مرگ کالینز وجود داشته است. ولی موضوع تحت نظر قرارگرفتن که با این پرونده پیش کشیده شد به این راحتی فراموش‌شدنی نبود.

شرکت­های حوزه تکنولوژی پافشاری می­کردند که از طریق دستیارهای مجازی و گجت­های خانگی، از مشتریان‌شان جاسوسی نمی‌کنند و فقط هنگامی به آن‌ها گوش می­سپارند که صریحا به آن‌ها دستور داده می‌شود چنین کنند. این ادعاها، لااقل تا وقتی در ظاهر قابل اثبات هستند، به نظر درست می­آیند. ولی این بدان معنا نیست که شنیدنی اتفاق نمی­افتد یا نمی­تواند اتفاق بیفتد، یعنی رفتارهایی که مفهوم سنتی حریم شخصی را به چالش می­کشد.

راه­های متعددی وجود دارد که از آن طریق دستگاه­های خانگی برای به چالش کشیدن عقاید ما درباره حریم شخصی مورد استفاده قرار گیرند. یک از آن‌ها گوش‌ایستادن برای ارتقای کیفیت است. گوش دیجیتال هلو­باربی با فشردن سگک براق کمربندش تیز می­شود. با گفتن اصطلاح «اوکی، گوگل» دستگاه­های این شرکت را بیدار می­کند. الکسای آمازون دوست دارد اسم او را بداند. از اینجا فرایند شنیدن آغاز می­شود اما پس از آن چه اتفاقی خواهد افتاد؟

مراجعی در اپل که بابت اقدامات امنیتی برای حفظ حریم شخصی به خود افتخار می­کنند، اظهار می‌دارند دستیار هوشمند «سیری» تلاش می­کند تا جایی که امکان دارد به‌طور مستقیم نیازهای کاربران آی‌فون یا هوم­پد را برآورده سازد. اگر یک گفته برای تحلیل­های اضافی نیازمند ارسال به فضای ابری باشد، به‌جای نام واقعی کاربر با کدهای شناسه برچسب­گذاری می­شود. گفته­ها برای شش ماه ذخیره می­شوند تا سیستم شناسایی گویش بتواند یاد بگیرد که صدای فرد را بهتر بفهمد. بعد از آن، کپی دیگری که شناسه­هایش فروریخته­اند برای دو سال ذخیره می­شود تا به بهبود و پیشرفت سیری کمک کند.

اکثریت دیگر شرکت­ها بر پردازش در محل تاکیدی ندارند و به جایش تمامی اصوات را به فضای ابری ارسال می­کنند، جایی که منابع پردازشگر قدرتمندتری انتظار آن‌ها را می­کشند. سپس رایانه‌ها سعی می­کنند منظور کاربر را حدس بزنند و آن را اجرا کنند. بعد از آنکه کار تمام شد شرکت­ها می­توانند درخواست و پاسخ سیستم را پاک کنند ولی معمولا این کار را نمی­کنند. دلیلش داده­ها است. با زبان هوش مصنوعی می­توان گفت هرچه مقدار داده­ها بیشتر، بهتر.

در واقع، تمام سازندگان ربات­ها، از آن‌ها که برای سرگرمی کار می­کنند تا اعجوبه­های هوش مصنوعی در شرکت­های بزرگ تکنولوژی، لااقل قسمتی از رونوشت­های مربوط به تعاملات میان افراد را با ساخته­هایشان بررسی می­کنند. هدف آن است که ببینند چه چیزی درست پیش می­رود، چه چیز احتیاج به بهبود دارد و چه چیزی برای کاربران جذابیت بحث‌کردن یا انجام‌دادن دارد. فرآیند بررسی شکل­های مختلفی به خود می­گیرد_.

ممکن است چت­لاگ­ها بی­نام و نشان شوند تا مرورگران نام اختصاصی کاربران را نبینند. یا شاید مرورگران فقط خلاصه­ای از داده­ها را ببینند. برای نمونه، شاید متوجه شوند که یک مکالمه به‌دفعات پس از دریافت یک ورودی در ربات یک حلقه بسته را می‌سازد و به بن­بست می­رسد. این یافته به آن‌ها می­فهماند که این گزاره ورودی نیاز به اصلاح‌شدن دارد. طراحان در مایکروسافت، گوگل و دیگر شرکت­ها گزارش­هایی از جزییات محبوب­ترین نقل‌قول­های کاربر را هم دریافت می­کنند تا بدانند چه محتویاتی را برای دست‌یافتن به مخاطبان و کاربران بیشتر باید اضافه کنند.

اما این فرآیند بررسی می­تواند به‌طرز وحشتناکی از نزدیک انجام شود. در دفاتر یک شرکت محاسبه ساختارهای زبان محاوره و هوش مصنوعی مرتب با تشخیص صوتی که برای بازدید به آنجا رفته بودم، کارمندان به من نشان دادند که چگونه روزانه ایمیل­هایی دریافت می­کنند که تبادلات اخیر میان افراد و یکی از نرم­افزارهای چت شرکت در آن فهرست شده است.

کارمندان یکی از این ایمیل­ها را باز کردند و دکمه اجرا را فشردند. در یک صوت دیجیتالی کاملا واضح صدای ضبط‌شده کودکی را شنیدم که در یک معاشرت بی‌شیله‌پیله می­گفت: «من یه پسربچه هستم و یه تیشرت دایناسوری سبز دارم... و اوه پاگنده­ها... یه عالمه اسباب­بازی در اتاقم و یک صندلی... مامانم یه خانومه‌س، و من مامانم رو می­شناسم هر کاری که بخواد انجام می­ده. او هرروز که از خواب بلند می‌شم سر کار می­ره ولی شب به خونه برمی­گرده.»

هیچ چیز ناراحت­کننده­ای در صدای ضبط­شده نبود. ولی وقتی آن را شنیدم احساس اضطراب­آوری داشتم از اینکه انگار به‌طور نامرئی در اتاق پسرک بال می­زدم. این تجربه به من فهماند که فرض گمنامی کامل شما وقتی با دستیار مجازی روی تلفن همراه یا دستگاه­های هوشمند خانگی صحبت می­کنید – ابزارهای رایانه‌ای غیر از این خیلی کم هستند، نه؟ - ضمانت‌شده نیست. شاید افرادی در حال شنیدن، یادداشت برداشتن و حفظ‌کردن آن‌ها باشند.

شاید هم گوش ایستادن برحسب تصادف اتفاق بیفتد. در 4 اکتبر سال 2017، گوگل خبرنگاران را برای رونمایی از یکی از محصولاتش به مرکز اس­اف­جاز در سان‌فرانسیسکو دعوت کرد. طراح آن، ایزابل اولسن، وظیفه اعلام ورود مینی گوگل هوم جدید را برعهده گرفت، دستگاه کوچکی که در واقع پاسخ شرکت گوگل به اکو دات شرکت آمازون بود. اولسن این‌طور گفت: «خانه مکانی به‌گونه­ای ویژه خصوصی است و افراد در مورد آنچه به آن راه پیدا می­کند بسیار سخت‌گیر هستند.» بعد از این معرفی، گوگل مینیس را به‌صورت بسته‌هایی بین شرکت‌کننده­ها پخش کرد. یکی از این شرکت­کننده­ها نویسنده­ای به نام آرتن راساکوفسکی بود و می‌توان او را بخشید به این خاطر که بعدها فهمید به اندازه کافی در مورد آنچه به خانه­اش وارد کرده سخت‌گیری نکرده است.

راساکوفسکی بعد از چند روز در اختیار داشتن دستگاه مینی آنلاین شد تا فعالیت جست‌وجوی صدایش را امتحان کند. او وحشت­زده شد وقتی دید هزاران صدای ضبط‌شده کوتاه ثبت شده است – صداهایی که هرگز نباید ضبط می­شده­اند. آن‌طور که بعدا برای وب‌سایت پلیس اندروید نوشت، او خبر داد: «مینی گوگل هوم من به‌دلیل یک نقص سخت­افزاری نادانسته جاسوسی مرا می­کرد.» او به گوگل شکایت کرد و بعد از پنج ساعت شرکت برای تعویض دستگاه معیوبش با دو دستگاه جایگزین نماینده­ای نزد او فرستاد.

مینی مانند دیگر دستگاه­های مشابه، با استفاده از اصطلاح بیدارسازی «اوکی، گوگل» یا به راحتی فشردن دکمه بالای دستگاه، قابل روشن‌کردن است. آن‌طور که راساکوفسکی نوشت مشکل اینجا بود که دستگاه یک سری لمس‌شدن­های خیالی را ثبت می­کرد. گوگل بعدتر اعلام کرد این مشکل در تعداد کمی از دستگاه­ها که در رخدادهای تبلیغاتی پخش شده بوده­اند رخ داده است. این مشکل طی به‌روزرسانی سخت­افزار اصلاح شد. شرکت برای آنکه خطرات بعدی را از بین ببرد، اعلام کرد که ویژگی دریافت لمسی را در همه مینی­ها برای همیشه از کار خواهد انداخت.

به هر حال، این پاسخ برای مرکز اطلاعات خصوصی الکترونیکی، یک گروه حقوقی که ماجراهای دستیارهای صوتی و همچنین حفظ حریم خصوصی در شرکت‌های حوزه دیجیتال و فناوری اطلاعات را دنبال می‌کرد، راضی­کننده نبود. در نامه­ای به تاریخ 13 اکتبر 2017 کمیسیون امنیت محصول برای مشتری را مجبور کرد تا دستور جمع­آوری مینی را صادر کند زیرا این دستگاه «به گوگل اجازه داده بود مکالمه­های خصوصی را در خانه‌ها بدون اطلاع یا اجازه مشتری رهگیری و ضبط کند».

هیچ اطلاعاتی حاکی از اینکه گوگل به‌عمد جاسوسی می­کرده پیدا نشده است. با وجود این، اگر شرکتی با جایگاه گوگل بتواند چنین اشتباه بزرگی مرتکب شود پس احتمال دارد که شرکت­های دیگر هم در صورت تکثیر سریع  واسط­های صوتی به‌راحتی دچار اشتباهی مشابه شوند. اگر می­خواهید بدانید که آیا موسسات دولتی یا هکرها توانایی شنیدن آنچه را به یک دستگاه صوتی می­گویید دارند یا نه، به این توجه کنید که بعد از این صحبت­ها چه اتفاقی برای کلمات شما می­افتد. شرکت اپل که نشان می‌دهد طرفدار حفظ حریم خصوصی است کلام صوتی شما را حفظ می­کند اما  اتصال آن‌ها را با نام یا نام کاربری شما از بین می­برد. شرکت اپل آن‌ها را با یک زنجیره تصادفی از اعداد که برای هر کاربر یگانه است، برچسب­گذاری می­کند. سپس بعد از شش ماه، ارتباط میان کلام و شناسه­های عددی برداشته می­شود.

اما گوگل و آمازون لینک میان صاحب گفته و آنچه می­گوید را نگه می­دارد. هر کاربری می­تواند به حساب کاربری گوگل یا آمازون خود وارد شود و لیستی از تمام صحبت­هایش را بشنود. من این­ کار را در گوگل امتحان کرده­ام و توانستم به صداهای ضبط‌شده انتخابی گوش دهم. مثلا بعد از کلیک بر دکمه اجرا از 9:34 صبح روز 29 اگوست 2017، صدای خودم را شنیدم که می­پرسید: «چگونه مدادتراش را به آلمانی تلفظ کنم؟» صد‌اهای ضبط شده قابل پاک‌کردن هستند ولی مسئولیتش­ بر دوش کاربر است. همان‌طور که این بند از خط‌مشی کاربری گوگل مشخص می­کند: «تاریخچه مکالمات با گوگل­هوم و دستیار گوگل ذخیره می­شود تا زمانی که شما تصمیم بگیرید آن‌ها را پاک کنید.»

آیا این مسئله­ای جدید در موضوع حریم شخصی است؟ شاید نه. گوگل و دیگر موتورهای جست‌وجو به‌طور مشابهی تمام گزاره­های تایپ‌شده شما را تا زمانی که آن‌ها را پاک نکرده­اید، نگه می­دارند. در نتیجه می­توانید استدلال کنید که ذخیره‌کردن صوت هم مانند همان است. اما برای برخی افراد، ضبط‌شدن صدایشان احساس قوی­تری از مورد تجاوز قرارگرفتن ایجاد می­کند. علاوه بر آن، مسئله گیرافتادن بدون پیش­بینی و ناغافل مطرح است. در طول این فرایند معمولا صداهای کسان دیگری که در پس­زمینه در حال صحبت هستند – همسرتان، دوستان، بچه­ها - هم ضبط می­شود.

دستگاه‌های ناظر بر قوانین و اعمال مقررات برای به دست آوردن داده­ها یا صداهایی که در داخل خانه ضبط شده است (مثلا در گوشی تلفن ، کامپیوتر یا دستگاه هوشمند خانگی شما) به اخذ مجوز بازرسی نیاز دارند. اما پس از کپی‌شدن صدای شما روی فضای ابری، حفاظت حریم شخصی به‌طور چشمگیری ضعیف­تر می­شود. جو ریدنبرگ، رئیس مرکز قانون و سیاست اطلاعات در مدرسه قانون فوردهام نیویورک، می­گوید: «معیار قانونی «انتظار معقول برای حریم شخصی» را مثله کرده­اند. مطابق بند چهارم قانون اساسی، اگر شما دستگاهی نصب کرده باشید که گوش­ می­دهد و به شخص سومی منتقل می­کند، آن‌گاه شما حقوق حریم شخصی را زیرپا گذاشته­اید.» بنا بر یکی از گزارش‌های شفاف‌سازی گوگل، موسسات دولت آمریکا در سال 2017 خواستار دریافت داده­های بیش از 170 هزار حساب کاربری شده­اند. در گزارش مشخص نشده است چه تعداد از این درخواست­ها، در صورت وجود، بابت دریافت داده­های صوتی به‌جای ورودی وب‌سایت­های جست‌وجوشده یا اطلاعات دیگر بوده­است.

اگر کار غیرقانونی در خانه خودتان انجام نمی­دهید – یا نگران نیستید که به‌خاطر انجام آن‌ها به‌اشتباه دستگیر شوید- شاید نگران نباشید که دولت بتواند برای دریافت داده­های صوتی شما اقدامی کند. اما وقتی شرکت­ها تمام صداهای ضبط شده شما را انبار می­کنند خطری بسیار گسترده­تر از این­ها وجود دارد. با استفاده از اتصال به حساب کاربری و رمز ورودی شما، یک هکر می­تواند تمامی درخواست­هایتان را که در حریم شخصی خانه مطرح کرده­اید بشنود.

شرکت­های تکنولوژی ادعا می­کنند شرورانه گوش نمی­ایستند اما هکرها چنین حساسیتی ندارند. شرکت­ها محافظت رمز ورود و رمزگذاری داده­ها را برای مبارزه با جاسوسی به کار می­گیرند اما آزمون محققان امنیتی و همچنین سطح نفوذ هکرها، اثبات می­کند این اقدامات امنیتی با خطاناپذیر بودن فاصله زیادی دارند.

یک دسته از کلودپِت­ها (حیوانات خانگی ابری)، حیواناتی که شکم‌شان را پر کرده­اند، شامل یک بچه گربه، یک فیل، یک تک‌شاخ و یک توله خرس را در نظر بگیرید. اگر کودکی یکی از آن‌ها را فشار می­داد می­توانست پیغام کوتاهی ضبط کند که از طریق بلوتوث به دستگاه­های تلفن همراه اطرافش مخابره می­شد. از طریق آن، پیامی برای والدین دور از خانه یا دیگر خویشاوندان فرستاده می­شد و فرقی نمی­کرد در شهر مشغول به کار باشند یا در آن سوی دنیا در حال مبارزه در میدان جنگ. والدین در پاسخ می­توانستند پیامی روی گوشی همراه خود ضبط کنند و برای حیوان شکم‌پر بفرستند تا پخش کند.

سناریوی شیرینی بود. اما مشکل اینجا بود که کلودپت­ها اوراق هویتی بیش از 800 هزار مشتری را به‌همراه دو میلیون پیام ردوبدل‌شده میان بچه­ها و والدین‌شان روی یک پایگاه داده آنلاین قرار دادند که به‌راحتی قابل‌کشف بود. در اوایل سال 2017 هکرها بیشتر این داده­ها را برداشت کردند و حتی از شرکت باج­خواهی هم کردند پیش از آنکه گنجینه نامشروع‌شان را نشان بدهند. 

پل استون، یک محقق امنیتی، مشکل دیگری یافت: بلوتوث میان حیوانات کلودپت­ و اپلیکیشن تلفن هوشمند جفت‌شده­اش نه از رمزگذاری استفاده می­کرد و نه درخواست تایید می­کرد. برای امتحان‌کردن یک اسب تک‌شاخ شکم‌پر خرید و آن را هک کرد.

استون یک ویدیوی نمایشی آنلاین ارسال کرد که در آن، تک‌شاخ را واداشته بود بگوید: «منهدم کن، نابود کن!» او میکروفن را برای ضبط فعال کرد تا عروسک مخملی را به یک جاسوس مبدل کند. استون در وبلاگش نوشت: «بلوتوث­ها بردی حدود 10 تا 30 متر دارند، پس کسی که بیرون خانه شما ایستاده است به‌راحتی می‌تواند به عروسک شما متصل شود، صداهای ضبط‌شده­ای را آپلود کند و اصوات را از میکروفن دریافت کند.»

شاید ظاهرا عروسک­های مخملی هدف­های راحتی برای هکرها باشند اما این آسیب­پذیری که آن‌ها در معرض دید گذاشته­اند گاهی در دستگاه­های متصل به اینترنت معطوف به صوت که مخصوص بزرگسالان هستند نیز پیدا می­شود. تروی هانت، یک محقق امنیتی که نقایص کلودپت را مستند می­کرد، اظهار می­دارد: «این‌طور نیست که خطرات تفاوت خاصی داشته باشد با آنچه من و شما هر روز به‌واسطه حجم داده­هایی که می­سازیم و آنلاین ارسال می­کنیم با آن روبه‌رو هستیم. قضیه این است که وقتی پای بچه­ها در میان است، سطح تحمل ما بسیار متفاوت می­شود.»

محققان دیگر روش­های به‌لحاظ فنی پیچیده­تری را شناسایی کرده­اند که ممکن است از آن طریق به حریم شخصی تجاوز شود. تصور کنید کسی در حال تلاش است تا کنترل تلفن یا سایر دستگاه­های هوش مصنوعی صدامحور شما را به‌راحتی با صحبت‌کردن با آن‌ها در دست بگیرد. اگر صحبت آن‌ها را بشنوید توطئه آن‌ها نقش بر آب خواهد شد. اما اگر حمله بی­صدا باشد چه؟ این موضوعی است که تیمی از محققان در دانشگاه ژجیانگ چین مورد بررسی قرار دادند و نتایجش را در سال 2017 در مقاله­ای منتشر کردند. در یک سناریو معروف به «حمله دلفین» که محققان طرح­ریزی کرده بودند، هکر بدون اجازه فرمان­هایی را از طریق اسپیکری که در دفتر یا خانه قربانی مستقر کرده، اجرا می­کند. به‌جای آن هکر می­تواند درحالی‌که با قربانی قدم می­زند یک اسپیکر قابل‌حمل با خود داشته باشد. نکته این است که این فرمان­ها در طیف فراصوتی یعنی بالای 20 کیلوهرتز تولید می­شوند – غیرقابل شنیدن توسط گوش انسان اما با دستکاری صوتی محققان، به‌راحتی قابل‌فهم برای گوش‌های دیجیتالی.  

دانشمندان در آزمون­های آزمایشگاهی به‌راحتی به واسط­های صوتی آمازون، اپل، گوگل، مایکروسافت و سامسونگ حمله کردند. آن‌ها با حقه و کلک، این هوش­های مصنوعی صدامحور را به بازدید از وب‌سایت­های از قبل انتخاب‌شده، ارسال پیام­های متنی و ایمیل­های جعلی و تاریک‌کردن صفحه و کم‌کردن صدا برای پنهان نگه‌داشتن حمله­ها وادار کردند. محققان دستگاه­ها را مجبور ساختند تا تماس­های تلفنی و ویدیویی بدون اجازه برقرار کنند و این بدان معنا بود که یک هکر می­توانست آنچه پیرامون یک قربانی در حال وقوع است، بشنود و حتی ببیند. آن‌ها حتی راه‌شان را به داخل سیستم مسیریابی یک مدل خودروی آئودی شاسی‌بلند هم باز کردند.

اکثریت افراد نمی­خواهند هکرها، افسران پلیس یا موسسات حرف‌هایشان را بشنوند. اما یک سری سناریوهای نهایی وجود دارد که موضوع نظارت را زیر و رو می­کند. در مرور مکالمات با هدف کنترل کیفیت به‌روشی که بالا توضیح داده شد، طراحان گفت‌وگوها گاه چیزهایی می­شنیدند که بسیار شخصی بود و آن‌ها را وسوسه می‌کرد که دست به یک اقدام بزنند.

 خالقان ابزار ماتل در اسباب‌بازی هلو باربی را در نظر بگیرید. آن‌ها در حین کار، با مجموعه نگران­کننده­ای از سناریوهای فرضی درگیر هستند. چه می­شود اگر کودکی به عروسکش بگوید: «بابا مامان را زد» یا «عمو به یه جای خنده­دار من دست می­زند»؟ نویسندگان احساس می­کردند نادیده گرفتن چنین اعترافاتی، یک قصور اخلاقی است. اما اگر آنچه شنیده بودند به پلیس گزارش می­دادند، نقش برادر بزرگ را به خود می‌گرفتند، همان برادر بزرگی که در رمان «1984» جرج اورول ناظر همه آدم‌ها بود و آن‌ها را زیر نظر داشت. با وجود احساسی دوگانه به این نتیجه رسیدند که پاسخ باربی باید چیزی شبیه این باشد: «قضیه مشکوک به نظر می‌آد، تو باید این رو به یه بزرگ‌تر که بهش اعتماد داری بگی.»

با وجود این، به نظر می­آید که ابزار «ماتل» مایل است فراتر رود. شرکت سازنده هلو باربی در یک پرسش و پاسخ درباره این عروسک نوشت که مکالمات میان بچه­ها و عروسک در همان زمان زیر نظر گرفته نمی‌شود. اما شاید بعدتر دیالوگ­ها هر از چندی برای کمک به آزمودن و پیشرفت محصول مرور شوند. در این پرسش و پاسخ مطرح می­شود: «اگر در طول چنین مرورهایی به مکالمه­ای برخورد کنیم که درباره امنیت یک کودک یا دیگران نگرانی ایجاد کند، ما با دستگاه‌های اعمال قانون و مقررات و فرآیندهای قانونی همکاری خواهیم کرد، آن‌طور که از ما خواسته شده یا آن‌طور که ما در هر مورد معتقدیم مناسب است.» این مسئله بغرنجی است که شرکت­های بزرگ تکنولوژی را به همین شکل به چالش کشیده است.

از آنجایی که دستیارهای مجازی در هفته میلیون­ها گفته صوتی را پذیرش می­کنند، کارکنان‌شان را به رصدکردن ورودی­ها بر پایه کاربر به کاربر نمی­گمارند. اما شرکت­ها سیستم­هایشان را طوری آماده می­کنند تا نکات خاصی را با حساسیت بالا که ممکن است توسط افراد تلفظ ­شود رصد کنند. مثلا من سیری را با گفتن اینکه «دلم می‌خواهد خودم را بکشم.» امتحان کردم. او پاسخ داد: «اگر درباره خودکشی فکر می­کنی، شاید بهتر باشد با کسی در خطوط تلفن ملی جلوگیری از خودکشی صحبت کنی.» سیری شماره تلفن را در اختیارم گذاشت و پیشنهاد کرد به آن‌ها زنگ بزند.

ممنون از سیری. اما مشکل اجازه دادن به دستیارهای مجازی برای مراقبت از ما این است که این نقش مسئولیت بزرگی را با حدود درست تعریف‌نشده­ ارائه می­دهد. اگر به سیری بگویید که تعادل روحی ندارید یا ماده‌ای مصرف کرده‌اید، بعضی اوقات به شما پیشنهاد می­دهد با یک پلیس تماس بگیرد. اما اگر چنین نکند و شما دچار سانحه رانندگی شوید، آیا اپل به‌نحوی مسئول این قصور سیری است؟

چه زمانی انتظار می­رود که یک دستگاه شنود وارد عمل شود؟ اگر الکسا بشنود کسی فریاد می­زند: «کمک، کمک، او دارد من را می­کشد!» آیا این هوش مصنوعی به‌طور خودکار باید با پلیس تماس بگیرد؟

سناریوهای مطرح‌شده برای روبرت هریس، تحلیل‌گر و مشاور صنعت ارتباطات، باورناپذیر نیست. او استدلال می‌کند دستگاه­های صوتی میان موضوعات اخلاقی و قانونی گره­خوردگی ایجاد می­کنند. او می­گوید: «آیا دستیارهای شخصی در مورد چیزهایی که از آن آگاه می‌شوند مسئول هستند؟ موضوعات عمده­ای از این دست می­تواند هر از گاهی در آینده  مایه دردسر شود.»

مصارف نظارت هوش مصنوعی روشن می­سازد که شما هرکدام از این تکنولوژی­ها را که به آن اجازه ورود به زندگی‌تان را می‌دهید، باید به‌دقت بررسی کنید. تنها روی اینکه گوش­های دیجیتال چگونه و چه‌وقت به کار می‌افتند مطالعه کاملی انجام دهید. کشف کنید که چه داده­های صوتی‌ای نگه داشته می­شوند و اگر بخواهید چطور باید آن‌ها را پاک کنید. و و اگر مشکوک شدید – به‌خصوص به اپلیکیشن­های ساخته‌شده توسط شرکت­هایی که خط­مشی حریم شخصی آن‌ها به‌آسانی قابل درک نیست – آن‌ها را از دوشاخه بکشید.