آیا وجود انسان‌ها ضروری است؟ با یقین نمی‌توان به این پرسش، پاسخ داد. رایانه‌ها پیوسته به پیشرفتِ بی‌امانِ خویش ادامه می‌دهند، و در حوزه‌هایی مانند حساب‌داری و پزشکی و معماری و حقوقْ نرم‌افزارها کارهای حساس و پیچیده‌ای را انجام می‌دهند که پیش‌تر انسان انجام می‌داد. جادوگرانِ شرکتِ گوگل خبر از این داده‌اند که روبات‌ها پشتِ فرمانِ خودروی ما خواهند نشست و هواپیماها را خواهند راند، بیماری‌های ما را تشخیص و نسخه خواهند داد، به کودکانِ ما آموزش خواهند داد و از والدینِ سالخورده‌ی ما مراقبت خواهند کرد؛ در کل، روبات‌ها قرار است زندگیِ ما را سازمان‌دهی کنند. گوگل پیش‌بینی کرده است که در پایانِ دهه‌ی بعدی، هوشِ مصنوعی از بشر پیشی خواهد گرفت. ما همگی تبدیل به مازادی برای ماشین‌های خود خواهیم شد.

درست است که کار و زندگیِ ما روز-به-روز خودکارتر می‌شود، و به جرأت می‌توان گفت که همین جریان ادامه خواهد یافت. رایانه‌ها خیال ندارند که کُندتر یا خِنگ‌تر شوند. اما حالا نباید خود را مشغولِ این قضیه کرد و درباره‌ی آن نوشت. فن‌آوریِ دیجیتال با سرعتِ تمام دارد رشد می‌کند؛ ما نباید فقط به امکان‌ها و فرصت‌های هوشِ رایانه‌ای مشغول شویم، و از محدودیت‌ها و ثغورهای آن غافل شویم. ظریف‌ترین و دقیق‌ترین مهارت‌های انسانیِ ما (عقلِ سلیمِ ما، نبوغ و سازگارپذیریِ ما، سیالیتِ اندیشیدنِ ما) ورای چنگِ برنامه‌ریزها می‌ماند. خودکاریِ رایانه‌ای، که به هیچ وجه نمی‌تواند جایگزینِ ما شود، استعدادهای ارزشمند و تکینِ ما را دست‌کم گرفته است.

برای مثال به همین خودرویِ خود-ران که این همه تبلیغ و تحسین‌اش می‌کنند نگاه کنید. وقتی گوگل در ۲۰۱۰ اعلام کرد که "Pirus" را ساخته که می‌تواند به‌طور خودکار در جاده‌ها و خیابان‌های شهر براند (که بی‌شک دست‌آوردِ بزرگی است)، این شرکت هم‌چنین پیش‌بینی کرده که در پایانِ این دهه وسایلِ نقلیه‌ی تماما-خودکار به بازار عرضه خواهند شد. این اتفاق نخواهد افتاد. در دلِ اعتیاد به خودروهای روباتی، این واقعیت خوابیده که راننده‌های انسانی هم‌چنان نقشِ مهمی در این عملیات بازی می‌کنند. روبات‌ها هنوز هم در گیر و دارِ رویدادهای غریب و پیش‌بینی‌نشده‌ای مثل مسیرهای انحرافی و علایمِ پلیسِ راهنمایی و هزار ریزه‌کاری‌های اعصاب-خوردکن، گرفتار هستند که رانندگانِ انسانی می‌توانند با اطمینان و اعتماد-به-نفسی چشمگیر از پسِ آن گیر و دارها برآمده و تفسیرشان کرده و واکنش نشان دهند.

کارشناسانِ روبات می‌گویند حتی اگر مهندسین موفق شوند وسایلِ نقلیه‌ی روباتی‌ای بسازند که در ۹۹درصدِ شرایط از پسِ مشکلات برآیند، باز هم راهی بسیار طولانی تا خودکاریِ کاملِ آن وسایل مانده که باید طی شود. می‌توان به این فکر کرد که خودروهای خود-رانی تولید شود که در شرایطِ شدیدا کنترل‌شده‌ای مثل خطوطِ ویژه‌ در اتوبان‌ها، به‌طور مستقل عمل کنند؛ اما مادام که این خودروها بتوانند از پسِ انواع و اقسامِ مسائلِ ترافیکی در شهرها و محله‌ها برآیند، انسانِ دوراندیش و زِبردست هم‌چنان جایگاهِ خود را در صندلیِ راننده حفظ خواهد کرد.

همین امر در موردِ هوانوردی نیز صادق است. امروزه، هوانوردهای خودکار یک‌عالم پرواز انجام می‌دهند؛ اما این فن‌آوری هنوز دچار عیب و کاستی است. وقتی سامانه‌های خودکار از کار می‌افتند یا با شرایطی روبه‌رو می‌شوند که نرم‌افزارشان قادر نیست بر آن‌ها چیره شود، خلبان باید کنترلِ هوانورد را بر عهده بگیرد. ما هنوز تجربه‌ی تلخِ سال ۲۰۰۹ و محدودیت‌های پروازهای خودکار را فراموش نکرده‌ایم؛ جتِ هواپیماییِ ایالاتِ متحده در این سال پس از برخورد با دسته‌ی غازها در آسمانِ فرودگاهِ لاگاردیای نیویورک هر دو موتورش را از دست داد، اما خلبان (چلسی سولنبرگر) با خونسردی و مهارتِ تمام توانست هوانورد را به سلامت بر رودخانه‌ی هادسن بنشاند. شاهکارِ این خلبان واقعا باشکوه بود، اما همین خلبان‌های بامهارت هستند که هرروزه و در شرایطِ پرخطر دارند هواپیماها را هدایت می‌کنند.

کاستی‌های روبات‌های راننده و خلبان این نکته را می‌رساند که مهارت‌هایی که ما انسان‌ها بدیهی و پیش‌پاافتاده تلقی می‌کنیم (یعنی همین توانایی برای فهمیدنِ جهانِ پیش‌بینی‌ناپذیر و یافتنِ راهی در این پیچیده‌گی‌ها و دشواری‌ها) مهارت‌هایی هستند که رایانه‌ها به‌طور کامل نمی‌توانند داشته باشند. وقتی شرایط دشوار و پیچیده می‌شود، نرم‌افزار فرمان را به دستِ انسان می‌دهد. با این‌که الگوریتم‌های نرم‌افزاری حالا در حوزه‌ی دانش نیز کارهای مهمی را در دست گرفته‌اند، می‌بینیم که مهارت‌های عالیِ فکری و عقلیِ انسان هنوز هم ورای چنگِ برنامه‌ریزان قرار دارند. تواناییِ رایانه‌ها و الگوریتم‌های "داده بزرگ" در تحلیل و داوریِ پدیده‌های پیچیده، راهی بس طولانی را پیموده تا به این‌جا رسیده. اما هنوز نتوانسته نیاز به بینش و شهودِ انسانی را برطرف کند.

خطرِ واقعی‌ای که خودکاریِ رایانه‌ها برای ما ایجاد می‌کنند، وابستگیِ ما به آن‌هاست. ما تمایل داریم که فرض کنیم رایانه‌ها جایگزینی شایسته و بسنده برای هوشِ ما فراهم می‌کنند و همین نیز ما را بر آن می‌دارد که کارهای مهم را مشتاقانه به دستِ نرم‌افزارها بدهیم و نقشِ تابع و مادونی برای خود قائل شویم. مهندسین و برنامه‌ریزها نیز در طراحیِ سامانه‌های خودکارشده، تمایل دارند که منافعِ فن‌آوری را مقدم بر منافعِ مردم بگذارند. آن‌ها هر کاری که ممکن بوده را بر عهده‌ی نرم‌افزارها گذاشته‌اند و کارهای منفعل و رویه‌مندی نظیر واردکردنِ داده‌ها و نظارت بر خروجی‌ها را به انسان‌ها واگذار کرده‌اند.

مطالعاتِ اخیری که درباره‌ی تاثیراتِ خودکارشدنِ کارْ انجام شده، نشان می‌دهد که حتی انسان‌هایی با مهارتِ بالا چه‌طور به رایانه‌ها وابستگیِ کُشنده‌ای پیدا می‌کنند. کارگران وقتی به نرم‌افزارها اعتماد کرده و هر چالشی را به آن‌ها واگذار می‌کنند، قربانیِ پدیده‌ای می‌شوند که "خود-خشنودیِ خودکاری" نامیده می‌شود. [در این پدیده، ] توجه و تمرکزِ کارگران کاهش می‌یابد و نمی‌توانند مهارت‌های خویش را به کار بسته و استعدادهای‌شان پژمرده می‌شود. در ایالاتِ متحده، اداره‌ی هوانوردیِ فدرال شواهدی یافته که نشان می‌دهند خلبان‌ها قادر به هدایتِ دستیِ هواپیما نیستند و این امر در بدترین موارد منجر به تصادفات می‌شود. و حالا مدام تشویق و تبلیغ می‌کنند تا خلبان‌ها در طولِ پرواز خود-خلبانی را خاموش کرده و هوانورد را به‌طور دستی هدایت کنند. مطالعاتی که درباره‌ی حساب‌دارها و رادیولوژیست‌ها و دیگر حرفه‌ها صورت گرفته، نشانه‌هایی دال بر "مهارت‌زدایی"ای یافته‌اند که نتیجه‌ی خودکاری است.

اگر ماشین‌های اندیشه‌وَرز را به‌درستی طراحی کرده و به کار بگیریم، امکان‌ها و فرصت‌های تازه‌ای برای ما فراهم می‌کنند. آن‌ها کمک‌مان خواهند کرد تا مشکلاتِ دشوار را حل کرده و به دست‌آوردهای بزرگ‌تری برسیم. اگر روندِ کنونی را هم‌چنان ادامه دهیم، خود را محکوم به کارهای غیر-جذاب و فرسایشِ مداومِ مهارت‌های خویش کرده‌ایم. بالاخره روزی می‌رسد که این گفته حقیقت پیدا کند که الگوریتم‌ها باهوش‌تر از ما هستند. ما حتما باید توانایی‌های رایانه‌ها را تصدیق کرده و محترم شماریم. اما این نباید باعث شود که استعدادهای خود را دست‌کم گرفته و ارزشمندتر از توانایی‌های رایانه‌ها ندانیم.