فروشگاه اینترنتی پاسارگاد آریان

چند ماه پیش کمپین مبارزه با ربات های قاتل در لندن برگزار شد. مهم ترین مساله این کمپین این بود که تولید انبوه این ربات های جنگجو، بدون نظارت نهادهای جهانی ممکن است بزودی تبدیل به تهدیدی جدی برای تمدن بشری شود.

ربات ها در گذشته نه چندان دور، فقط بخشی از افسانه ها و داستان های علمی ـ تخیلی بودند. بیشتر ما دورانی را به یاد داریم که با دیدن فیلم هایی مثل ترمیناتور یا خواندن کتاب های آسیموف، بحث درباره شورش ربات ها و همزیستی با ربات هایی با قدرت آگاهی بالا آغاز می شد، اما هیچ کدام از ما قطعا در مخیله مان هم نمی گنجید در روزهایی که زنده ایم، این خطر آنقدر جدی شود که آرام آرام توجه جامعه جهانی را جلب کند. امروز ایالات متحده ۲۰ هزار ربات مختلف در عراق، افغانستان، آسمان لیبی، سوریه و حتی در آسمان کشور ما دارد که هرچند بیشتر آنها از مریلند و مقر پنتاگون هدایت می شوند، اما ماموریت های آنها بسیار تاثیرگذار بوده است. هرچند ربات های جنگجوی امروزی، بیشتر هدایت پذیر از دور هستند، اما پیشرفت های اخیر در تشخیص صوت یا تصویر که حتی در گوشی های همراه ​ هم وارد شده است (مثل سیری در اپل یا تشخیص حرکت چشم در تلفن های اندرویدی یا حرکت بدن در کینکت مایکروسافت) نشان می دهد که روز به روز ربات ها مستقل تر از ما عمل خواهند کرد و سرانجام روزی فراخواهد رسید که دیگر نیازی به هدایت و کنترل ما نخواهند داشت و کاملا مستقل تصمیم گرفته و عمل خواهند کرد. آیا روزی فرا خواهد رسید که ربات ها علیه ما شورش کنند؟ اگر چنین خطری جدی است، بشر باید برای آن آماده باشد.

یک تلنگر

دو سال پیش و در یک ظهر تابستانی، ناگهان هدایتگرهای ارتش آمریکا تمام راه های ارتباطی شان با یک هلیکوپتر رباتیک فایر اسکات را که روی آسمان ایالت مریلند پرواز می کرد از دست دادند. در کد این هلیکوپتر رادیویی آمده بود که اگر تمام کانال های ارتباطی قطع شد، به نقطه بلند شدنش برگردد و روی زمین بنشیند؛ ولی این ربات به شمال غرب می رفت؛جایی که کاخ سفید و ساختمان کنگره از دور دیده می شد! در ۳۰ دقیقه ای که از قطع ارتباط هلیکوپتر با زمین تا لحظه به زمین نشاندن آن گذشت، نیروی هوایی ایالات متحده در ساحل شرقی این کشور وضعیت قرمز اعلام کرد. اسکادران محافظتی جرج تاون با چند فروند هواپیمای اف ۱۶ آماده شد تا در صورت بحرانی تر شدن اوضاع هلیکوپتر بدون سرنشین را در آسمان بزند.

سرانجام در حالی که فایر اسکات به چند کیلومتری کاخ سفید رسیده بود، دوباره در اختیار هدایتگرهای ارتش درآمد و به خانه بازگردانده شد. تیترهای فردای آن روز مهم ترین روزنامه های آمریکایی: «پرسه زنی هلیکوپتر یاغی روی آسمان پایتخت»، «هلیکوپتر طغیانگر در واشنگتن چرخید» فایر اسکاتی که از کنترل خارج شده بود، مهمات نداشت. این ماشین از لحاظ هوش در حد و اندازه ای نبود که بتواند با برنامه ریزی و با تصمیم گیری قبلی دست به حرکتی علیه هدایتگرهایش؛ آن طور که در داستان های علمی ـ تخیلی اتفاق می افتد، بزند، ولی هنگامی که همین ربات از کنترل انسان خارج شد، آنها مجبور شدند نیروهای نظامی و دفاعیشان را برای مهار آن آماده و تجهیز کنند. پس از این اتفاق حتی وزیر دفاع ایالات متحده در کنگره استیضاح شد؛ ولی نکته قابل توجه این است که ربات هایی مانند فایر اسکات مدام در حال باهوش تر و مستقل تر شدن هستند.

جنگ در عصر تکنولوژی

نوئل شارکی، استاد دانشگاه شفیلد انگلستان که متخصص رباتیک و هوش مصنوعی است یکی از افرادی است که بیرون از هیاهوی دنیای رباتیک از آینده این ماشین ها نگران است. او کتابی با عنوان «ماموران جنگ» نوشته و در آن آینده میدان های جنگ و ربات های نظامی در قرن بیست و یکم را پیشبینی می کند و این که آنها ممکن است چطور دنیای ما را به نابودی بکشند. او معتقد است تلاش هایی که برای اهلی کردن و پایبند نگهداشتن ربات ها انجام می شود در مقابل سرعت پیشرفت و گسترش دنیای آنها بسیار ناچیز است. شارکی می گوید: «ربات ها مانند کودکی هستند که بسرعت بزرگ می شود و ما تلاش بسیاری کمی در راه تربیت و آموزش آنها می کنیم!» اما در مقابل وندر والاچ، رئیس بخش پژوهشی تکنولوژی و اخلاق در دانشگاه ییل آمریکا هم معتقد است​ هوش مصنوعی را نمی توان از حد خاصی بالاتر برد.

او می گوید​ پیشرفت برنامه هایی که برای ربات ها نوشته می شود و پیشرفت طراحی و ساخت آنها می تواند هوششان را بالاتر ببرد، ولی مفهوم هوش در این ماشین ها هیچ وقت رنگ و بویی از هوش انسانی نخواهد داشت؛ زیرا آنها هیچ گره پیش بینی نشده ای را نمی توانند باز کنند و جهان پر از اتفاقات جدید و بی سابقه است و نظامیان براحتی و با استفاده از حقه های نه چندان پیچیده می توانند ربات ها را فریب دهند و این ربات ها اشتباه می کنند؛ همان طور​که با خطایشان باعث مرگ هزاران غیرنظامی در افغانستان و پاکستان شده اند. البته کسانی هم هستند که بر عکس این فکر می کنند. آنها می گویند همین حالا سرعت پردازش رایانه ها بیشتر از انسان است. مثلا یک ضدهوایی خودکار حتی از حواس جمع ترین سربازانی که پشت ضدهوایی بنشینند هم سریع تر عمل می کند. حداقل چند صدم ثانیه هم در نبرد زمان کمی نیست. همین الان، تعداد زیادی از این ربات ها در ناحیه مرزی دو کره در حال انجام وظیفه هستند. نباید فراموش کرد که یک ابرکامپیوتر سال ها قبل توانست کاسپاروف، قهرمان شطرنج جهان را مغلوب کند. سناریوی فیلم ترمیناتور آنقدرها هم دور از ذهن نیست و در درازمدت به واقعیت نزدیک می شود.

افسار رباتیک

طبق قانون مور، قدرت پردازش تراشه کامپیوترها با حفظ قیمت، هر ۱۸ ماه دو برابر می شود. به این ترتیب در آینده نزدیک با پیشرفت هایی که بویژه در هوش مصنوعی و کامپیوترهای کوانتومی رخ خواهد داد چندان اغراق آمیز نیست اگر بگوییم این موجودات آهنی صاحب شخصیت می شوند و به این ترتیب داستان های تخیلی ایزاک آسیموف و دغدغه هایی که او داستان هایش را بر آنها استوار کرده بود، به چالش انسان های دنیای واقعی تبدیل می شود: «این که چگونه باید ربات ها را اخلاق محور کرد؟» و این که چگونه باید جامعه ربات ها را تا ابد (و حتی هنگامی که کاملا از انسان مستقل شدند) به ارزش های انسانی پایبند نگه داشت. قوانین سه گانه آسیموف که البته در داستان های علمی ـ تخیلی او آمده است، اولین ایده در این راه هستند.

جرمی بنتام و جان استوارت ـ دو نفر از فلاسفه تحلیلی ـ عقیده داشتند​ تمام رفتارها و تصمیماتی که ما می گیریم، نتیجه محاسبات و مقایسه هایی است که در ذهن انجام می دهیم. آنها بر همین اساس اصل «لذت جویانه بودن رفتارها» را مطرح کرده اند. آنچه در این اصل توضیح داده می شود آن است که رفتاری مناسب است که بالاترین سطح رضایت را به همراه بیاورد؛ یعنی هر رفتاری در ذهن از قبل با مقایسه مقدار لذت و ناخشنودی ای که به همراه می آورد، سنجیده می شود. براساس باور این دو، باید در ذهن ربات ها چنین سیستمی طراحی شود تا پس از ارزشگذاری اصول اخلاقی، ربات واحدهای لذت و ناخشنودی را با هم مقایسه کند و بتواند بر مبنای آن تصمیم بگیرد. سال ۲۰۰۵، رافائل رزپکا و کن​جی آراکی از دانشگاه هوکایدو​ ژاپن، طرحی را با عنوان «الگوریتم های دموکراسی محور» پیشنهاد کردند.

این سیستم می توانست در جستجویی سریع در گوگل رفتارهایی را که بیشتر مردم در موقعیت های مختلف نشان داده بودند، به صورت آماری استخراج کند و از این طریق به ربات فرمان دهد. مشکل این طرح آن است که در بسیاری از مواقع کاری که بیشتر انجام می دهند، کار درست و عاقلانه ای نیست و واکنش مناسب تر را عده ای انجام می دهند که در اقلیت هستند، اما دانش بیشتری دارند (آریستو کراسی)، اما ویژگی مهمی که طرح «الگوریتم های دموکراسی محور» داشت، این بود که زمینه ساز ارائه مدل های جدیدی برای تربیت و ربات ها شد. یکی از این طرح ها، ساخت رباتی به نام «ربات تعلیم دهنده» بود. این ربات می تواند در مراحل ساخت ربات های دیگر شرکت کند و با اتصال به آنها، تعداد پرشماری از موقعیت ها و تصمیمات عاقلانه و انسانی را که می توان در آنها گرفت، به ذهن ربات منتقل کند.

به هر حال شاید در روزگار ما و در ربات های اولیه هم نسل ما وجود قوانین و اصول بنیادین چندان اهمیت نداشته باشد، ولی با پیشرفت هوش مصنوعی، سازندگان ربات با این پرسش بزرگ روبه رو می شوند که با ربات ها چه باید کرد تا همیشه فرمانبر انسان بمانند؟ پاسخ نقشی تعیین کننده در سرنوشت بشر داشته باشد.