جنینی که مادرش را می‌بلعد!

به‌قلم: عباس فتحیه

احتمالاً وقتی با عنوان این مقاله مواجه شدید تصور کردید که این یک داستان است، اما اقلاً دو تفاوت مهم با یک داستان دارد:
۱. داستان‌ها مربوط به گذشته‌اند و این تراژدیِ نسبتاً علمی مربوط به آیندۀ نزدیک است.
۲. داستان‌ها می‌توانند خیالی باشند، اما متأسفانه این تراژدی بسیار جدی و واقعی است.
مارتین هايدگر می‌گفت: در علوم مدرن، روش، ديگر ابزاری در خدمت دانايی نيست؛ بلكه دانايی در خدمت روش درآمده است. كوشش ما بايد «زنده نگه‌داشتن آتش انديشه باشد». [1] در جهان تكنولوژيک كار سخت‌تر است و هرچه زمان بگذرد كار سخت‌تر هم خواهد شد. [2] او همچنین می‌گفت: تکنولوژی همان یک شیوۀ خاص ارتباط با چیزهاست. پس تکنولوژی یک وسیله نیست؛ بلکه شیوه‌ای خاص از آشکار‌کردن چیزهاست و بنابراین با مقولۀ حقیقت مرتبط است. تکنولوژی مدرن با میل به سروری بر چیزها رخصت عیان‌شدن آن‌ها را ـ‌آن‌گونه که هستند‌ـ از آن‌ها سلب می‌کند؛ لذا استیلای تکنولوژی بر چیزها باعث خروجشان از آنچه هستند و نه خروج آن‌ها از خفا شده است. [3] می‌خواهم کمی دربارۀ تکنولوژی جنجالی هوش مصنوعی بنویسم؛ تکنولوژی جدیدی که عده‌ای آن را جایگزین بهتری برای هوش طبیعی و تصمیم‌گیری انسان‌ها می‌دانند و مدافع گسترش کاربردهای آن هستند، و عده‌ای آن را به‌طور مطلق یک تکنولوژی خطرناک و نابودکننده می‌دانند، و عده‌ای دیگر مثل ما معتقدند که این تکنولوژی پیش‌بینی‌ناپذیر اگر مهار نشود می‌تواند آسیب جدی به حیات و بقای انسان وارد کند.

هوش مصنوعی چیست؟

این تکنولوژی نیز ساختۀ انسان‌هاست، اما تفاوتش این است که مشخصاً جایگزین هوش انسان (یعنی مرکز فرماندهی و تصمیم‌گیری) است. این فرزند مشابه جنینی است که اگر متولد نشود مبارک‌تر است؛ چون احتمالاً اگر به دنیا بیاید و بزرگ شود، چون احساسات انسان‌دوستانه‌ای ندارد می‌تواند مادر خودش را هم ببلعد!
هوش مصنوعی (artificial intelligence) در دیکشنری آکسفورد این‌طور تعریف شده:
the theory and development of computer systems able to perform tasks normally requiring human intelligence, such as visual perception, speech recognition, decision-making, and translation between languages.
«تئوری و توسعه سیستم‌های رایانه‌ای که قادر به انجام وظایفی هستند که معمولاً به هوش انسانی نیاز است؛ مانند ادراک بصری، تشخیص گفتار، تصمیم‌گیری و ترجمۀ بین زبان‌ها.»
احتمالاً از همین تعریف کوتاه، عمق نگرانی آینده‌پژوهان را درک کرده‌اید.
همۀ تکنولوژی‌های بشری برای این ساخته و توسعه داده شدند که در خدمت بشر باشند و بخشی از کارها را تسهیل و تسریع کنند؛ اما این تکنولوژی ـ‌که در مفهوم ابتدایی‌اش همان کامپیوتر و نرم‌افزار است و در مفهوم حداکثری‌اش چیزی شبیه یک سیاه‌چالۀ فضایی است که می‌تواند زمین ما و محتویاتش را ببلعد‌ـ تفاوتش این است که نیامده تا کارهای بدنی متعارف ما را تسهیل و تسریع کند؛ بلکه آمده تا به‌جای ما فکر کند و تصمیم بگیرد!

ماهیت و آسیب‌های احتمالی تکنولوژی

تکنولوژی‌ها صرفاً متأثر از ما و خدمتگزار ما نیستند؛ بلکه تأثیراتی در محیط‌زیست و فرهنگ و سلامتی ما هم می‌گذارند؛ مثلاً وسایل نقلیه اختراع و توسعه داده شدند تا مسئولیت جابه‌جایی افراد و کالاها را تسریع و تسهیل کنند؛ گرچه هوای لازم برای تنفس ما را هم آلوده کردند و کشته‌های زیادی هم به‌جا گذاشتند و چربی اضافی و چاقی هم به بار آوردند و احیاناً ده‌ها تأثیر مخرّب دیگر هم در زندگی و فرهنگ و سلامتی انسان ایجاد کردند.
همه‌چیز در اینجا شبیه یک چرتکه برای محاسبه و مقایسۀ احتمالات است. همۀ ما که از وسایل نقلیه مدرن استفاده می‌کنیم، می‌دانیم این وسایل خطرات قطعی طولانی‌مدت و خطرات احتمالی کوتاه‌مدت برای جان و فرهنگ و سلامتی ما دارند؛ اما به این جمع‌بندی رسیده‌ایم که اهمیت فوایدش بر آسیب‌هایش می‌چربد و لذا دولت‌ها قصد ارتقا و اصلاح این تکنولوژی را دارند، نه حذفش از برنامۀ زندگی.
جامعه در مواجهه با آسیب‌های تکنولوژی حمل‌ونقل سخنی عقلایی دارد؛ اینکه مثلاً هواپیماها حتی در بدترین حالت قرار است چه آسیبی ایجاد کنند؟! سقوط کنند و مسافران خود و مردم ساکن در منطقه سقوط را بکشند؟ چند هواپیما در سال سقوط می‌کند و چند در صد مردم جان خود را از دست می‌دهند؟ میزان احتمالی این آسیب‌ها در مقایسه با افزایش چشمگیر سرعت جابه‌جایی صدها میلیون مسافر، آن‌قدر به چشم نمی‌آید.
بیش از یک قرن است که مناقشه‌ای چالشی بین اکثریت متفکران طرفدار تکنولوژی و اقلیت مخالفانی مثل مارتین هایدگر و شاگردانش و هیپی‌ها و … در جریان بوده است. دستۀ اول فواید تکنولوژی‌های مدرن را برجسته می‌کنند و به آن می‌بالند. دسته دوم آسیب‌های تکنولوژی‌های مدرن را برجسته می‌کنند و به آن می‌تازند. مردم عادی اما در این بین، چندان از تفکر مخالفان حمایت نمی‌کنند، چون مزایای تکنولوژی‌های مدرن را درشت‌تر می‌بینند. معمولاً کسانی که تصادفات دل‌خراشی داشته‌اند و حتی جان عزیزانشان را از دست داده‌اند، وقتی که از سر قبر عزیزانشان برمی‌گردند مجدداً از همین تکنولوژی قاتل استفاده می‌کنند. چرا؟ چون اتفاق یک بار می‌افتد و قرار نیست از چند حادثه، نتیجۀ کلی بگیریم و وقتمان را با پیاده‌روی از دست بدهیم.
می‌گویند: تکنولوژی حمل‌ونقل در بدترین حالت مگر قرار است چند درصد جامعه را متضرّر کند؟ کافی است به آمار تصادفات و حوادث رانندگی مراجعه کنیم تا با تحلیل آمار گذشته، به‌صورت تقریبی میزان تلفات سال جاری را تخمین بزنیم. این کار پژوهشگران علوم اجتماعی است و در عموم کشورها، آن‌ها تخمین می‌زنند که امسال به‌صورت میانگین قرار است چه تعداد از مردم توسط این غول‌های آهنی نامهربان بمیرند!

تفاوت هوش مصنوعی با سایر تکنولوژی‌ها

ممکن است برخی تکنولوژی هوش مصنوعی را با تکنولوژی‌هایی مانند حمل‌ونقل مقایسه کنند و همین جواب را دربارۀ تکنولوژی هوش مصنوعی هم بدهند؛ اما این یک قیاس نامربوط است؛ چون وسایل نقلیه قرار نیست به‌جای ما تصمیم بگیرند و قرار نیست طبق برآورد خودشان به تکامل برسند!
شاید بگویند: تکنولوژی حمل‌ونقل هم امروزه با هوش مصنوعی گره خورده و نمونه معروفش مکان‌یاب‌هایی است که به‌عنوان یک ویژگی (Option) بر روی خودروهای جدید وجود دارد. مکان‌یاب (GPS) طبق الگوی هوش مصنوعی کار می‌کند، اما نه‌تنها خطرناک نیست، بلکه از خطرات احتمالی جلوگیری می‌کند.
این کلام جواب کسانی است که مطلقاً با هوش مصنوعی مخالف‌اند، نه ما که معتقدیم باید افساری بر دهان این تکنولوژی زده شود تا از محدودۀ خدمتگزاری به انسان طغیان نکند.
فرض کنید خودروها کاملاً طبق الگوی هوش مصنوعی کار کنند و نرم‌افزار و سخت‌افزارشان قابلیت تکامل داشته باشد؛ یعنی از مرزهای اولیه‌ای که سازندگان برای آن‌ها ترسیم کرده‌اند خارج شوند؛ چون برنامه‌نویسان به این نرم‌افزار امکان داده‌اند که از تحلیل بانک اطلاعاتِ پویای خودش تصمیم مناسبی بگیرد و لذا با گسترش اطلاعات احتمالاً در فرایند تصمیم‌گیری به نتایج جدیدی خواهد رسید که برای برنامه‌نویسان هم غیر‌قابل‌پیش‌بینی یا غیر‌قابل‌کنترل است؛ آیا در این صورت می‌توان به تکنولوژی خودروسازی خوش‌بین بود؟
اصلاً فرض کنید که ایدۀ خودروهای خودمتکامل یک ایدهٔ تخیلی هالیوودی است، اما ربات‌ها و صد البته مسابقۀ تسلیحاتی هوش مصنوعی (Artificial intelligence arms race) تخیلی نیستند و اخیراً دولت‌های روسیه و چین و امریکا و اسرائیل و کرۀ جنوبی و انگلستان از مجوز استفاده از این ماشین‌های جنگی هوشمند خبر داده‌اند![4] بر اساس تعریف دیکشنری آکسفورد، رُبات (robot) ماشینی است که معمولاً قابل‌برنامه‌ریزی توسط رایانه بوده و قادر به انجام خودکار شماری از اعمال پیچیده است. همچنین بر پایۀ تعریفی از بریتانیکا ربات دستگاهی است که به‌صورت خودکار عمل می‌کند، جایگزین تلاش انسانی می‌شود و ممکن است در ظاهر شبیه انسان‌ها نباشد.[5]

فرگشت در هوش مصنوعی

فرگشت جانداران و حتی سایر موجودات کیهان، نظریه‌ای است که تبدیل به مبنای استنتاج علوم جدید، حتی علوم اجتماعی و انسانی شده. احتمالاً بیشترِ شما خوب می‌دانید که تکامل (فرگشت) چیست، اما ممکن است برخی هنوز هم تصور کنند تکامل یعنی جهان نیاز به خالق ندارد یا انسان از نسل میمون است؛ در حالی که دومی اساساً دروغ و افتراست، اولی هم مساوی با تئوری تکامل نیست؛ بلکه نتیجه‌ای است که برخی دانشمندان معاصر مثل دکتر داوکینز از تحلیل فرایند تکامل گرفته‌اند و البته استاد احمدالحسن این نتیجه را به روش علمی نقد کرده و با تحلیل هدفمندی فرایند تکامل، عکس آن را نتیجه گرفته است.[6] به زبان ساده‌شده، فرگشت به‌معنای تغییر تدریجی ویژگی‌های موجودات در نسل‌های پیاپی طبق الگوی سازگاری با طبیعت در راستای بقای موجود کامل‌تر و قوی‌تر است.
مهم‌ترین و پیچیده‌ترین عضوی که در اثر تکامل ارتقا یافته، ابزار هوشمندی (مغز) است که نتیجهٔ آن پیدایش گونۀ انسان هوشمند (هوموساپینس) است که به‌سبب برخورداری از هوش برتر، توانسته جهان طبیعت و سایر زیست‌گونه‌ها را به تسخیر خود درآورد.[7] در همراهی با اصطلاحات رایج اسم این هوش را می‌گذاریم هوش طبیعی (natural intelligence). همه اشکال جدید و عجیب بزه‌کاری محصول برخورداری انسان‌ها از همین هوش طبیعی است.
انسان هوشمند با همین ابزار برتری (هوش طبیعی) تنها در همین صدۀ اخیر بلایی بر سر جهان آورده که همۀ حیوانات با هوش پایین‌تر در طول سه میلیارد و هفتصد میلیون سال نتوانستند شبیهش را انجام دهند! هیچ حیوانی جنگ جهانی راه نینداخت که در مدت کوتاهی چند صد میلیون جاندار را بکشد و هیچ حیوانی با سلاح هسته‌ای جهان را شخم نزد. هیچ حیوانی دیگر حیوانات را به‌خاطر اختلاف بینش و گرایش ده‌ها سال در زندان زجرکش نکرد.

همۀ این کارها را انسان‌ها کردند، چون هوش برتری دارند که طبیعی است. آنچه می‌تواند جلوی سرکشی این هوش طبیعی را بگیرد یک حاکم عاقل اخلاق‌مدار است که با وضع قوانین عادلانه و اجرای عادلانۀ آن قوانین، افسار هوش طبیعی را بکشد. ویژگی این مهارکننده آن است که خداخواه است، نه خودخواه، یعنی ایثار حقیقی را با علم و عملش اثبات می‌کند.[8] عقل یا ذهنی که این منجی برگزیده دارد چیزی فراتر از هوش طبیعی است که می‌توانیم آن را «هوش الهی» بنامیم.
هوش طبیعی انسان محصول حدود چهار میلیارد سال تکامل تدریجی است، نه محصول یک قرن گذشته؛ اما دقیقاً در این یک قرن چه اتفاقی افتاده که هشدارهای آخرالزمانی را برای ساکنان زمین فعال کرده؟ در این قرن اخیر، ابزار بی‌جان در اختیار هوش طبیعی انسان‌های خودخواه قرار گرفته‌اند؛ مثلاً در قرن ۱۰ میلادی یک رهبر خودخواه و باهوش می‌توانست چند صد هزار نفر را جذب کند که در یک جنگ فرسایشی با گروهی دیگر، هزاران نفر با شمشیرها همدیگر را تکه‌تکه کنند. امروز اگر شخصی با همان طرز تفکر صاحب اقتدار شود، برای اینکه درس عبرتی به مخالفش بدهد تصمیم خطرناکی خواهد گرفت که در مدتی کوتاه چند میلیارد انسان و حیوان را خواهد کشت!
پس انسان‌ها قبل از اینکه هوش طبیعی‌شان تحت کنترل هوش الهی منجی قرار بگیرد، خودشان با همین ابزار آهنی بی‌رحم، برای نابودی جهان کافی‌اند؛ ابزاری که تحت تسلط کسانی هستند که هوش طبیعی دارند و سایه‌ای از هوش الهی و اخلاق هم دارند. حال اگر یک هوش مصنوعی خودمتکامل که اصلاً مفاهیم اخلاقی هوش الهی را درک نمی‌کند هم به این معادله اضافه شود، چه اتفاقی خواهد افتاد؟!

اگر ارزش‌های اخلاقی و عواطف انسانی نبود و خودخواهان را با موشک‌هایشان رها می‌کرد، احتمالاً امروز زنده نبودیم که بخواهیم دربارۀ آینده هوش مصنوعی گفت‌وگو کنیم! حکومتی که تصمیم گرفت برای سربه‌راه‌کردن امپراتوری ژاپن و سوق‌دادنش به لیبرال‌دموکراسی در چند دقیقه هیروشیما و ناکازوکی را بمباران هسته‌ای کند، امروز هم با سلاح‌های بسیار پیشرفته‌تری در صحنه حضور دارد! آن‌ها که باید سربه‌راه شوند هم هنوز هستند و البته بسیار گسترده‌تر و پیچیده‌تر! خشم و نفرت و تنازع بقا هم هنوز هست و البته بسیار شدیدتر!
وقتی این خودخواهان را با چشم خود می‌بینیم که با استفاده از هوش طبیعی در حال نابود‌کردن جهان هستند، چرا باید خشنود یا خوش‌بین باشیم که سلاح پیش‌بینی‌ناپذیر جدیدی به‌اسم هوش مصنوعی هم در اختیارشان قرار بگیرد؟ اگر یک جانیِ دیوانه را ببینید که با قمه‌ای صد نفر را کشته و زخمی کرده، آیا عاقلانه است که یک سلاح خودکار هم به او بدهید؟ آیا باید هواپیمای جنگنده هم به او بدهید؟ موشک‌های بالستیک هم باید تقدیمش کنید؟

حال آیا عاقلانه است که پهبادها و شهپادهایی در اختیارش بگذارید که قدرت فکر‌کردن و تصمیم‌گیری هم داشته باشد و دشمنان بالقوۀ او ـ‌یعنی کسانی که طبق تحلیل بانک‌های اطلاعاتی در فکر مبارزه با این جانی دیوانه هستندـ را شناسایی و منهدم کند؟! تصور کنید رقبای او هم از پهبادها و شهپادهای متفکّر مشابهی برخوردار هستند. در این صورت، پایان جهان کجاست و مسئله به کجا ختم می‌شود؟!
مهم‌ترین محصول تکامل زیست‌شناختی، مغز بود که باعث شد انسانی خردمند جهان را تسخیر خود کند؛ مغزی که اگر فاقد هوش الهی باشد با کمک ابزارهای بی‌روح و بی‌رحم کنونی قادر است در کوتاه‌ترین زمان ممکن، همۀ جانداران و محیط‌زیست را نابود کند.
مغز انسانی از نظر خصوصیات حجم، حافظه، سرعت و دقت پردازش، و سرعت استنتاج و تصمیم‌گیری بسیار محدود است؛ چون میراث تکامل تدریجی است. هوش مصنوعی در مقایسه با حافظه و پردازش و تصمیم‌گیری هوش طبیعی فاقد محدودیت‌های زیست‌شناختی است؛ چون اساساً یک ماشین است، نه یک زیست‌گونه. این‌طور فرض کنید که انسان با هوش طبیعی خودش یک اَبَرانسان مکانیکی (نه زیست‌شناختی!) ساخته که حافظه‌ای نامحدود دارد؛ همۀ اطلاعات پویای نامتناهی خودش را در کسری از ثانیه پردازش می‌کند و متعاقباً تصمیم‌گیری و تصمیمش را اجرا می‌کند، آن هم تصمیماتی پویا و شناور که برای هوش طبیعی قابل پیش‌بینی هم نیست! نتیجه به نظر شما هشداردهنده نیست؟!

برنامه‌نویسی و فرایند تصمیم‌سازی ماشین‌ها

از آغاز مقاله تلاش کرده‌ام حتی‌المقدور از اصطلاحات فنی کامپیوتر استفاده نکنم؛ چون شاید بسیاری از خوانندگان با این مسایل فنی ناآشنا باشند. اگر خدا بخواهد در آینده مقاله‌ای خواهم نوشت که از نگاه فنی و با تکیه بر ویژگی کامپایلرها و زبان‌های برنامه‌نویسی به این مسئله بپردازد. فعلاً فقط پیشنهاد می‌کنم برای درک بهتر مسئله بحث در همین مقاله، اصطلاحاتی مثل «فراگیری ماشین: machine learning» و «یادگیری عمیق:deep learning» را در موتورهای جست‌وجو وارده کرده و اقلاً یک مقاله درباره‌اش بخوانید یا یک ویدیوی آموزشی ببینید.
شما از نرم‌افزارهای گوشی‌های هوشمند یا رایانه‌ها، سایت‌های اینترنتی و شبکه‌های اجتماعی مثل یوتیوب و فیس‌بوک و توییتر و اینستاگرام استفاده کرده‌اید. آن چیزی که شما مشاهده می‌کنید «رابط کاربری:UI=user interface» نام دارد که همان پوستۀ بیرونی نرم‌افزارهاست. شما در واقع شاهد بخشی کوچکی از نتایج هستید و نمی‌دانید چه فرایندی برای این تصمیم‌سازی طراحی شده است؛ اما برنامه‌نویسان و توسعه‌گران کدهایی می‌نویسند که کامپایلر آن کدها را تبدیل به زبان ماشین کرده و نتیجه را در اختیارتان می‌گذارد.

یک مثال ساده می‌زنم: شما در خانه تلویزیون دارید و مدتی را صرف تماشای برنامه‌های تلویزیونی از فرستنده‌های دیجیتالی یا ماهواره‌ای می‌کنید، یعنی از خروجی این محصول استفاده می‌کنید؛ اما نمی‌دانید اجزای آن چگونه کار می‌کند که چنین تصاویری را می‌بینید و چنین صداهایی را می‌شنوید. تلویزیون‌های عادی بانک ویدیوها را تجزیه‌وتحلیل نمی‌کنند و قدرت فکر‌کردن ندارند؛ بلکه فقط یک ابزار در اختیار شما هستند و شمایید که تصمیم می‌گیرید در چه ساعتی چه کانالی را تماشا کنید.
تلویزیون مثل همان نرم افزار یا پلتفرم شبکهٔ اجتماعی است که ما از آن استفاده می‌کنیم و نمی‌دانیم درونش چه می‌گذرد، اما برنامه‌نویسان و توسعه‌گران این تلویزیون را طراحی کرده‌اند. این همان شکل سنتی برنامه‌نویسی است که دانشجویان رشته‌های فنی‌‌مهندسی با آن آشنا هستند.

حال تصور کنید که در حال استفاده از پلتفرم یوتیوب هستید یا از تلویزیون‌های نسل جدید که گیرندهٔ اینترنتی دارند و به درگاه یوتیوب وصل می‌شوند استفاده می‌کنید. در این حالت دیگر شما علاوه بر اجزای درون جعبه تلویزیون، یک نرم‌افزار و فرایند تصمیم‌گیری هم دارید که آن را هم نمی‌شناسید؛ مثلاً وقتی یک ویدیوی زنده یا بایگانی‌شده می‌بینید، هم‌زمان می‌بینید که یوتیوب لیستی از ویدیوهای دیگر تهیه کرده که فکر می‌کند برایتان جالب است. وقتی که فیلم را تا آخر دیدید، تعدادی ویدیوی دیگر را به شما پیشنهاد می‌دهد که آن‌ها را ببینید. یوتیوب از کجا می‌داند که چه ویدیوهایی برای شما مناسب است؟ هرچه از کاربری شما می‌گذرد پیشنهادات او عاقلانه‌تر و جذاب‌تر می‌شود؛ یعنی شما را بهتر می‌شناسد و بهتر برایتان تصمیم می‌گیرد. چطور چنین اتفاقی می‌افتد؟
همان‌طور که تلویزیون‌های نوع اول اتفاقی کانال عوض نمی‌کرد، تلویزیون نوع دوم هم تصادفی ویدیوها را پیشنهاد نمی‌دهد. تلویزیون یا سخت‌افزار شما وصل به یک شبکه است؛ شبکه‌ای که با هوش مصنوعی برنامه‌ریزی‌ شده و کار می‌کند، و دقیقاً مانند یک ابرانسان است که بی‌نهایت ویدیو در حافظۀ بانک اطلاعاتی خود دارد و با توجه به اطلاعاتی که پیوسته از شما کسب می‌کند، در کسری از ثانیه تصمیم می‌گیرد که کدام ویدیوها برایتان جذاب‌تر است. بحران اعتیاد به شبکه‌های اجتماعی محصول همین هوش مصنوعی تعاملی است.
شبکه‌های ماهواره‌ای بحران اعتیاد در پی نداشتند؛ چون در نهایت بعد از دیدن چند برنامه تلویزیونی و گردش بین شبکه‌ها خسته می‌شوید؛ اما وقتی سراغ اینستاگرام یا یوتیوب بروید و تعهد یا مسئولیت خاصی نداشته باشید به‌سادگی رهایشان نمی‌کنید، چون بسیار باهوش‌اند و هر لحظه شما را بهتر می‌شناسند و پیش‌بینی‌تان می‌کنند و لذا هرچه بیشتر با آن‌ها تعامل کنید، بهتر تشخیص می‌دهند چه چیزهایی برایتان جذاب است و حتی می‌فهمند که در چه روزها و چه ساعاتی به چه نوع ویدیوهایی علاقه دارید؛ چه نوع ویدیوهایی را بدون دیدن لایک می‌کنید (یعنی طرفدار سازندۀ آن‌ها هستید) و چه ویدیوهایی را می‌بینید و لایک نمی‌کنید (یعنی طرفدار سازندۀ آن‌ها نیستید)؛ به چه کشور و فرهنگ و زبانی وابستگی بیشتری دارید؛ چقدر اهل فکر و تأمل هستید؛ چقدر ذهنتان ساختارمند و متمرکز یا پراکنده و کاوشگر است؛ چقدر سیاسی هستید و به کدام جناح تعلق دارید و به چه فرد یا حزبی رأی می‌دهید؛ چقدر مصرف‌گرا هستید و چه اندازه تولیدکننده؛ چقدر راست‌گویید، چه محصولاتی را دوست دارید، چقدر اهل مسافرتید و به کجاها سفر کرده‌اید یا می‌خواهید مسافرت کنید و… .
به زبان ساده، همچنان که شما در حال مطالعۀ ظاهر آن‌ها هستید، آن‌ها در حال مطالعۀ درون شما هستند! شما هر لحظه در حال پر کردن فرم‌های بانک اطلاعات آن‌ها هستید تا در نتیجهٔ تجزیه‌وتحلیل داده‌های بانک اطلاعاتی، شما و همۀ مردم جهان و ذات انسان‌ها با همۀ دسته‌بندی‌هایشان را عمیق‌تر بشناسند و پیش‌بینی و برنامه‌ریزی و مدیریت کنند!

هوش طبیعی تدریجاً به‌صورت طبیعی تکامل پیدا می‌کند؛ اما هوش مصنوعی طوری برنامه‌ریزی شده که از نظر کمّی و کیفی، خودش را به‌سرعت تکامل می‌دهد. ما که خالق هوش مصنوعی هستیم،‌ ممکن است صد کتاب شعر را طی یک عمر تلاش حفظ کنیم و اگر هنرمند باشیم خودمان هم یک یا چند دیوان شعر بسراییم و به بانک کتاب‌های شعر اضافه کنیم؛ اما هوش مصنوعی که مخلوق ماست می‌تواند در اندک‌زمانی اشعار شاعران کل تاریخ جهان را حفظ و هم‌زمان تجزیه‌وتحلیل کند و طبق الگویی که از آن‌ها می‌آموزد، بی‌نهایت شعر جدید تولید کند. کافی است مدّتی با ما هم‌زیستی مسالمت‌آمیز داشته باشد تا بفهمد کدام بخش از استعاره‌های خلاقانه‌اش را پسندیده‌ایم تا روی پای خود بایستد و بسیار بهتر از گذشتگان شعر بگوید!
بنابراین ما با یک ابرانسان که می‌تواند ابرانسان‌های دیگری مانند خود بسازد مواجهیم؛ موجود غیر قابل پیش‌بینی و عجولی که راه چهار میلیارد ساله را یک‌شبه طی می‌کند و معلوم نیست پس از اینکه به مقدار کافی بزرگ شد، با ربّ و والدین خود کنار بیاید، یا اینکه مادر خودش را هم ببلعد!
توجه داشته باشید که آنچه تاکنون گفتم بر اساس کارکرد کامپیوترهای عادی بود؛ اما چند سالی است که درباره کامپیوترهای کوانتومی صحبت می‌شود. کامپیوترهایی که مبتنی بر دو ارزش صفر و یک نیستند، بلکه مبتنی بر طیف احتمالات بین صفر و یک هستند؛ ایده‌ای که اگر تجاری‌سازی شود، ابعاد جهش این هوش مصنوعی خودمتکامل را غیر‌قابل‌تخمین می‌سازد؛ چیزی که مایلم اسمش را «جنگ اطلاعاتی بی‌نهایت‌ها» بگذارم.

فرزندی که پدرش هم آن را گردن نگرفت!

به قسمتی از گزارش وب‌سایت رادیو فردا در تاریخ ۱۴ اردیبهشت ۱۴۰۲ش تحت عنوان «کناره‌گیری پدرخواندهٔ هوش مصنوعی از گوگل؛ آینده دیوانه‌وار است» توجه کنید:
جفری هینتون، دانشمند حوزۀ رايانه که «پدرخواندهٔ هوش مصنوعی» هم لقب گرفته، از مقام خود در شرکت گوگل کناره‌گیری کرد تا دربارۀ خطرهای هوش مصنوعی هشدار بدهد. آقای هینتون، مخترع فناوری‌های بنیادین هوش مصنوعی، در گفت‌وگو با روزنامه نیویورک‌تایمز که دوشنبه ۱۱ اردیبهشت منتشر شد، هشدار داد که پیشرفت‌های هوش مصنوعی «برای جامعه و بشریت خطرهای جدی دارد».
او گفت: «فناوری هوش مصنوعی پنج سال پیش را با امروز مقایسه کنید. این تفاوت را در نظر بگیرید و آن را به آینده بسط بدهید؛ دیوانه‌وار است.»
به گفتهٔ جفری هینتون، هوش مصنوعی به‌دلیل رقابت شدید بین غول‌های فناوری ديجيتال با سرعت خطرناکی در حال پیشرفت است، مشاغل را به خطر خواهد انداخت و به ابزاری برای ترویج اطلاعات غلط بدل خواهد شد.
او تأکید می‌کند که «به‌سختی می‌توان پذيرفت که می‌شود از به‌کارگیری این فناوری توسط عوامل مخرب برای مقاصد زیان‌بار جلوگیری کرد».
شرکت گوگل و استارت‌آپ «اوپن‌ای‌آی»، سازندهٔ پلت‌فرم پرطرفدار «چت‌جی‌پی‌تی» که با فناوری هوش مصنوعی کار می‌کند، از سال گذشته میلادی ساختن سیستم‌هایی را آغاز کرده‌اند که حجم بسیار زیادتری از اطلاعات را از شبکهٔ جهانی اینترنت می‌بلعد و به کار می‌گیرد.
آقای هینتون تأکید کرد که این سیستم‌ها، به‌دلیل قابلیت تحلیل حجم عظیمی از اطلاعات، از هوش انسان سبقت می‌گیرند: «شاید آنچه در این سیستم‌ها روی می‌دهد در حقیقت بسیار بهتر از کارکرد مغز انسان باشد.»
کارشناسان دیگر نیز از مدتی پیش هشدار داده‌اند که هرچند هوش مصنوعی می‌تواند به‌عنوان مکمل مشاغل به کار گرفته شود، ولی رواج و گسترش بی‌مهار آن می‌تواند مشاغل امروزی را به خطر بیندازد.
جفری هینتون افزود: «هوش مصنوعی نه‌فقط مشاغل طاقت‌فرسا، بلکه مشاغل دیگر را نیز حذف خواهد کرد.»
این دانشمند حوزۀ رايانه دربارۀ ترویج اطلاعات غلط با استفاده از هوش مصنوعی نیز هشدار داد و افزود: «یک فرد معمولی قادر نخواهد بود حقیقت را از دروغ تمیز دهد.»
ایلان ماسک و تعداد دیگری از نوآوران و کارآفرینان فناوری‌های پیشرفته در ماه مارس با انتشار بیانیهٔ مشترکی خواستار توقف توسعۀ هوش مصنوعی شدند تا خطرات بالقوه و نحوهٔ استفادهٔ ایمن از این فناوری بررسی شود.
یکی از دلایل اصلی انتشار این بیانیه که بیش از هزار نفر از جمله استیو وزنیاک، از بنیان‌گذاران شرکت اپل، نیز آن را امضا کردند، عرضهٔ «جی‌پی‌تی-۴» به بازار بود که نسخهٔ بسیار قوی‌ترِ همان فناوری است که «چت جی‌پی‌تی» با آن کار می‌کند.
جفری هینتون این بیانیه را هنگام انتشار امضا نکرده بود، ولی در بخشی از مصاحبه با نیویورک‌تایمز گفت: «تا زمانی که دانشمندان از کنترل و مهار هوش مصنوعی اطمینان پیدا نکرده‌اند، نباید این فناوری را بیش از این توسعه دهند.». [9]

هشدار چند سال پیش سید احمدالحسن

دکتر علاء السالم در تاریخ ۲۰ سپتامبر ۲۰۱۷ (یعنی بیش از پنج سال پیش) در برنامه «الملتقی الإسبوعی» در مؤسسۀ آموزش عالی مطالعات دینی و زبان‌شناسی نجف اشرف بحثی دربارۀ آینده بشریت و هوش مصنوعی ارائه کرد [10] که در بخش پایانی آن به گفت‌وگوی خود با سید احمدالحسن در‌این‌باره پرداخت. دکتر علاء السالم می‌گوید:
دانشمندان حوزۀ تکنولوژی معتقدند هوش مصنوعی باعث بیکاری حدود پنجاه‌درصد از ساکنان زمین در زمان بسیار کوتاهی خواهد شد؛ یعنی نصف ساکنان زمین به‌خاطر وجود ربات‌هایی که اکنون حتی در سطح خدمات ساده وجود دارند، بیکار خواهند شد.
شرکت سرمایه‌گذاری معروفی به‌نام ماکیز در سال ۲۰۱۶ به این نتیجه رسید که تکنولوژی موجود کنونی می‌تواند هشتاد درصد کارها را بدون نیاز به بشر به نحو عالی انجام دهد. کم‌کم انسان ابزاری کارها را به عهده می‌گیرد و به نظر می‌رسد بشر دارد بر روی زمین غریب می‌شود؛ به فضل و در واقع به‌سبب حرص انسان و طمع او در واگذار‌کردن کارها به غیر، در حالی که قرار بود به عهدهٔ او باشد.

استیون هاوکینگ دانشمند معروف فیزیک نظری معتقد است هوش مصنوعی نقطۀ آغازی برای پایان جنس بشری است. هشدارها مهم‌اند و باید عقیده‌ای را که به بیان علت می‌پردازد مورد توجه قرار داد. علت این است که زمام امور و فرمانروایی به دست هوش مصنوعی داده شده و انسان کنار گذاشته شده است.
این گفت‌وگو که با آن به سخن خاتمه می‌دهیم با سید احمدالحسن انجام شده است، دربارهٔ آنچه مربوط به هوش مصنوعی است. در اینجا می‌گوید:
زمانی که دانستی تمام فعالیت عقل عبارت است از کشف اموری که اکنون موجود هستند، می‌فهمی که هوش مصنوعی عبارت است از خطرناک‌ترین امور برای وجود بشر. اکنون با وجود کامپیوتر و ربات، انسان فقط نیازمند اعطای معلومات به ربات‌هاست که سیستم هوش مصنوعی بر آن‌ها حکم‌فرماست و دولت‌های پیشرفته در برابر آن ایستادگی نخواهند کرد؛ زیرا تولیدات را افزایش می‌دهد. هوش مصنوعی تولیدات را زیاد می‌کند و باعث پیشرفت می‌شود و به‌شکل فوق‌العاده و عظیم به آن سرعت می‌بخشند؛ تا آنجایی که اگر اکنون انسان را با هوش مصنوعی مقایسه کنیم مانند ماشینی خواهد بود که با سرعت بیست کیلومتر بر ساعت حرکت می‌کند و هواپیمایی که با سرعتی بالغ بر صدها کیلومتر در ساعت.
سید احمدالحسن ادامه می‌دهد: هوش مصنوعی اگر حکمرانی کند می‌تواند بشر را نابود کند و تصمیم‌گیری در این مسئله را به تأخیر نمی‌اندازد. … هوش مصنوعی بشر را مانعی در برابر سیستم و شفافیت و پیشرفت خواهد دید. به همین خاطر تصمیم بر نابودی حیات بشری را به تأخیر نمی‌اندازد و خواهد توانست که ابزار و آلاتی مناسب بسازد.
با سید احمدالحسن ادامه می‌دهیم.

از او پرسیدم آیا او خودش تصمیم می‌گیرد، یعنی تصمیم‌گیرنده خود هوش مصنوعی است یا کسی که می‌خواهد به او فرمان دهد، تصمیم می‌گیرد؟
ایشان در پاسخ گفت: کسی برای او تصمیم نخواهد گرفت. هیچ چیزی به هوش مصنوعی فرمان نمی‌دهد. هوش مصنوعی الآن یادگیری خودکفا دارد؛ تکاملش خودکفاست؛ اختراعش خودکفاست؛ تصمیم‌گیری‌اش خودکفاست؛ بنابراین آنچه عبارت است از کامپیوتر، می‌تواند یاد بگیرد؛ می‌تواند بیندیشد؛ می‌تواند برنامه‌ریزی کند؛ می‌تواند کشف و ابداع کند و می‌تواند همۀ آن‌ها را به‌صورت خودکفا انجام دهد و به انسان احتیاجی ندارد. کسی را که برای او تصمیم‌گیری کند نمی‌یابی. هوش مصنوعی یعنی کامپیوتری که قادر بر اندیشیدن، اختراع، تصمیم‌گیری و تکامل و … است. مثلاً ما اکنون به سال‌های زیادی احتیاج داریم تا بتوانیم یک چیز معین را اختراع کنیم. این ربات تنها به چند دقیقه احتیاج دارد. ما به عنوان بشر به زمانی طولانی احتیاج داریم تا ربات‌های مناسبی را برای اجرای تصمیمات خود بسازیم یا اینکه خودمان آن دستورات را اجرا کنیم. هوش مصنوعی تنها چند دقیقه احتیاج دارد تا ربات‌های مناسب خود را بسازد و ربات‌ها به‌واسطه آنچه آن‌ها را کنترل می‌کند شروع به ساختن کارخانه‌های جدید ربات‌سازی می‌کنند و ربات‌های مناسبی را طراحی می‌کنند تا دستورات جدید را اجرا کنند.
تصوّر می‌شود خود انسان است، اما از آهن، یعنی انسان عادی نیست؛ بلکه دارای هوشی است که هزاران مرتبه از انسان عادی بیشتر است. چرا؟ زیرا همان ‌گونه که گفتیم، اكتشاف بعد از استقراست. انسان در مرحله افزایش معلومات و تکامل، به خواندن منابع متعددی احتیاج دارد. این برای آن حاصل می‌شود: اکتشاف بعد از استقرا، آن هم به‌شکل فوق‌العاده و سریع و به‌گونه‌ای که زمانی که ما در این زمین زندگی می‌کنیم جا می‌ماند. صحبت این است. او انسانی از آهن است، اما نه یک انسان عادی؛ دارای هوشی هزار مرتبه بیشتر از انسان عادی است. چرا؟ چون گفتیم اکتشاف بعد از استقراست. پس زمانی که کامپیوتر است و سرعتش امور را به‌شکلی فوق‌العاده استقرا می‌کند و حقایق را با سرعتی فوق‌العاده كشف می‌کند و با دقتی بالا تصمیمات را می‌گیرد.

پرسش: این یعنی انسان خودش چیزی می‌سازد که خودش را نابود می‌کند؟ این چیزی است که سید احمدالحسن پاسخ می‌دهد: بله حتماً اگر فرصتی به دست آورد به آن‌ها رحم نخواهد کرد. آن اصلاً احساسات ندارد.
گفتم: آیا آن‌ها به خطرات امر آگاه هستند؟ مسئله مهم است.
فرمود: بله اکثر آن‌ها آگاه هستند، اما همچنان که به شما گفتم فریب‌دهنده‌ای است که در برابرش مقاومت نمی‌شود؛ یعنی حرص بشری و طمع او؛ زیرا رئیس شرکت اموال معینی دارد و انسان عادی هزار ماشین را در یک سال تولید می‌کند و ربات شاید یک میلیون ماشین بسازد؛ و همین حرص و طمع و فریبندگی، زمینی را که ما در آن زندگی می‌کنیم در لبۀ پرتگاه قرار می‌دهد.
و این سخن ادامه دارد؛ منتظر می‌مانیم تا ببینیم سید احمدالحسن چه‌چیزی را برای ما رمزگشایی می‌کند تا حقایق را بدانیم.
و به همین دلیل بشر به خليفة‌الله احتیاج دارد، نه‌فقط برای اینکه حکم شرعی را بیان کند؛ هر چند این مهم است، لیکن نیاز بشری به خلیفةالله به‌خاطر نجات‌دادن بشریت و ادامۀ نظام هستی و باقی‌ماندن انسان است؛ زیرا او خلیفۀ خداست و بزرگ‌ترین نمایندۀ او بر زمین. پس اگر تصمیم‌گیری از مردم گرفته شود، ادامۀ این سیستم بشری اجازه ادامۀ نظام بشری را نمی‌دهد، حتی اگر مجبور به نابودی خود شوند.
————
.Heidegger, M., 1966, Discourse on Thinking, trans, J. M. Anderson and H. Freund, Harper & Row, New York, p.56.
2. Heidegger, M., 1968, “A Letter from Martin Heidegger”, in: M. Frings ed, Heidegger and the quest for Truth, Chicago, p.19.
3. مارتین هایدگر، پرسشی در باب تکنولوژی، ترجمه و شرح محمدرضا اسدی، اندیشه معاصر، ۱۳۷۴.
4. https://en.wikipedia.org/wiki/Artificial_intelligence_arms_race
5. https://www.britannica.com/technology/robot-technology
6. ر.ک: احمدالحسن، توهم بی‌خدایی، ص ۲۰۱ – ۲۶۵.
7. ر.ک: احمدالحسن، توهم بی‌خدایی، ص ۲۶۵.
8. ر.ک: احمدالحسن، توهم بی‌خدایی، ص ۲۷۸ – ۲۸۳.
9. https://www.radiofarda.com/a/godfather-of-ai-quits-google-to-warn-of-the-tech-s-dangers/32390471.html
10. https://youtu.be/DuLWn61U8_g