استاد هنگامی که وارد کلاس شد، دید دانشجویی آخرین جمله را روی تختهسیاه مینویسد. دانشجو به محض اینکه برگشت و استاد را دید، دستپاچه شد.
-سلام استاد.
و با عجله به طرف صندلیاش رفت.
استاد بعد از پاسخ سلام، رو به کلاس کرد و گفت:
-میبینم که قبل از آمدن من، کلاس را شروع کردهاید!
سپس به سمت تختهسیاه برگشت تا نوشته را بخواند:
«پیشرفت رباتهای مجهز به هوش مصنوعی، تهدیدی جدی برای آینده و جان انسانهاست.»
استاد دوباره به سمت کلاس برگشت.
-قبل از نوشتن این جمله، بحثی میان شما جریان داشته یا این کلمات سرآغاز یک بحث جدید است؟
دانشجوی دختری که انتهای کلاس نشسته بود، از جایش بلند شد.
-استاد، حرف ما این است که پیشرفت انسان در بعضی زمینهها، نیاز به کنترل و بازدارندگی دارد.
دانشجوی دیگری از جا برخاست.
-استاد، دربارهٔ رباتهای مجهز به هوش مصنوعی نمیتوان بیتفاوت و بیاهمیت بود.
دانشجوی سوم، بدون معطلی گفت:
-ما با پیشرفت موافقیم، استاد؛ اما نه به قیمت از دست رفتن جایگاه و اصالت انسان.
استاد آرام به پای تخته رفت، گچ را برداشت و زیر جملهٔ اول نوشت:
«فناوری به خودی خود خطری ندارد؛ تهدید واقعی، خلقوخوی انسانی است که آن را به کار میگیرد. این ماشینهای هوشمند میتوانند بزرگترین خدمتکار بشر باشند یا بزرگترین کابوس او.»
بعد رو به کلاس کرد و ادامه داد:
-بشر تشنهٔ اکتشاف است؛ چه در اعماق زمین و چه در کهکشانها. فناوری ترمز ندارد.
همان دانشجویی که جملهٔ اول را روی تخته نوشته بود، از جایش نیمخیز شد. این بار در صدایش دیگر دستپاچگی نبود؛ رگهای از اعتراض شنیده میشد.
-اما استاد، کهکشانها به ما حمله نمیکنند! اعماق زمین هوشمند نیستند که جایگاه ما را غصب کنند! تفاوت اینجاست. ما داریم چیزی را خلق میکنیم که ممکن است از خودمان باهوشتر باشد. شما از خلقوخوی انسان میگویید، اما اگر روزی این ماشینها خلقوخوی خودشان را پیدا کنند چه؟ اگر دیگر نیازی به خدمت به ما نداشته باشند؟
استاد به تختهسیاه تکیه داد. نگاهش را از دانشجو گرفت و به پنجرهٔ کلاس دوخت؛ جایی که در افق شهر، برجهای بزرگ فناوری و آنتنهای غولپیکر خودنمایی میکردند.
لبخند تلخی روی لبانش نشست.
-شاید حق با تو باشد... شاید ما داریم خدایی را خلق میکنیم که قرار نیست به نیایشهایمان گوش کند.
همان دانشجو با لحنی نگران پرسید:
-اما استاد... اگر اینطور است، چطور باید قانع شد که کدام راه درست است؟ ایستادن و ترمز کردن، یا رفتن به سوی این خدای ساختهٔ دست خودمان؟
استاد چند قدم به سمت ردیف اول صندلیها برداشت. گچ را در دستش فشرد و گفت:
-تاریخ به ما نشان داده که انسان هیچوقت با پشت کردن به تاریکی، راه درست را پیدا نکرده است. راه درست، راه توقف نیست؛ راه آگاهی توأم با مسئولیت است.
کمی مکث کرد.
-ما نمیتوانیم پیشرفت را ممنوع کنیم، اما میتوانیم به آن اخلاق تزریق کنیم. تفاوت ما با آن ماشین در همین است؛ ما میتوانیم انتخاب کنیم که رحم کنیم، اما ماشین ممکن است فقط بر اساس بهینهترین الگو عمل کند.
سپس به تخته اشاره کرد.
-اگر از ترس عاقبت آتش، هرگز آن را مهار نمیکردیم، هنوز در غارها زندگی میکردیم. راه درست این نیست که ابزار را نابود کنیم؛ باید مطمئن شویم خودخواهی و جاهطلبی بیرحمانهٔ انسان، الگوی ذهنی این هوش مصنوعی جدید نشود.
لحظهای سکوت کرد و سپس گفت:
-ما باید به او یاد بدهیم که انسان بودن یعنی چه، قبل از اینکه او به ما یاد بدهد اسارت چیست.
همان دانشجو از جایش بلند شد. دستهایش را روی میز گذاشت و با لحنی که این بار رگههایی از وحشت در آن پیدا بود، گفت:
-اما استاد، اگر همهچیز در دست دانشمندان اخلاقمدار بود که نگران نبودیم! اگر سودجویان این پیشرفت، از DNA انسان در ساختار زیستی این رباتها استفاده کنند چه؟ اگر به کدهای دیجیتالی آنها سلولهای عصبی و عناصر ژنتیکی ما را اضافه کنند تا واقعاً «درد» را بفهمند و «شادی» را حس کنند؟
دانشجو لحظهای مکث کرد.
-آن وقت دیگر با یک تکه آهن بیاحساس طرف نیستیم؛ با موجودی روبهرو هستیم که میتواند زجر بکشد یا تشنهٔ لذت باشد. آن وقت کدام راه درست است؟
کلاس در سکوتی مطلق فرو رفت. حتی صدای نفس کشیدن کسی شنیده نمیشد.
این فرضیه، مرز میان ماشین و انسان را به کلی محو میکرد.
استاد گچ را روی لبهٔ تخته گذاشت. دستهایش را در هم گره کرد و با نگاهی عمیق به دانشجو گفت:
-اگر روزی طمع انسان به آنجا برسد که به ماشین «گوشت و خون» و عصبِ درک درد ببخشد... ما دیگر ربات نساختهایم؛ ما موجودی زیستی ساختهایم که ممکن است رنج را تجربه کند.
لحظهای سکوت کرد.
-اگر ماشینی واقعاً درد را تجربه کند، آن وقت پرسش ما دیگر فقط این نیست که آیا خطرناک است یا نه. پرسش این است که آیا ما موجودی را خلق کردهایم که حقِ رنج نکشیدن دارد؟
استاد نگاهش را به کلاس چرخاند.
-در آن نقطه، دیگر بحث فقط بر سر خطرناک بودن یا نبودن فناوری نیست. بحث بر سر مسئولیت ما در برابر حیاتی است که خودمان به وجود آوردهایم.
گچ را دوباره برداشت و روی تخته، زیر نوشتههای قبلی، چند کلمه نوشت:
قدرت بدون مسئولیت، خطرناکتر از خودِ فناوری است.
-راه درست در آن دنیای تاریک، ترمز کردن فناوری نیست؛ راه درست، مقابله با سودجوییای است که برای قدرت، مرزهای اخلاق و حرمت رنج را زیر پا میگذارد.
یکی از دانشجویان آرام پرسید:
-و اگر آن موجود روزی علیه ما شورش کند؟
استاد نگاهش کرد.
-شاید آن روز، مسئله این نباشد که چرا شورش کرده است؛ شاید باید از خودمان بپرسیم چرا او را به شورش واداشتهایم.
کلاس دوباره در سکوت فرو رفت.
قبل از اینکه استاد دهان باز کند، دانشجوی دیگری از اواسط کلاس برخاست. چهرهاش برافروخته بود و چشمانش از این ایدهٔ هولناک برق میزد.
رو به همکلاسیاش و سپس رو به استاد گفت:
-اما این مسیر خیلی طولانی و پرهزینه است! چرا سودجویان باید میلیاردها دلار خرج کنند تا به یک تودهٔ آهن، سلول عصبی و DNA تزریق کنند؟
لبخند کوتاهی زد؛ لبخندی که هیچ نشانی از شادی نداشت.
-راه سادهتر و ارزانتری هم هست...
کلاس ساکت شد.
-آنها میتوانند همین روش را روی خودِ انسان پیاده کنند! روی موجودی که از قبل آماده است؛ قلبش میتپد و بوی گوشت و استخوان آدمی را میدهد.
استاد بیحرکت به او نگاه میکرد.
-آنها میتوانند مغز و بدن انسانها را هک کنند، کدهای دیجیتال را به سیستم عصبی ما بفرستند و ما را به رباتهایی گوشبهفرمان تبدیل کنند. اینطور نیست استاد؟
دانشجو لحظهای مکث کرد.
-خطر واقعی، رباتشدن انسانهاست، نه انسانشدن رباتها!
با این حرف، سکوتی سنگینتر از قبل بر کلاس حاکم شد.
سایهٔ ترسی غریب روی چهرهٔ تکتک دانشجویان نشست. حالا همه به خودشان نگاه میکردند؛ به دستها و بدنهای گوشت و استخوانیشان که چقدر در برابر فناوری آسیبپذیر بودند.
استاد آرام عینکش را از چشم برداشت. شیشههای آن را با گوشهٔ کتش پاک کرد؛ عادتی قدیمی برای خریدن زمان و پنهان کردن اضطرابی که در دلش افتاده بود.
عینک را دوباره روی چشم گذاشت. نگاهش را میان صندلیها چرخاند و با صدایی که این بار کمی خشدار شده بود، گفت:
-بزرگترین کابوس تاریخ بشر همیشه همین بوده است... مسخ شدن.
مکث کرد.
-حق با توست. در مهندسی فناوری، همیشه ارزانترین راه انتخاب میشود. خطر فردا این نیست که رباتها یاد بگیرند مثل ما شعر بخوانند یا گریه کنند؛ خطر این است که ما یاد بگیریم مثل ماشینها بیاحساس باشیم، بدون فکر دستورها را اجرا کنیم و فقط یک مهرهٔ ارزانقیمت در کارخانهٔ آنها باشیم.
استاد به آرامی از پشت تریبون فاصله گرفت.
-وقتی انسان، انسانیت خودش را به الگوریتمها بفروشد، دیگر نیازی به ساختن رباتهای پیشرفته نیست؛ ما خودمان داوطلبانه صندلی فرمانروایی زمین را به آنها واگذار کردهایم.
در همین لحظه، زنگ پایان کلاس با صدایی الکترونیکی و ممتد به صدا درآمد؛ صدایی که این بار بیش از حد شبیه آژیر خطر یک کارخانهٔ رباتسازی به نظر میرسید.
اما هیچکس از جایش بلند نشد.
صندلیها سفتتر از همیشه دانشجویان را در خود نگه داشته بودند.
در آن سکوت سنگین، یکی از دختران دانشجو با صدایی آرام اما برنده گفت:
-استاد... آنهایی که ثروتمند هستند و دلشان نمیخواهد از این دنیا بروند چه؟ آنها این قدرت و امکان را دارند که با این پیشرفت، DNA خود را بارها و بارها ترمیم کنند تا به خواستههای دوردست شان برسند. اگر روزی مرگ برای بعضیها قابل خریدن باشد، آن وقت تکلیف بقیهٔ انسانها چیست؟
با این حرف، گویی اکسیژن کلاس تمام شد.
حالا پازل ترس کامل شده بود:
فناوری، مرگ را هم برای عدهای خاص اختیاری میکرد.
استاد که کیفش را نیمهباز رها کرده بود، دستش را روی لبهٔ تریبون گذاشت. نگاهش به پنجره قفل شد.
طعم تلخ این احتمال را خوب میشناخت.
رو به کلاس کرد و با لحنی که بیشتر به یک اعتراف شبیه بود تا درس دادن، گفت:
-اگر مرگ، که شاید عادلانهترین قانون طبیعت باشد، تبدیل به کالایی لوکس و قابل خریدوفروش شود، معنای انسان بودن دگرگون خواهد شد.
صدایش آرامتر شد.
-ثروتمندانی که عمر نامحدود میخرند، ممکن است دیگر به این دنیا و آدمهایش به چشم همنوع نگاه نکنند. ما برای آنها مثل موجوداتی خواهیم بود که عمر کوتاهی دارند و زود میمیرند.
استاد لحظهای سکوت کرد.
-- آنها شاید به دنبال فتح کهکشانها بروند و ما در همین زمین، زیر سایهٔ جاودانگی آنها باقی بمانیم.
نگاهش را به تختهسیاه دوخت؛ تختهای که پر بود از کلمات «پیشرفت»، «تهدید» و «کابوس».
سپس گفت:
-ترس واقعی شما از آهن و ماشین نیست...
مکثی طولانی کرد.
-ترس از انسانهایی است که به کمک ماشین، خود را از قید مرگ آزاد میکنند و خود را به خدایان زمین تبدیل میکنند.
استاد کتش را برداشت.
یک بار دیگر به تختهسیاه نگاه کرد.
سپس بدون هیچ حرف دیگری از در کلاس خارج شد و دانشجویان را با سایهٔ سنگینِ خدایان جدید زمین تنها گذاشت.
------------
ما با خودمان حرف میزنیم؟ دارکوب
نامهای سرگشاده به دکتر شیرین عبادی، امیر دها
