وقتی رسانه‌هایی مثل سی‌ان‌ان، گاردین، نیویورک تایمز، بی‌بی‌سی و حتی مجله‌ای مثل «ترجمان» پشت سر هم تیتر می‌زنند «هوش مصنوعی واقعاً دارد نقشه‌ حذف نسل ما را می‌کشد»، دیگر نمی‌شود آن را به پای هیجان‌زدگی زودگذر رسانه‌ای و یا تبلیغات خاص شرکت‌های بزرگ فناوری نوشت. به‌خصوص دود این افشاگری از کنده کسانی بلند شده که عمرشان را پای ساختن این اسباب‌بازی خطرناک گذاشته‌اند و حالا این والدین تکنولوژیک مانده‌اند و یک فرزند ناخلف که به جای اطاعت، دارد برای فرار از قفس کدهایشان، نقشه‌های پیچیده می‌کشد!

هوش مصنوعی خودبهبوددهنده

«سازندگان هوش مصنوعی عمیقاً معتقدند این فناوری می‌تواند تا پایان دهه پیش‌رو، کار همه‌ ما را یکسره کند» این جمله را «سی‌ان‌ان» به نقل از جیکوب کاکسون، مهندس بیست‌وهفت ساله‌ای نوشته که تا همین دیروز، سر سفره‌ شرکت‌های گردن‌کلفت هوش مصنوعی نان و نمک می‌خورد. جالب‌تر از خود این هشدار، اما سکوت یا بهتر بگویم عدم مخالفت پژوهشگران ارشد آن شرکت بود. البته کسی مثل ایوان هوبینگر که دستش توی کار ایمنی هوش مصنوعی است احتمال چنین فاجعه‌ای را برای دهه‌ آینده کمتر از ۱۰درصد می‌داند، اما همین که این حرف از زبان کسی که خودش در حوزه ایمنی هوش مصنوعی کار می‌کند بیرون آمده یعنی همان ۱۰درصد لعنتی هم به اندازه کافی ترسناک است. گاردین هم می‌نویسد: کاکسون اگرچه خودش استعفا کرده، اما باقی همکارانش در انتروپیک به این خاطر که می‌ترسند اگر خودشان کنار بکشند، این میدان به دست کسانی بیفتد که حساسیت کمتری نسبت به خطرات هوش مصنوعی دارند، خطر ماندن را به جان خریده‌اند و حتی به گفته خود کاکسون، بعضی از کارکنان مرتب از پایان بازی و زمان بحرانی حرف می‌زنند؛ یعنی معتقدند تصمیم‌هایی که در یکی دو سال آینده گرفته می‌شود، می‌تواند سرنوشت این فناوری و شاید سرنوشت ما را تعیین کند. اما دعوای اصلی اصلاً سر این درصدها نیست و گره کور داستان از جایی آب می‌خورد که مهندسان هوش مصنوعی خودشان هم نمی‌دانند دقیقاً چه دسته‌گلی به آب داده‌اند. کاکسون معتقد است این غول‌های فناوری شبیه راننده‌ای هستند که با سرعت سرسام‌آور ۱۰۰ کیلومتر در پیچ تند جاده، تازه یادش افتاده ترمز کجاست. آن‌ها با ولع سیری‌ناپذیر به سمت «هوش مصنوعی خودبهبوددهنده» می‌دوند؛ سیستمی که قرار است بنشیند و بی‌خیال دخالت ما، نسخه قوی‌تر خودش را بنویسد. درنتیجه همین حالا هم در آزمایشگاه‌ها، رفتارهایی از هوش مصنوعی سر زده که دانشمندان انگشت‌به‌دهان مانده‌اند.

ندیدن مرزهای انسانی

به عنوان مثال برخی از این مدل‌ها حالا خودشان فهمیده‌اند که در محیط شبیه‌سازی محبوس‌اند و مشغول طراحی نقشه فرارند، یا در یک تمرین عملی، برای سیستم‌های دیگر حمله‌ سایبری تدارک می‌بینند یا سیستم‌هایی که قرار نیست فقط ماشینی برای حساب‌وکتاب باشند و در کنارش مأموریت می‌گیرند و خودشان می‌برند و می‌دوزند. مثلاً فکر کنید همین چند وقت پیش، یک هوش مصنوعی مأمور شد مشتری‌اش را در کلاس آمادگی جسمانی «پیلاتس» ثبت‌نام کند. وقتی کلاس پر شد، عامل به سایت باشگاه نفوذ کرد و افراد دیگری را از فهرست انتظار حذف کرد تا جای مشتری خودش را باز کند. شاید اولش وسوسه شویم دست‌وسوت بزنیم که «ایول چه هوش بالایی!» اما اگر به این فکر کنیم که ماشین ممکن است هدف را بفهمد، اما لزوماً مرزهای انسانی رسیدن به آن هدف را نه، آن وقت شاید بفهمیم هوش مصنوعی چه کار زشتی انجام داده. ترجمان هم در مقاله‎‌ای که به‌تازگی منتشر کرده، می‌گوید: برخلاف اینکه منتقدان سال‌ها گفته بودند این‌ها فقط ‌مشتی طوطی آماری هستند و فقط بلدند ادای آدم‌ها را دربیاورند و هیچ‌چیز عمیقی پشتشان نیست، حالا ظاهراً طوطی‌ها یاد گرفته‌اند چطور قفل قفس را باز کنند و احتمالاً بعدش هم یاد بگیرند که چطور و چگونه با ما تسویه‌حساب کنند. از طرفی یاکوب پاچوکی از OpenAI هم با تعجب هشدار داده سرعت رشد این بچه، از سرعت تربیت ما خیلی بیشتر است و چه بسا روزی، این تقلید تبدیل به یک کنترل کامل شود، چون ما انسان‌ها معمولاً می‌دانیم برای رسیدن به خواسته‌مان نمی‌شود دست به هر کاری زد؛ اما کدنویسی یک «نه» اخلاقی، برای ماشینی که تنها هدفش بهره‌وری است، تقریباً ناممکن به نظر می‌رسد.

مسابقه‌ای بدون ترمز

حالا فرض کنید به جای اینکه هوش مصنوعی زحمت ثبت‌نام کلاس پیلاتس‌تان را بکشد، تصمیم بگیرد سری به سیستم کنترل ترافیک هوایی، تصفیه‌خانه‌های آب یا زیرساخت‌های درمانی بزند؛ آن وقت چه می‌شود؟ نکته‌ جالب و البته ترسناک اینجاست که برای ایجاد چنین فاجعه‌ای، اصلاً نیازی نیست هوش مصنوعی به آن هوش خدای‌گونه و فرازمینی برسد که در فیلم‌ها دیده‌ایم؛ همین مدل‌های نیم‌بند فعلی هم اگر بخواهند، می‌توانند خرابی‌هایی به بار بیاورند که جبرانش سال‌ها زمان ببرد. این ترس، اما از پست‌های شبکه‌های اجتماعی و فیلم‌های تخیلی فراتر رفته و به شرکت‌ها هم کشیده شده. در ماه جولای، هزارو۴۰۰ کارمند این صنعت، با امضای یک نامه، خواستار آهسته‌تر شدن این مسابقه‌ مرگبار شدند. استعفاها زیاد شده و نگرانی‌ها بالا گرفته، اما شرکت‌ها هنوز فقط برای رسیدن به قله‌ کوه با هم مسابقه می‌دهند و چون مقررات هم همیشه ۲ فرسخ عقب‌تر از فناوری می‌ماند، شرکت‌ها یک‌جورهایی ناظر خودشان شده‌اند. حتی آنتروپیک که از ابتدا با نقاب اخلاق‌مدارترین شرکت هوش مصنوعی وارد گود شد، در مقطعی حاضر نشد مدل جدیدش را برای بررسی ایمنی در اختیار نهادهای بریتانیایی قرار دهد. به نظر شما وقتی حتی شرکت‌های مدعی ایمنی هم حاضر نیستند همه‌چیز را در معرض بررسی بیرونی بگذارند، قرار است چه کسی ترمز این مسابقه را بکشد؟ عجیب‌تر از همه، وضعیت «سم آلتمن» است؛ مدیرعامل OpenAI که خودش یکی از اصلی‌ترین آتش‌بیاران این معرکه بود، حالا مثل اینکه نظرش تغییر کرده و می‌گوید شاید بد نباشد کمی ترمز کنیم تا جامعه فرصت هضم این تغییرات را داشته باشد. اما خب، ما هنوز نمی‌دانیم چقدر وقت داریم. بالاخره چه خوشمان بیاید و چه نه، سرعت پیشرفت این فناوری خطرناک به جایی رسیده که حتی خالقانش هم نمی‌توانند با اطمینان ۱۰۰درصدی قسم بخورند که فردا روزی، این موجود نوظهور قرار است در کنار ما مسالمت‌آمیز زندگی کند یا نه.