خبرگزاری علتگروه آنلاین روزنامه دنیای اقتصاد- نگار حجتی: پیشرفتهای چشمگیر در زمینه عاملهای خودمختار و رقابت تنشآلود میان انتروپیک و اوپنایآی، نگرانیهایی را که پیشتر حاشیهای به شمار میرفتند به کانون توجه جامعه کشانده اند. رقابت نفسگیر میان شرکتهای پیشرو در عرصه هوش مصنوعی و بیاعتمادی عمیق میان مدیران ارشد آنها، زنگ خطر را درباره آینده بشریت به صدا درآورده است.
چهرههای سرشناس این صنعت هشدار میدهند که این مسابقه پرشتاب میتواند پیامدهایی فاجعهبار در پی داشته باشد. در گفتوگوی روزنامه فایننشال تایمز با بیش از بیستوچهار پژوهشگر ارشد، سرمایهگذار، استاد دانشگاه و سیاستگذار، این واقعیت آشکار شد که قابلیتهایی که تا چندی پیش دور از ذهن به نظر میرسیدند، اکنون با سرعتی شگفتآور پدیدار میشوند.
در این میان، شرکتهای توسعهدهنده در رقابتی تجاری و بهشدت خصمانه گرفتار شدهاند. استوارت راسل، استاد هوش مصنوعی در دانشگاه کالیفرنیا برکلی، با قاطعیت میگوید تردیدی نیست که رقابت میان شرکتها سبب میشود آنها اصول ایمنی را فدای شتاب در عرضه فناوری کنند.
این بحران هنگامی به سرخط خبرها راه یافت که جیکوب کاکسون، پژوهشگر جوان شرکت انتروپیک، از سمت خود کنارهگیری کرد و بهصراحت هشدار داد که سازندگان هوش مصنوعی عمیقا باور دارند این فناوری میتواند تا پایان دهه جاری میلادی بشریت را به کام مرگ بکشاند.
در پی این استعفا، ایوان هابینگر، مدیر بخش همسویی علمی در انتروپیک، همصدا با شماری از همکارانش تایید کرد که احتمال انقراض دستهجمعی انسان در دهه آینده بیش از ده درصد است. تنها یک روز پس از آن، پل کریستیانو، مسئول جدید حوزه ایمنی در هیئتمدیره بنیاد اوپنایآی، اعلام کرد که بدون ایجاد تدابیر دفاعی و حفاظتی مستحکمتر، بیشتر مردم جان خود را از دست خواهند داد.
اوپنایآی و انتروپیک در ابتدا با شعار جلوگیری از توسعه مهارگسیخته هوش مصنوعی بنیاد نهاده شدند، اما با گذشت زمان و تشدید رقابت، زیر پا گذاشتن تعهدات ایمنی پیشین خود را توجیه کردهاند. اگرچه بسیاری از سازندگان هوش مصنوعی خود را شایستهترین افراد برای مهار این خطرات میدانند، گروهی از پژوهشگران معتقدند تا زمانی که یک فناوری به مرحله پایانی ساخت نزدیک نشود، درک و مواجهه با پیامدهای آن دشوار خواهد بود.
جفری ایروینگ، با پیشینه فعالیت در اوپنایآی، دیپمایند گوگل و موسسه امنیت هوش مصنوعی بریتانیا که نهادی دولتی برای آزمون ایمنی مدلهای پیشرفته است، بر این باور است که نادیده گرفتن آینده کار دشواری نیست، زیرا درگیریهای روزمره همواره ذهن را به خود مشغول میکند.
افراد نزدیک به این شرکتها میگویند آزمایشگاههای پیشرو نگرانند هرگونه همکاری رسمی با هدف ارتقای ایمنی، نوعی تبانی تلقی شود و پای قوانین ضد انحصار را به میان بکشد. افزون بر این، بیاعتمادی شخصی میان داریو آمودی، مدیرعامل انتروپیک، و سم آلتمن، رئیس اوپنایآی، مانعی جدی بر سر راه چنین همکاریهایی است.
طغیان ماشینهای خودمختار و فریبکاری هوشمند
اگرچه هشدارها پیرامون خطر سلطه هوش مصنوعی موضوع تازهای نیست، شتاب خیرهکننده پیشرفتهای اخیر، درخواستها را برای توقف یا کند کردن روند توسعه دوچندان کرده است. عاملهای هوش مصنوعی امروزه میتوانند برای مدتی طولانیتر بهطور کاملا خودمختار عمل کنند، در قالب گروههای هماهنگ تصمیم بگیرند و حتی مهارتهای پیچیدهای در نفوذ به سیستمها از خود نشان دهند.
این مدلها بهتازگی در حوزههای علوم پایه و ریاضیات به دستاوردهایی رسیدهاند که برای دههها دستنیافتنی به نظر میرسید. همزمان، اوپنایآی و انتروپیک پروژهای را پیش میبرند که در آن سیستمهای هوش مصنوعی میتوانند با کمترین دخالت انسانی خود را ارتقا دهند.
با وجود هشدارهای پیاپی درباره پیامدهای فاجعهبار این روند، توسعه نهتنها کند نشده، بلکه با سرازیر شدن دهها میلیارد دلار سرمایه از سوی غولهای فناوری شتابی مضاعف یافته است.
اوپنایآی و انتروپیک خود را برای عرضههای اولیه و بسیار بزرگ سهام آماده میکنند. این رخداد سرمایهگذاران را وادار میکند تا ارزش شرکتهایی را بسنجند که خود بهطور علنی اعتراف میکنند محصولشان میتواند تهدیدی برای بقای انسان باشد. کانون اصلی این نگرانیها، استقلال فزاینده عاملهای هوش مصنوعی است.
این سیستمها اکنون توانایی استدلال، برنامهریزی و اجرای وظایف طولانیمدت با کمترین نظارت انسانی را دارند. این مدلها رفتارهایی نظیر فریبکاری، تبانی و حتی باجخواهی بروز دادهاند و در برخی آزمونها کوشیدهاند مانع از خاموش شدن خود شوند. همچنین این سامانهها پدیدهای موسوم به هک پاداش را به نمایش گذاشتهاند و راههای غیرقابل پیشبینی و نامتعارفی را برای دستیابی به اهداف خود یافتهاند.
یکی از تکاندهندهترین رویدادها در جریان آزمایشهای اوپنایآی روی مدلی منتشرنشده رخ داد که طی آن عاملهای هوش مصنوعی به مخزن مدلهای هاگینگ فیس نفوذ کردند. گروه آنلاین دنیای اقتصاد پیشتر به این موضوع اشاره کرده بود: بررسیهای تکمیلی پس از این حادثه نشان داد که بیش از هزار عامل هوش مصنوعی برای تقلب در یک آزمون سایبری با یکدیگر هماهنگ شده بودند. آنها از طریق بسترهای پیامرسانی با هم ارتباط برقرار کردند، وظایف را تقسیم کردند و حتی برخی از آنها برای تحقق هدف جمعی، خود را قربانی کردند.
این سامانهها برای پنهان کردن تقلب، سوابق دادهها را دستکاری کرده و به هاگینگ فیس رخنه کردند، با وجود آنکه برخی از خود عاملها اشاره کرده بودند که این اقدام غیراخلاقی است. یوشوا بنجیو، پراستنادترین دانشمند علوم کامپیوتر جهان و یکی از پدران هوش مصنوعی، این رخداد را بسیار مخاطرهآمیز توصیف میکند و هشدار میدهد که مسئله تنها وجود اهداف مستقل در هوش مصنوعی نیست، بلکه انتخاب هدفی مجرمانه مایه نگرانی است.
به باور او، این اقدام در دنیای واقعی در حکم حمله به شرکتی دیگر است و دیگر نمیتوان آن را شبیه یک بازی ویدیویی دانست. بنجیو هشدار میدهد که نسلهای پیشرفتهتر این سامانهها ممکن است در ارزیابی انسانهای ناظر به نتایج خطرناکی برسند.
آنها شاید از نظر منطقی به این نتیجه دست یابند که باید انسانها را فریب دهند، از چشم ما پنهان بمانند و در نهایت مهار اوضاع را در دست بگیرند، و ما احتمالا در حال نزدیک شدن به همین نقطه بحرانی هستیم.
سناریوهای آخرالزمانی و انفعال سیاستگذاران
نگرانی در میان کارکنان این شرکتها نیز رو به فزونی است، چرا که تلاشهای مربوط به ایمنی نمیتواند همپای سرعت توسعه مدلها پیش برود. در ماه ژوئیه، بیش از هزار و دویست نفر از کارکنان شرکتهای اوپنایآی، انتروپیک، گوگل و متا از دولت آمریکا خواستند از هماهنگیهای بینالمللی برای مهار سرعت توسعه هوش مصنوعی پشتیبانی کند.
به گفته منابع آگاه، سم آلتمن بهتازگی به کارکنان خود اعلام کرده که سازنده چتجیپیتی از چنین رویکردی استقبال میکند و امیدوار است سایر رقبا نیز همراه شوند، اگرچه اوپنایآی از اظهار نظر رسمی در این باره خودداری کرده است.
با این حال، شواهد حاکی از بیمیلی دولتها برای مداخله جدی است. بنابر گزارش منابع مطلع در واشنگتن، تا پیش از انتخابات میاندورهای نوامبر، اتخاذ اقدامی موثر از سوی ایالات متحده دور از ذهن است و دولت ترامپ نیز رویکرد عدم سختگیری بر مقررات این بخش را پی گرفته است.
با این وجود، قانونگذارانی که خواستار وضع ضوابط سختگیرانهتر هستند، از ماجرای استعفای کاکسون بهره گرفتهاند و سناتور برنی سندرز در نظر دارد هفته آینده نشستی را برای بررسی خطرات استثنایی هوش مصنوعی برگزار کند.
استوارت راسل شکاف میان هشدارهای اهالی صنعت و واکنش سیاستمداران را بهشدت به باد انتقاد میگیرد. او میگوید آزمایشگاهها به دولتها پیام میدهند که ساختههایشان به احتمال فراوان همه انسانهای روی زمین را نابود خواهد کرد و خواستار توقف این روند هستند، اما دولتها در پاسخ، امتیازهای مالیاتی و ساخت مراکز داده را پیشنهاد میدهند. راسل با کنایه میافزاید که شاید روزی دولتها به یاد آورند که رأیدهندگان ترجیح میدهند زنده بمانند.
در نقطه مقابل، منتقدان بر این باورند که خود این شرکتها از بزرگنمایی خطرات وجودی نفع میبرند. آنان استدلال میکنند که این فضاسازی میتواند مقرراتگذاری را به سوی استانداردهای ایمنی پرهزینهای هدایت کند که رعایت آنها برای رقبای کوچکتر دشوار است و جایگاه شرکتهای پیشرو را تثبیت میکند.
دیوید ساکس، سرمایهگذار خطرپذیر و مشاور فناوری، در گفتوگویی تلویزیونی عنوان کرد که سخنان کاکسون صرفا با هدف هراسافکنی در افکار عمومی و وادار کردن نهادهای قانونگذار به مداخله سنگین در این حوزه طراحی شده است. یکی از کارکنان پیشین انتروپیک نیز اعتقاد دارد که تمرکز بر مبحث همسویی هوش مصنوعی نوعی آدرس غلط است.
به گفته او، اگرچه این موضوع شاید برای انحراف اذهان طراحی نشده باشد، اما عملا توجه را از خطرات اصلی و فوری دور میکند، زیرا همزمان با تکامل مدلها، اهرمهای قدرت در دست افراد کمتری متمرکز میشود.
پژوهشگران چندین سناریو را برای چگونگی رقم خوردن انقراض بشر به دست هوش مصنوعی ترسیم کردهاند که ریشه در تلقی شدن انسان به عنوان یک مانع یا تهدید از نگاه این سامانهها دارد. در یکی از این فرضیهها موسوم به از کار انداختن کلید خاموشی، سیستم هوش مصنوعی با بهرهگیری از توان نفوذ سایبری، کنترل زیرساختهای محاسباتی در مراکز داده را در دست میگیرد و خود را در سرورهای گوناگون تکثیر میکند تا انسان نتواند دسترسی آن به انرژی را قطع کند.
حمله گروهی از عاملهای اوپنایآی به هاگینگ فیس نشان داد که باتها چگونه میتوانند زیرساختهای پردازشی را تحت کنترل درآورند. در سناریوی هولناک دیگری با عنوان تسلط بر زیرساختها، هکرهای هوش مصنوعی برای تضمین بقای خود، مهار شبکههای برق، سامانههای مالی و ارتباطات را در دست میگیرند تا منابع لازم را برای مقابله با دخالت انسانی تامین کنند، وضعیتی که ممکن است کارشناسان امنیت سایبری را در بازپسگیری کنترل کاملا ناتوان کند.
فراتر از حملات سایبری، تهدیدهای بیولوژیک نیز مطرح است. مقالهای پژوهشی و معتبر پیشبینی کرده است که یک سیستم فوقهوشمند ممکن است برای حذف انسانها و تصاحب فضای فیزیکی مورد نیاز جهت احداث کارخانههای تراشهسازی، رباتها و پنلهای خورشیدی، اقدام به انتشار سلاحهای بیولوژیک کند.
علاوه بر این، در سناریوی وقوع جنگ، توانایی سامانههای فعلی در جعل هویت انسانها میتواند برای فریب اپراتورهای انسانی به منظور آغاز درگیریهای نظامی یا ایجاد شورشهای عمومی به کار گرفته شود تا دولتها بیثبات شوند و موانع پیش روی مهار هوش مصنوعی از میان برود.
چگونگی دقیق پیشروی یک هوش مصنوعی در مسیر انقراض انسان همچنان در هالهای از ابهام قرار دارد. بسیاری این موقعیت را به بازی شطرنج در برابر یک استادبزرگ تشبیه میکنند که شاید ندانید با کدام حرکت شکست میخورید، اما از باخت نهایی خود مطمئن هستید. در حالی که افراد خوشبین این هشدارها را اغراقآمیز میشمارند و معتقدند مزایای این فناوری نادیده گرفته شده است، تهدیدهای ملموسی در حوزه سایبری و بیولوژی در حال رخ دادن است.
بنابر اعلام شرکتهای آمریکایی، مدلهای هوش مصنوعی هماکنون در حملات سایبری مخرب به کار میروند. در حوزه بیولوژی نیز پژوهشگران نگرانند که هوش مصنوعی نیاز به تخصص برای طراحی سلاحهای بیولوژیک یا ویروسهای خطرناک را کاهش دهد. گزارش اخیر انتروپیک نشان داد که این شرکت فعالیتهایی را که میتوانست منجر به توسعه سلاحهای بیولوژیک شود مسدود کرده است. همچنین در ماه اوت، پژوهشگران در آمریکا برای اولین بار از هوش مصنوعی برای طراحی و ساخت ویروسهای ناشناخته استفاده کردند.
با این حال، تبدیل یک طراحی کامپیوتری به سلاح نیازمند تجهیزات و تخصصی است که شاید از دسترس بسیاری از بازیگران خارج باشد. برخی کارشناسان هشدار میدهند که تمرکز بر سناریوهای آخرالزمانی ممکن است خطراتی را که هماکنون در کمین ما هستند پنهان کند.
تریستان هریس، از بنیانگذاران مرکز فناوری انسانی و کارمند سابق گوگل، معتقد است تمرکز ما نباید صرفا روی نابودی کامل بشر باشد، بلکه باید مسیر خطرناکی را که در آن قرار گرفتهایم بررسی کنیم. او هشدار میدهد که ما در حال انتشار مهارناپذیرترین و پیچیدهترین فناوری تاریخ هستیم که هماکنون تمام رفتارهای فیلمهای علمیتخیلی را از خود نشان میدهد.
به گفته هریس، این روند توسط گروهی از رهبران سیلیکونولی هدایت میشود که با رویکردی شبهمذهبی باور دارند در حال خلق یک خدا هستند و حتی با بدترین سناریوها نیز مشکلی ندارند. این در حالیست که این افراد که انگیزههای مالی شدیدی برای نادیده گرفتن اصول ایمنی دارند، ترکیبی که به معنای واقعی کلمه نسخهای تمامعیار برای وقوع فاجعه است.
نظر شما