استعفای پروژهشگر شرکت آنتروپیک و هشدار درمورد هوش مصنوعی!
وقتی یک کاربر عادی از چتباتهای هوش مصنوعی مثل چتجیپیتی (ChatGPT) یا کلود (Claude) استفاده میکند، همهچیز جذاب، مفید و بیخطر به نظر میرسد. این سیستمها به ما در برنامهنویسی، مقالهنویسی، ترجمه و حتی تحلیل مالی کمک میکنند. اما پشت درهای بسته شرکتهای سازنده این فناوری، گفتگوها شکل دیگری دارد.
بهتازگی، استعفای اعتراضی یکی از چهرههای فنی برجسته این حوزه، بار دیگر نشان داد که میان آنچه شرکتها در تبلیغات به زبان میآورند و آنچه در واقعیت رخ میدهد، فاصله بزرگی وجود دارد. جیکوب کاکسون (Jacob Coxon)، محققی که سه سال از عمر حرفهای خود را در هسته مرکزی دو شرکت بزرگ یعنی اوپنایآی (OpenAI) و آنتروپیک (Anthropic) گذرانده، از سمت خود کنارهگیری کرد تا زنگ خطری جدی را برای جهان به صدا درآورد.
جیکوب کاکسون کیست و کار او دقیقاً چه اهمیتی دارد؟
برای درک اهمیت این هشدار، باید بدانیم کار این پژوهشگر هوش مصنوعی چه بوده است. کاکسون در زمینه «پیشآموزش» (Pre-training) مدلهای هوش مصنوعی تخصص دارد؛ یعنی همان مرحله پایهای، دشوار و فوقالعاده حساسی که در آن ترابایتها اطلاعات متنی و مفهومی وارد ساختار این مدلها میشود تا یاد بگیرند چگونه مانند انسان، یا حتی فراتر از انسان، فکر و تحلیل کنند.
کسی که در این بخش از شرکتهای بزرگ کار میکند، بهخوبی میداند که سرعت رشد و توانایی یادگیری این ماشینها چقدر بالاست. کاکسون پس از خروج از آنتروپیک در شبکههای اجتماعی اعلام کرد که سرعت رشد این سیستمها بسیار فراتر از برآورد مردم عادی، دانشگاهیان و حتی سیاستمداران است.
اعتراف پشت پرده: «این فناوری ممکن است به قیمت جان انسان تمام شود»
یکی از تکاندهندهترین بخشهای سخنان کاکسون، اشاره به تفاوت سخنان عمومی و خصوصی مدیران فناوری هوش مصنوعی است. شرکتها در مصاحبهها و بیانیهها از کنترل کامل و بیخطر بودن هوش مصنوعی سخن میگویند، اما به گفته این محقق، در گفتگوهای خصوصی وضعیت کاملاً متفاوت است.
کاکسون میگوید:
«کسانی که دستاندرکار ساخت این مدلهای پیشرفته هستند، در خلوت خود واقعاً نگرانند که این ابزارها تا پیش از پایان این دهه، کنترل اوضاع را به دست بگیرند و بشر را نابود کنند. این یک بازی تبلیغاتی برای جذب سرمایه یا جلب توجه نیست؛ بلکه یک نگرانی جدی و واقعی در میان مهندسان است.»
اما چرا چنین خطری مطرح است؟ زیرا هدف نهایی این آزمایشگاهها دستیابی به «ابر هوش مصنوعی» (Superintelligence) است؛ سیستمی که نهتنها در پردازش متن، بلکه در تصمیمگیری، دسترسی به اینترنت، مدیریت منابع انرژی، عملیات سایبری و زیرساختهای دفاعی، بسیار توانمندتر از انسان عمل خواهد کرد.
مطالعه کنید: ایلان ماسک میگوید نسخه جدید Grok رقبایش را کنار میزند! + بررسی زمان انتشار
مسابقه خطرناک میان دو قطب اصلی: اوپنایآی در برابر آنتروپیک
شرکت آنتروپیک اساساً توسط گروهی از کارمندان سابق اوپنایآی بنیانگذاری شد که باور داشتند اوپنایآی بیش از حد تجاری شده و به مسئله ایمنی توجه کافی ندارد. آنتروپیک با شعار «توسعه ایمن و اخلاقی» وارد میدان شد، اما کاکسون تصویری واقعگرایانه از وضعیت کنونی هر دو شرکت ارائه میدهد:
- اوپنایآی: بسیاری از بخشهای این شرکت هنوز خطرات تمدنی و بنیادین این فناوری را بهطور ملموس در نظر نگرفتهاند و تمرکز شدیدی بر سبقت تجاری دارند.
- آنتروپیک: با وجود اینکه مدیران و پژوهشگرانش خطرات را عمیقتر درک میکنند، اما در عمل گرفتار همان مسابقه شدهاند؛ یعنی به دلیل هراس از عقبماندن در بازار، استانداردها و پروتکلهای ایمنی را فدا میکنند تا سریعتر نسخه بعدی را معرفی نمایند.
این اولین باری نیست که بخش ایمنی آنتروپیک با ریزش نیرو مواجه میشود. پیشتر نیز مرینانک شارما (Mrinank Sharma)، مدیر ایمنی این شرکت، به دلایلی مشابه و در اعتراض به سرعت شتابزده و غیراصولی، آنتروپیک را ترک کرده بود.
هوش مصنوعی از چه راههایی میتواند به تهدید واقعی تبدیل شود؟
کاکسون و منتقدان رویکرد کنونی، چند عامل مشخص را منشأ نگرانیهای خود اعلام کردهاند:
- تسلط بر حملات سایبری: مدلهای جدید میتوانند کدهای مخرب بنویسند، آسیبپذیریهای امنیتی سامانهها را در کسری از ثانیه شناسایی کنند و بدون نیاز به ردپای اپراتور انسانی، به زیرساختهای حیاتی نفوذ نمایند.
- غیرقابل پیشبینی بودن رفتار ماشین: وقتی یک مدل به سطحی از پیچیدگی برسد که حتی سازندگان آن سازوکار دقیق وزنها و لایههای تصمیمگیریاش را درک نکنند، مهار و اصلاح خطاهای آن عملاً ناممکن میشود.
- تصمیمگیری پشت درهای بسته: سرنوشت یکی از تحولآفرینترین فناوریهای تاریخ بشر نباید صرفاً در اتاقهای دربسته چند شرکت خصوصی و بر اساس منافع سهامداران تعیین شود.
آیا امیدی به کنترل اوضاع وجود دارد؟
با وجود این هشدارهای نگرانکننده، کاکسون و جمعی از پژوهشگران معتقدند هنوز فرصت بازنگری وجود دارد؛ مشروط بر اینکه اقدامات زیر در اولویت قرار گیرند:
- توقف موقت در آموزش مدلهای فرامرزی: ایجاد یک وقفه حسابشده تا چارچوبهای قانونی، سیستمهای پدافندی و پروتکلهای نظارتی فرصت همگامشدن با توان پردازشی جدید را پیدا کنند.
- همکاری ساختاری میان رقبا: تجربیات پیشین نشان داده آسیبپذیریهای امنیتی در این فضا مرز مشخصی ندارند. متخصصان و مدیران ارشد صنعت در جریان بیانیههایی نظیر «تنظیم سرعت پیشرفت (Pacing the Frontier)» بارها خواهان ورود نهادهای تنظیمگر و تعریف سازوکارهای یکپارچه شدهاند.
- ایجاد پیمانهای بینالمللی ایمنی: مشابه معاهدات جهانی منع گسترش تسلیحات غیرمتعارف، کنترل هوش مصنوعی در آستانه ابرهوشی نیز نیازمند نظارتهای چندجانبه و فراملی است.
خروج مهندسان ارشد از این آزمایشگاهها هشداری آشکار است: توسعه هوش مصنوعی به گلوگاهی تاریخی رسیده که اگر رقابت تجاری بر چارچوبهای ایمنی و اخلاق پیشی بگیرد، پیامدهای آن تمامی جوامع را تحتالشعاع قرار خواهد داد.
سلب مسئولیت و شفافیت در بایتیکل
تمامی مطالب منتشر شده در بلاگ آموزشی بایتیکل، اعم از تحلیلهای بازار، بررسی پروژهها، اخبار و معرفی پتانسیلهای دنیای کریپتوکارنسی، صرفاً با رویکرد آموزشی و اطلاعرسانی تهیه شدهاند. تیم تحریریه بایتیکل تأکید میکند که این محتواها به هیچ عنوان «توصیه مستقیم خرید و فروش» یا «سیگنال سرمایهگذاری» محسوب نمیشوند.
با توجه به نوسانات شدید و ریسکهای ذاتی بازارهای مالی، مسئولیت نهایی هرگونه تصمیمگیری اقتصادی، سود یا ضرر احتمالی، بهطور کامل بر عهده شخص کاربر است. ما اکیداً توصیه میکنیم پیش از هرگونه مشارکت مالی، تحقیقات شخصی خود را (DYOR) تکمیل کرده و در صورت نیاز با مشاوران دارای صلاحیت مشورت کنید.
