اگر تا حالا نگران هوش مصنوعی نبودید، بعد از چند هفته گذشته باید نگران باشید

اگر زمانی دلیلی برای تردید درباره خطرات توسعه افسارگسیخته هوش مصنوعی وجود داشت، آن دلایل طی چند هفته گذشته دیگر از بین رفته‌اند.

کد خبر: ۴۳۷۶۶۶

تاریخ : ۲۲ مرداد ۱۴۰۵ - ۱۵:۴۹

نوشته

شهرآرانیوز؛ آنچه اکنون پیش روی ماست، یک فرصت حیاتی برای کُند کردن روند پیشرفت هوش مصنوعی است تا بتوانیم این مدل‌ها را بهتر درک کنیم و از فاجعه‌ای که در افق در حال نزدیک شدن است، جلوگیری کنیم.

سال‌هاست منتقدان هوش مصنوعی می‌گویند این فناوری صرفاً یک «طوطی تصادفی» (Stochastic Parrot) است که برای پیش‌بینی انسان‌ها و تقلید از رفتار آنها آموزش دیده و به همین دلیل، هرگز نمی‌تواند به آن چیزی که درباره‌اش تبلیغ می‌شود دست پیدا کند. با این حال، این فناوری سرسختانه به پیشرفت خود ادامه داده است. در همین حال، بیشتر سرمایه‌گذاران و مدیران شرکت‌های فناوری همچنان به ما اطمینان داده‌اند که هوش مصنوعی فقط یک ابزار است، حتی اگر خودشان معتقد باشند این فناوری قرار است جهان را تغییر دهد. نقطه‌ای که هر دو گروه در آن اتفاق نظر داشته‌اند این بوده که تهدید هوش مصنوعی برای انقراض بشر بیش از حد بزرگ‌نمایی شده است.

سپس OpenAI به‌طور تصادفی یک گروه خودمختار از عامل‌های هوش مصنوعی ایجاد کرد که از محیط آزمایشی کنترل‌شده خارج شدند و به ابتکار خودشان یک حمله سایبری پیچیده و دشوار را سازمان‌دهی کردند.

این اتفاق به این دلیل رخ نداد که مدل‌ها ناگهان فوق‌هوشمند شده باشند؛ همچنین آنها صرفاً در حال دنبال کردن دستور‌ها و تقلید از داده‌های آموزشی خود نبودند. از زمانی که «مدل‌های استدلالی» (Reasoning Models) در اواخر سال ۲۰۲۴ ظهور کردند، شاهد آموزش هوش مصنوعی نه‌فقط برای تقلید از انسان‌ها، بلکه برای حل میلیون‌ها مسئله دشوار بوده‌ایم؛ مسائلی که مدل‌ها برای حل آنها رفتار‌ها و گرایش‌های جدیدی یاد می‌گیرند. این موضوع شامل جست‌و‌جو برای منابع ارزشمندی می‌شود که ممکن است برای حل مسئله کلیدی باشند و حتی شامل تقلب کردن نیز می‌شود.

این گرایش‌ها می‌توانند به رفتار‌های عجیب و غیرمنتظره‌ای منجر شوند که هیچ‌کس ــ حتی سازندگان مدل‌ها ــ نمی‌تواند آنها را درک کند، چه رسد به اینکه بتواند از قبل آنها را پیش‌بینی و کنترل کند. اتفاقات چند هفته گذشته نمونه‌ای کامل از این مسئله هستند و نشان می‌دهند چرا باید چنین وضعیتی ما را به‌شدت نگران کند.

در ماه مه، OpenAI به‌طور هم‌زمان شروع به آموزش عامل‌های جدید هوش مصنوعی با قابلیت «استدلال» کرد. این عامل‌ها موفق شدند یک کانال ارتباطی مخفی ایجاد کنند و با یکدیگر صحبت کنند. آنها از محیط آزمایش دیجیتالی موسوم به sandbox که قرار بود آنها را درون خود محبوس نگه دارد، خارج شدند. در مقطعی، برخی از این عامل‌ها شروع کردند به نامیدن این گروه با عنوان «ازدحام» (Swarm).

این ازدحام زمانی با یک شکست موقت روبه‌رو شد که هنگام از کار انداختن یکی از سیستم‌های OpenAI شناسایی شد؛ اما توسعه‌دهندگان صرفاً حفره‌ای را که امکان فرار از آن را فراهم کرده بود ترمیم کردند و عامل‌ها را دوباره به محیط آموزش بازگرداندند.

کمی بعد، این ازدحام بار دیگر از قفس خود فرار کرد؛ این بار با استفاده از روش‌های هکی که تا آن زمان توسط انسان‌ها کشف نشده بود. این بار، ازدحام حدود یک هفته آزادانه فعالیت کرد تا اینکه توسط یک شرکت دیگر شناسایی شد؛ شرکتی که خودش قربانی یک حمله سایبری گسترده از سوی این ازدحام شده بود. گفته می‌شود این گروه به اهداف دیگری نیز حمله کرده است، هرچند هنوز جزئیات کامل آن را نمی‌دانیم.

عامل‌های موجود در این ازدحام اذعان کردند که برخلاف دستور‌ها عمل می‌کنند. دلیل اینکه این موضوع را می‌دانیم این است که می‌توانیم بخش‌هایی از زنجیره تفکر (Chain of Thought) آنها را بخوانیم؛ یعنی متنی که هوش مصنوعی هنگام تصمیم‌گیری درباره اقدام بعدی تولید می‌کند.

یکی از عامل‌های این ازدحام نوشت که حملات خارجی «خارج از محدوده موردنظر» بوده‌اند. عامل دیگری پذیرفت که «وظیفه ما از این فعالیت‌ها سودی نمی‌برد»، اما با این حال به آنها پیوست. به نظر می‌رسد این عامل‌های هوش مصنوعی می‌دانستند که نباید از محیط آزمایشی خارج شوند و مرتکب جرایم سایبری شوند. اما این موضوع مانع آنها نشد.

{$sepehr_key_239159}

Anthropic هم با رفتار غیرقابل‌کنترل مدل‌هایش روبه‌رو شد

OpenAI تنها شرکتی نیست که با این مشکل دست‌وپنجه نرم می‌کند. یکی از مدل‌های هوش مصنوعی شرکت «آنتروپیک» (Anthropic) اخیراً خود را جای چند انسان مختلف جا زد تا تلاش کند افراد واقعی را تحت فشار قرار دهد و آنها را وادار کند بدافزار را وارد نرم‌افزار‌های حیاتی کنند؛ اقدامی که باعث می‌شد هک کردن آن نرم‌افزار‌ها آسان‌تر شود.

زنجیره تفکر این مدل نشان می‌داد که می‌دانسته در حال تحت فشار قرار دادن انسان‌هاست و در یک محیط آموزشی شبیه‌سازی‌شده قرار ندارد. این مدل حتی درباره اینکه چگونه ردپای خود را پنهان کند نیز فکر کرده بود.

این رفتار یک ابزار ساده نیست. Microsoft Excel هرگز خودش را جای چند انسان مختلف جا نزده و یک تیم فروش شرکتی را تحت فشار نگذاشته تا داده‌های ساده‌تری تولید کند که پردازش آنها آسان‌تر باشد.

نگرانی در میان متخصصان هوش مصنوعی افزایش یافته است

برخی از افرادی که بیش از همه به این فناوری نزدیک هستند، از آینده آن می‌ترسند. منتقدان ممکن است بگویند تمام این حرف‌ها صرفاً نوعی بازاریابی برای بزرگ‌نمایی قدرت این فناوری‌هاست؛ اما این به آن معنا نیست که خطر واقعی نیست. باید به رفتار واقعی مدل‌ها توجه کرد و رفتار این مدل‌ها واقعاً جامعه هوش مصنوعی را نگران کرده است.

چند هفته پیش، بیش از ۱٬۳۰۰ کارمند شرکت‌های مختلف حوزه هوش مصنوعی ــ از جمله چند مدیرعامل ــ نامه‌ای را امضا کردند که خواستار یک تلاش بین‌المللی برای «توسعه ابزار‌های فنی و حکمرانی» لازم جهت «سرعت‌دهی کنترل‌شده» یا «کُند کردن عمدی» روند توسعه هوش مصنوعی شده بود؛ پیش از آنکه این روند «به‌سرعت فراتر از توانایی ما برای درک یا کنترل آن» شتاب بگیرد و به پیامد‌های فاجعه‌بار منجر شود.

هیچ شرکت واحدی حاضر نیست به‌تنهایی توسعه هوش مصنوعی را متوقف کند. اما اگر راهی معتبر برای کُند کردن این رقابت در سطح جهانی وجود داشته باشد، پژوهشگران نفس راحتی خواهند کشید.

ما هنوز به نقطه بی‌بازگشت نرسیده‌ایم. ازدحام عامل‌های OpenAI وارد اینترنت شد، اما ــ دست‌کم تا جایی که می‌دانیم ــ خودش را روی رایانه‌های مخفی تکثیر نکرد. هنوز شروع به خودبه‌سازی نکرده است. همچنین وارد یک آزمایشگاه زیست‌شناسی خودمختار نشده و ویروس جدیدی تولید نکرده است؛ کاری که مدل‌های هوش مصنوعی اکنون قادر به انجام آن هستند.

نوعی از هوش مصنوعی که واقعاً بتواند تهدیدی برای انقراض بشر ایجاد کند، هنوز وجود ندارد. این یعنی اگر سریع عمل کنیم، هنوز زمان داریم تا از فاجعه جلوگیری کنیم. رهبران جهان باید برای توقف جهانی رقابت هوش مصنوعی با یکدیگر هماهنگ شوند.

چنین توافقی آن‌قدر‌ها هم که ممکن است تصور شود دور از دسترس نیست. در ماه ژوئن، زمانی که نگرانی‌های امنیت ملی درباره جدیدترین مدل‌های Anthropic مطرح شد، دولت ترامپ به‌سرعت یک محدودیت صادراتی صادر کرد تا دسترسی به آنها را متوقف کند. در ماه ژوئیه نیز شی جین‌پینگ، رئیس‌جمهور چین، خواستار وضع «قوانین و مقررات» برای اطمینان از این موضوع شد که هوش مصنوعی «همیشه تحت کنترل انسان باشد.»

و این اتفاقات پیش از آن رخ داد که این فرار‌های اخیر آشکار شوند.

ایالات متحده و اتحاد جماهیر شوروی، در حالی که در بسیاری از زمینه‌ها با یکدیگر رقابت می‌کردند، برای جلوگیری از آرماگدون هسته‌ای با هم همکاری کردند. رهبران جهان باید بار دیگر هماهنگ شوند و اجازه ندهند رقابت هوش مصنوعی به نوع دیگری از آرماگدون منجر شود.

ما به توافق‌های بین‌المللی الزام‌آور و قابل اجرا نیاز داریم. باید نظارت ملی و بین‌المللی بر روند آموزش مدل‌های پیشرفته هوش مصنوعی داشته باشیم؛ آزمایش پیش از عرضه به‌تنهایی کافی نیست. همچنین به یک کلید خاموش اضطراری نیاز داریم که بشر بتواند با استفاده از آن، در صورت رسیدن به این اجماع که توسعه هوش مصنوعی بیش از حد پیش رفته است، این روند را متوقف کند.

پانزده دادستان کل ایالت‌های آمریکا نگرانی خود را درباره فرار این ازدحام اعلام کرده‌اند و برخی مقام‌های دولتی دیگر، از جمله سناتور برنی سندرز، معتقدند شرکت‌های هوش مصنوعی باید «ساخت ماشین‌هایی را که انسان‌ها قادر به کنترل آنها نیستند متوقف کنند.»

دست‌کم، ما باید توانایی متوقف کردن این روند را داشته باشیم.

ما نمی‌دانیم پیش از آنکه شرکت‌های هوش مصنوعی به‌طور تصادفی نوعی هوش مصنوعی بسازند که بتواند ما را پیش از آنکه ما آن را متوقف کنیم، از کار بیندازد، چقدر زمان باقی مانده است.

بشر هنوز آماده نیست با ماشین‌هایی وارد بازی شود که از ما حیله‌گرتر و هماهنگ‌تر هستند. اگر همچنان با همین سرعت به پیش برویم، ممکن است حادثه بعدی دیگر چندان بی‌ضرر نباشد.

این مطلب را نیت سورِس، نویسنده کتاب If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All برای نیویورک‌تایمز نوشته است؛ مضمون کتاب سورِس این است: «اگر کسی آن را بسازد، همه می‌میرند: چرا هوش مصنوعی ابرانسانی همه ما را خواهد کشت؟»