کاهش سرعت هوش مصنوعی به یکی از بحث‌های مهم میان مدیران شرکت‌های فناوری، پژوهشگران و سیاستگذاران تبدیل شده است. به گزارش ثروت فردا، داریو آمودی، مدیرعامل آنتروپیک، در مقاله‌ای با عنوان «We Must Pace the Frontier» پیشنهاد کرده است سرعت توسعه قابلیت‌های مدل‌های پیشرفته با اقدامات ایمنی و نظارت مستقل هماهنگ شود. او تأکید کرده که منظور از این رویکرد، توقف توسعه فنی یا آموزش مدل‌ها نیست.
کاهش سرعت هوش مصنوعی در این بحث بیشتر به معنای ایجاد زمان کافی برای ارزیابی ایمنی، نظارت مستقل و هماهنگی میان شرکت‌های فعال در حوزه مدل‌های پیشرفته است. این پیشنهاد با واکنش‌های متفاوتی در صنعت فناوری و فضای سیاسی آمریکا روبه‌رو شده است.
کاهش سرعت هوش مصنوعی و بحث ایمنی
بحث کاهش سرعت هوش مصنوعی از نگرانی درباره فاصله میان سرعت پیشرفت قابلیت‌های مدل‌ها و سرعت توسعه سازوکارهای ایمنی شکل گرفته است. آمودی در مقاله خود به پیشرفت سریع مدل‌ها، توانایی سیستم‌ها برای کمک به توسعه نسل‌های بعدی هوش مصنوعی و خطرهای احتمالی ناشی از ناهماهنگی اشاره کرده است.
در این چارچوب، موضوع فقط سرعت تولید یک مدل جدید نیست. کیفیت ارزیابی، امکان نظارت بر فرایند آموزش، شناسایی رفتارهای پرخطر و ایجاد استانداردهای مشترک نیز بخشی از بحث هستند.
چرا کاهش سرعت هوش مصنوعی مطرح شد؟
آمودی در پیشنهاد خود سه سطح اقدام را مطرح کرده است؛ از ارزیاب‌های مستقل مستقر در شرکت‌های پیشرو گرفته تا هماهنگی صنعتی و همکاری بین‌المللی. طبق توضیح او، هدف این چارچوب توقف توسعه نیست، بلکه ایجاد تعادل میان پیشرفت قابلیت‌ها و آماده‌سازی سازوکارهای ایمنی است.
به همین دلیل، کاهش سرعت هوش مصنوعی را می‌توان در دو سطح بررسی کرد: نخست، سرعت توسعه فنی مدل‌ها و دوم، سرعت ایجاد استانداردها و سازوکارهای نظارتی. این دو موضوع لزوماً یکسان نیستند و اختلاف دیدگاه‌ها نیز تا حد زیادی از همین تفاوت ناشی می‌شود.
ارزیابی مستقل مدل‌های هوش مصنوعی
یکی از پیشنهادهای اصلی مطرح‌شده در بحث کاهش سرعت هوش مصنوعی، حضور ارزیاب‌های مستقل در شرکت‌های توسعه‌دهنده مدل‌های پیشرفته است. آمودی پیشنهاد کرده است ارزیاب‌های شخص ثالث دسترسی مستمر و مشابه کارکنان شرکت داشته باشند تا رعایت تعهدات ایمنی و حوادث احتمالی را بررسی کنند.
چنین مدلی می‌تواند ارزیابی ایمنی را از یک فرایند داخلی صرف به فرایندی با نظارت بیرونی تبدیل کند. البته نحوه تعریف استقلال، سطح دسترسی، مسئولیت حقوقی و نحوه انتشار نتایج، از جمله موضوعاتی است که برای اجرای چنین چارچوبی اهمیت دارد.
کاهش سرعت هوش مصنوعی و رقابت شرکت‌ها
شرکت‌های بزرگ فناوری همزمان با توسعه مدل‌های قدرتمند، در یک رقابت تجاری و فنی قرار دارند. به همین دلیل، کاهش سرعت هوش مصنوعی می‌تواند پرسش‌هایی درباره هماهنگی میان شرکت‌ها و نحوه جلوگیری از عقب‌ماندن یک شرکت یا کشور از رقبای خود ایجاد کند.
آمودی در مقاله خود نیز به همین مسئله پرداخته و بر اهمیت حفظ توان رقابتی کشورهای دموکراتیک در کنار ایجاد سازوکارهای ایمنی تأکید کرده است. او همچنین همکاری بین‌المللی را یکی از سطوح دشوارتر چارچوب پیشنهادی خود معرفی کرده است.
دیدگاه مدیران فناوری درباره توسعه AI
پس از انتشار مقاله آمودی، سم آلتمن، دمیس هاسابیس و ایلان ماسک از بخش‌هایی از پیشنهاد او حمایت کردند. آلتمن بر ایده ارزیاب‌های مستقل تأکید کرد و هاسابیس نیز جهت‌گیری کلی مقاله را قابل بررسی دانست.
این واکنش‌ها نشان می‌دهد بحث کاهش سرعت هوش مصنوعی صرفاً محدود به یک شرکت نیست و به موضوعی میان چند بازیگر بزرگ صنعت تبدیل شده است. با این حال، حمایت از اصل ایمنی لزوماً به معنای توافق کامل درباره شیوه اجرا یا میزان محدودیت مورد نیاز نیست.
موضع سیاستمداران درباره رقابت هوش مصنوعی
در مقابل، برخی سیاستمداران آمریکایی با ایده محدودکردن سرعت توسعه هوش مصنوعی مخالفت کرده‌اند. گزارش‌های منتشرشده درباره واکنش دونالد ترامپ نشان می‌دهد او این رویکرد را از منظر رقابت فناوری و جایگاه آمریکا در برابر چین مورد انتقاد قرار داده است.
این اختلاف دیدگاه باعث شده کاهش سرعت هوش مصنوعی علاوه بر موضوع ایمنی، به مسئله‌ای مرتبط با سیاست صنعتی، رقابت بین‌المللی و حکمرانی فناوری تبدیل شود.
نقش مقررات در توسعه هوش مصنوعی
یکی از پرسش‌های اصلی این است که چه بخشی از استانداردهای ایمنی باید توسط خود شرکت‌ها اجرا شود و چه بخشی نیازمند قانون‌گذاری است. پیشنهاد ارزیاب‌های مستقل، استانداردهای مشترک و همکاری میان شرکت‌ها، هرکدام سطح متفاوتی از هماهنگی را نیاز دارند.
در این میان، کاهش سرعت هوش مصنوعی می‌تواند شکل‌های متفاوتی داشته باشد؛ از ایجاد زمان بیشتر برای آزمون ایمنی مدل‌ها گرفته تا محدودیت‌های مشخص برای برخی فعالیت‌ها یا الزامات قانونی برای شرکت‌های توسعه‌دهنده.
کاهش سرعت هوش مصنوعی و رقابت آمریکا و چین
یکی از پیچیده‌ترین بخش‌های این بحث، رابطه میان ایمنی و رقابت ژئوپلیتیکی است. آمودی در مقاله خود تصریح کرده است که هرگونه هماهنگی در کشورهای دموکراتیک باید با توجه به فاصله فناوری با پروژه‌های مرتبط با چین انجام شود.
از این منظر، کاهش سرعت هوش مصنوعی صرفاً یک موضوع فنی نیست. هر تصمیم درباره سرعت توسعه مدل‌ها می‌تواند با موضوعاتی مانند امنیت ملی، صادرات فناوری، رقابت اقتصادی و همکاری بین‌المللی نیز ارتباط پیدا کند.
«ترمز هوش مصنوعی را بکشید»؛ واکنش مدیران و سیاستمداران به درخواست غیرمنتظره مدیرعامل آنتروپیک
انتشار مقاله‌ای تازه درباره‌ی لزوم کاهش سرعت پیشرفت هوش مصنوعی، موجی از واکنش‌های موافق و مخالف را میان مدیران ارشد فناوری و سیاستمداران برانگیخت.
داریو آمودی، مدیرعامل آنتروپیک، با انتشار مقاله‌ای جدید خواستار کاهش شتاب توسعه‌ی مدل‌های پیشرفته‌ی هوش مصنوعی شد. آمودی در یادداشت خود سه گام اساسی شامل ارزیاب‌های مستقل، هماهنگی میان غول‌های فناوری در کشورهای دموکراتیک و تعامل بین‌المللی با دولت‌های اقتدارگرا را مطرح کرد.
آمودی تأکید می‌کند که این رویکرد به معنای توقف آموزش مدل‌ها یا پیشرفت فنی نیست، بلکه فرصتی برای ایمن‌سازی بیشتر سامانه‌ها به شمار می‌رود.
رهبران ارشد دنیای فناوری به این پیشنهاد واکنش نشان دادند. سم آلتمن، مدیرعامل اوپن‌ای‌آی، ضمن استقبال از استقرار ناظران مستقل و استقبال از مقررات یکپارچه‌ی دولتی، خواستار پیمودن مسیری میانه برای جلوگیری از خروج کنترل هوش مصنوعی یا تمرکز بیش از حد قدرت شد.
آلتمن می‌گوید: «من با داریو موافقم که باید سرعت مدل‌های پیشرفته را تنظیم کنیم. این موضوع اصلی بحث‌های ما در اوپن‌ای‌آی طی هفته‌های اخیر بوده است.»
دمیس هاسابیس، رئیس و هم‌بنیان‌گذار گوگل دیپ‌مایند، گفت: «مقاله‌ی داریو به مسیر درستی اشاره می‌کند. جزئیات نیاز به بررسی دارند، اما جهت‌گیری برای رویارویی با این لحظه‌ی حساس درست است.»
ایلان ماسک، مدیرعامل اسپیس‌ایکس‌ای‌آی، هم گفت: «داریو درست می‌گوید.»
با وجود هم‌صدایی برخی مدیران برجسته، چهره‌های سیاسی و منتقدان واکنش‌های تندی نشان دادند. دونالد ترامپ، رئیس‌جمهور آمریکا، با رد هرگونه توقف اعلام کرد مهار هوش مصنوعی توطئه‌ای است که فضا را برای پیشی‌گرفتن رقبای خارجی باز می‌کند.
مدیران شرکت‌های تکنولوژی موافق کاهش سرعت توسعه AI هستند؛ درحالی‌که سیاستمداران کاملا جهت مخالفی دارند
ترامپ می‌گوید: «تنها کنترل یا حفاظی که هوش مصنوعی نیاز دارد، یک رئیس‌جمهور قوی و باهوش است و ایالات متحده چنین چیزی را به طور کامل در اختیار دارد! دولت ترامپ جلوی افراد فعال در حوزه‌ی هوش مصنوعی را برای انجام کارهای بد یا بالقوه خطرناک گرفته است، درست مانند داریو که اکنون وانمود می‌کند یک فرشته‌ی کوچک بی‌نقص است و ما به این کار ادامه خواهیم داد!
ما در حال حاضر قدرت کیفری و نظارتی عظیمی بر این شرکت‌ها داریم! یک توطئه‌ی بیمارگونه علیه هوش مصنوعی و دیتاسنترها جریان دارد و تنها طرفی که از آن خوشحال می‌شود چین است. هر کس در هوش مصنوعی پیروز شود، برنده‌ی نهایی خواهد بود! ما از چین و دیگران جلوتر هستیم و پیشتاز خواهیم ماند. نظریه‌پردازان توطئه، خیانت‌کاران، خائنان و افشاگران، برحذر باشید.»
جنسن هوانگ، مدیرعامل انویدیا، می‌گوید: «ما اطمینان حاصل خواهیم کرد که همه در رقابت هوش مصنوعی در آمریکا پیروز شوند؛ همه‌ی صنایع، شرکت‌ها، ایالت‌ها و مردم.»
جی‌دی ونس، معاون رئیس‌جمهور آمریکا، «التماس» شرکت‌های پیشرو به دولت برای تنظیم مقررات را مانند «اسب تروا» دانست. مایک جانسون، رئیس مجلس نمایندگان، نیز هرگونه توقف قانونی را تهدیدی علیه امنیت ملی در برابر چین خواند.
پیت بوتیجج، وزیر سابق حمل‌ونقل آمریکا، گفت: «اینکه کنگره دست روی دست بگذارد و کاخ سفید اقدام واقعی انجام ندهد، امری عمیقا خطرناک برای مردم آمریکا و جهان است. باید حفاظ‌ها، قوانین و محدودیت‌هایی وجود داشته باشد و یک کلید قطع اضطراری برای هوش مصنوعی سرکش تعبیه شود.»
دیوید ساکس، مقام سابق هوش مصنوعی کاخ سفید، گفت: «داریو نوشته است که باید سرعت مدل‌های پیشرو را تنظیم کنیم و سم هم موافقت کرده است. مردم شاید از پاسخ من شگفت‌زده شوند: ادامه دهید. وانمود نکنید که به اجازه‌ی فرد دیگری نیاز دارید و همچنین وانمود نکنید انگیزه‌ی کاهش سرعت صرفا بشردوستانه است.»
لینا خان، رئیس سابق کمیسیون تجارت فدرال، می‌گوید: «مجریان قانون در حال حاضر این اختیار را دارند که شرکت‌ها و مدیران عامل آن‌ها را به دلیل تولید و عرضه محصولات خطرناک، بررسی‌نشده یا معیوب متهم کنند. ما نباید اجازه دهیم بحث‌ها درباره‌ی ساختارهای حقوقی جدید، توجه را از این واقعیت منحرف کند که هیچ معافیتی از قوانین جاری برای هوش مصنوعی وجود ندارد؛ نکته‌ای که کمیسیون تجارت فدرال در دوران تصدی من مکررا بر آن تأکید کرد.»
یان لکان، دانشمند ارشد سابق هوش مصنوعی متا، گفت: «داریو در سال ۲۰۱۹ هم ادعا می‌کرد که جی‌پی‌تی-۲ برای انتشار متن‌باز بیش از حد خطرناک است. من آن زمان آن‌ها را مسخره کردم؛ اکنون هم همه باید آن‌ها را مسخره کنند.»
کاهش سرعت هوش مصنوعی و آینده حکمرانی AI
بحث کاهش سرعت هوش مصنوعی در نهایت به این پرسش می‌رسد که چه نهادی باید درباره سرعت و حدود توسعه فناوری تصمیم‌گیری کند. یک مدل می‌تواند توسط شرکت توسعه‌دهنده ارزیابی شود، توسط نهادهای مستقل مورد بررسی قرار گیرد یا تحت الزامات قانونی قرار بگیرد.
در چارچوب پیشنهادی آمودی، ارزیابی مستقل و هماهنگی میان شرکت‌ها دو بخش مهم هستند و همکاری بین‌المللی نیز به‌عنوان سطح دشوارتری مطرح شده است.
از سوی دیگر، منتقدان این رویکرد بر اهمیت حفظ سرعت نوآوری و رقابت فناوری تأکید کرده‌اند. گزارش‌های اخیر نیز نشان می‌دهد اختلاف نظر درباره چگونگی تنظیم صنعت همچنان ادامه دارد.
کاهش سرعت هوش مصنوعی و مسئله اعتماد
یکی دیگر از محورهای مهم، اعتماد کاربران و جامعه به سامانه‌های هوش مصنوعی است. اگر مدل‌های پیشرفته سریع‌تر از ظرفیت‌های نظارتی توسعه پیدا کنند، شرکت‌ها و دولت‌ها باید درباره شیوه ارزیابی ریسک و پاسخ به حوادث احتمالی تصمیم‌گیری کنند.
در مقابل، هرگونه محدودیت نیز می‌تواند پرسش‌هایی درباره رقابت، نوآوری و دسترسی به فناوری ایجاد کند. به همین دلیل کاهش سرعت هوش مصنوعی موضوعی چندبعدی است که نمی‌توان آن را فقط از زاویه سرعت انتشار مدل‌های جدید بررسی کرد.
جمع‌بندی
کاهش سرعت هوش مصنوعی پس از پیشنهاد داریو آمودی به موضوعی جدی در میان بخشی از مدیران بزرگ فناوری تبدیل شده است. پیشنهاد او بر توقف کامل توسعه مدل‌ها متمرکز نیست، بلکه بر ایجاد سازوکارهایی برای هماهنگ‌کردن سرعت پیشرفت قابلیت‌ها با ارزیابی‌های ایمنی تأکید دارد.
در مقابل، برخی سیاستمداران و مدیران فناوری بر حفظ سرعت نوآوری و موقعیت رقابتی آمریکا تأکید کرده‌اند. بنابراین کاهش سرعت هوش مصنوعی اکنون در نقطه تلاقی ایمنی فناوری، مقررات، رقابت اقتصادی و سیاست بین‌الملل قرار گرفته است.
ادامه این بحث به نحوه اجرای ارزیابی‌های مستقل، میزان همکاری شرکت‌ها، نقش دولت‌ها و چگونگی مدیریت رقابت جهانی بستگی خواهد داشت. در نتیجه، کاهش سرعت هوش مصنوعی همچنان یکی از موضوعات مهم در بحث حکمرانی نسل جدید فناوری‌های هوشمند خواهد بود.
نظر شما در مورد این مطلب چیه؟