«ثروت فردا» گزارش می دهد:

به گزارش «ثروت فردا»، چارلز سوم در عمارت «دامفریز هاوس» اسکاتلند میزبان گروهی از مدیران شرکت‌های بزرگ فناوری، پژوهشگران و سیاست‌گذاران خواهد بود تا درباره آینده هوش مصنوعی و مخاطرات احتمالی آن گفت‌وگو کنند.
براساس گزارش بلومبرگ⁠، محور اصلی سخنان پادشاه بریتانیا این است که توسعه هوش مصنوعی باید همچنان در خدمت انسان باقی بماند و تصمیم‌های امروز شرکت‌های فناوری، کنترل بشر بر آینده خود را تضعیف نکند.
پرسش کاخ سلطنتی از سازندگان هوش مصنوعی
پیام چارلز سوم به مدیران فناوری تنها یک هشدار کلی درباره پیامدهای هوش مصنوعی نیست. او می‌خواهد شرکت‌های فعال در این حوزه توضیح دهند چگونه قصد دارند ضمن استفاده از ظرفیت‌های اقتصادی، علمی و اجتماعی هوش مصنوعی، ایمنی را به بخش جدایی‌ناپذیر توسعه آن تبدیل کنند.
نگرانی اصلی این است که رقابت سریع شرکت‌ها برای ساخت مدل‌های قدرتمندتر، فرصت ارزیابی دقیق پیامدهای امنیتی، اخلاقی و اجتماعی این فناوری را کاهش دهد. از نگاه پادشاه بریتانیا، توسعه هوش مصنوعی زمانی قابل دفاع خواهد بود که کرامت انسانی، اختیار افراد و حفاظت از طبیعت در مرکز تصمیم‌گیری‌ها قرار گیرد.
نمایندگانی از انویدیا، گوگل دیپ‌مایند، اوپن‌ای‌آی و آنتروپیک در این نشست حضور خواهند داشت. همچنین وزیر هوش مصنوعی بریتانیا و شماری از مشاوران و سیاست‌گذاران بین‌المللی در گفت‌وگوها شرکت می‌کنند. رویترز⁠ نیز گزارش داده است که این نشست با هدف ترغیب مدیران فناوری به حفظ هوش مصنوعی در خدمت بشریت برگزار می‌شود.
اختلاف درون صنعت بر سر سرعت توسعه
نشست اسکاتلند در شرایطی برگزار می‌شود که اختلاف‌نظر میان مدیران صنعت هوش مصنوعی درباره شیوه مواجهه با خطرهای این فناوری افزایش یافته است.
داریو آمودی، مدیرعامل آنتروپیک، نسبت به سرعت پیشرفت مدل‌های پیشرفته هشدار داده و خواستار کاهش شتاب توسعه آنها شده است. سم آلتمن، مدیرعامل اوپن‌ای‌آی، و دمیس هاسابیس، مدیر گوگل دیپ‌مایند، نیز بر ضرورت توجه جدی‌تر به ایمنی تأکید کرده‌اند.
در مقابل، جنسن هوانگ، مدیرعامل انویدیا، با توقف توسعه هوش مصنوعی یا افزایش محدودیت‌های نظارتی مخالفت کرده است. او معتقد است توقف نوآوری راه‌حل مناسبی نیست و می‌توان مخاطرات را هم‌زمان با پیشرفت فناوری مدیریت کرد.
این اختلاف دیدگاه، یکی از مهم‌ترین چالش‌های سیاست‌گذاری در حوزه هوش مصنوعی را آشکار می‌کند: آیا دولت‌ها باید پیش از قدرتمندتر شدن مدل‌ها، محدودیت‌های سخت‌گیرانه‌تری وضع کنند یا اجازه دهند صنعت با سرعت فعلی به توسعه ادامه دهد؟
رقابت جهانی؛ مانع توافق بر سر ایمنی
نگرانی درباره هوش مصنوعی تنها به عملکرد شرکت‌ها محدود نمی‌شود. رقابت آمریکا و چین برای کسب برتری در این فناوری، دستیابی به یک توافق جهانی درباره ایمنی را دشوارتر کرده است.
هرگونه کاهش سرعت توسعه ممکن است از سوی شرکت‌ها و دولت‌ها به‌عنوان واگذاری مزیت رقابتی به رقیب تلقی شود. به همین دلیل، حتی کشورهایی که درباره خطرهای هوش مصنوعی هشدار می‌دهند، حاضر نیستند به‌تنهایی توسعه این فناوری را محدود کنند.
چارلز سوم در این نشست بر ضرورت شکل‌گیری همکاری بین‌المللی تأکید خواهد کرد؛ همکاری‌ای که بتواند مجموعه‌ای از اصول مشترک برای توسعه مسئولانه هوش مصنوعی ایجاد کند و مانع حرکت کشورها یا شرکت‌ها خارج از چارچوب‌های ایمنی شود.
از هشدارهای علمی تا ورود چهره‌های سیاسی
پادشاه بریتانیا پیش‌تر نیز درباره خطرهای هوش مصنوعی موضع‌گیری کرده بود. او در نخستین اجلاس جهانی ایمنی هوش مصنوعی در سال ۲۰۲۳، خواستار رسیدگی فوری به مخاطرات احتمالی این فناوری شد.
بااین‌حال، نشست جدید یک تفاوت مهم دارد؛ گفت‌وگو درباره ایمنی هوش مصنوعی از مرحله بیان نگرانی‌های عمومی عبور کرده و اکنون مستقیماً مدیران شرکت‌هایی را هدف قرار داده است که زیرساخت‌ها و مدل‌های آینده را می‌سازند.
آزمون اعتماد برای غول‌های فناوری
نشست دامفریز هاوس قرار نیست به تصویب مقررات الزام‌آور منتهی شود، اما اهمیت آن در فشاری است که بر شرکت‌های بزرگ فناوری برای ارائه پاسخ‌های شفاف‌تر وارد می‌کند.
شرکت‌های هوش مصنوعی تاکنون بارها از تعهد خود به ایمنی سخن گفته‌اند، اما پرسش اصلی همچنان باقی است: آیا سازوکارهای داوطلبانه شرکت‌ها برای کنترل فناوری‌ای با چنین سرعت و قدرتی کافی است یا جهان به قواعد مشترک و نظارت مستقل نیاز دارد؟
ورود چارلز سوم به این بحث نشان می‌دهد آینده هوش مصنوعی دیگر صرفاً موضوعی فنی یا تجاری نیست؛ این فناوری به مسئله‌ای درباره قدرت، مسئولیت و حق بشر برای حفظ کنترل بر آینده خود تبدیل شده است.