در حالی که رقابت میان شرکتهای فعال در حوزه هوش مصنوعی شدت گرفته است، آمازون درباره مدل آنتروپیک هشدار داد و نگرانیهای تازهای را درباره امنیت مدلهای پیشرفته هوش مصنوعی مطرح کرد. گزارشهای منتشرشده از ثروت فردا، نشان میدهد مدیرعامل آمازون نسبت به خطرات احتمالی مدل جدید شرکت آنتروپیک به مقامات دولت ایالات متحده هشدار داده است.
آمازون درباره مدل آنتروپیک هشدار داد
اینکه آمازون درباره مدل آنتروپیک هشدار داد نشان میدهد نگرانیها درباره نسل جدید مدلهای هوش مصنوعی از سطح شرکتهای فناوری فراتر رفته و به موضوعی در سطح سیاستگذاری ملی تبدیل شده است.
اندی جسی، مدیرعامل آمازون، نسبت به مخاطرات امنیتی مرتبط با «میتوس» (Mythos)، پیشرفتهترین مدل هوش مصنوعی شرکت آنتروپیک، به مقامهای دولت دونالد ترامپ هشدار داده است.
براساس گزارش منتشرشده از ثروت فردا، جسی طی روزهای اخیر در کنار تعدادی از مدیران ارشد صنعت فناوری، نگرانیهای خود را درباره پیامدهای امنیتی این فناوری با مسئولان بلندپایه دولت آمریکا مطرح کرده است.
این موضوع نشان میدهد که آمازون درباره مدل آنتروپیک هشدار داد تنها یک نگرانی تجاری نیست، بلکه ابعاد امنیت ملی نیز پیدا کرده است.
نگرانیهای امنیتی پیرامون مدل Mythos
شرکت آنتروپیک که یکی از بازیگران مهم حوزه هوش مصنوعی محسوب میشود، پیشتر نیز درباره قابلیتهای بالقوه مدل «میتوس» برای سوءاستفادههای سایبری هشدار داده بود.
به گفته این شرکت، مدل Mythos تواناییهای پیشرفتهای در تحلیل و شناسایی آسیبپذیریهای امنیتی دارد و در صورت استفاده نادرست، میتواند خطراتی برای زیرساختهای دیجیتال ایجاد کند.
همین نگرانیها باعث شد آنتروپیک برای مدتی از عرضه گسترده این مدل خودداری کند.
کارشناسان معتقدند اینکه آمازون درباره مدل آنتروپیک هشدار داد میتواند آغازگر بحثهای گستردهتری درباره نحوه کنترل مدلهای فوقپیشرفته هوش مصنوعی باشد.
مدل Mythos چه قابلیتهایی دارد؟
مدل Mythos یکی از پیشرفتهترین محصولات آنتروپیک در زمینه هوش مصنوعی مولد محسوب میشود. این مدل قادر است حجم زیادی از دادهها را پردازش کرده و تحلیلهای پیچیدهای ارائه دهد.
کارشناسان معتقدند هرچه توانایی مدلهای هوش مصنوعی افزایش پیدا کند، اهمیت کنترلهای امنیتی نیز بیشتر خواهد شد.
واکنش آنتروپیک به هشدارهای امنیتی
با وجود نگرانیهای مطرحشده، آنتروپیک نسخه عمومی این فناوری را با نام «فیبل» (Fable) عرضه کرده است.
این شرکت اعلام کرده نسخه جدید به مجموعهای از سازوکارهای حفاظتی امنیت سایبری مجهز شده تا از سوءاستفاده احتمالی جلوگیری شود.
در بیانیه منتشرشده در وبلاگ رسمی آنتروپیک آمده است که دولت آمریکا یافتههایی را در اختیار این شرکت قرار داده که نشان میدهد یکی از مکانیزمهای حفاظتی مدل میتواند دور زده شود.
همین مسئله بار دیگر باعث شد موضوع «آمازون درباره مدل آنتروپیک هشدار داد» در رسانههای فناوری مورد توجه قرار گیرد.
پس از آنکه آمازون درباره مدل آنتروپیک هشدار داد، آنتروپیک تلاش کرد با ارائه توضیحات فنی و امنیتی، نگرانیهای موجود را کاهش دهد.
محدودیتهای دولت ترامپ برای مدلهای جدید
دولت ترامپ در ادامه اقدامات امنیتی خود، دستور داده است دسترسی اتباع خارجی به دو مدل جدید آنتروپیک یعنی «Fable 5» و «Mythos 5» محدود شود.
این محدودیت شامل کاربران خارج از ایالات متحده و همچنین برخی اتباع خارجی حاضر در خاک آمریکا نیز میشود.
آنتروپیک اعلام کرده برای اجرای الزامات تعیینشده از سوی دولت آمریکا، دسترسی جهانی به این دو مدل را محدود خواهد کرد.
تصمیم دولت آمریکا پس از آن اتخاذ شد که گزارشهایی منتشر شد مبنی بر اینکه آمازون درباره مدل آنتروپیک هشدار داد و خواستار بررسی دقیقتر پیامدهای امنیتی این فناوری شد.
دلیل محدودیت مدلهای جدید چیست؟
مقامهای آمریکایی معتقدند برخی قابلیتهای پیشرفته این مدلها میتواند در حوزه امنیت سایبری مورد سوءاستفاده قرار گیرد.
به همین دلیل دولت آمریکا ترجیح داده پیش از گسترش استفاده عمومی، کنترلهای بیشتری بر دسترسی کاربران اعمال شود.
تأثیر تصمیم دولت آمریکا بر صنعت هوش مصنوعی
اینکه آمازون درباره مدل آنتروپیک هشدار داد میتواند بر رویکرد سایر شرکتهای فعال در حوزه هوش مصنوعی نیز تأثیر بگذارد.
تصمیم اخیر دولت آمریکا میتواند پیامدهای مهمی برای صنعت هوش مصنوعی داشته باشد. بسیاری از شرکتهای فناوری در حال توسعه مدلهایی هستند که از نظر توان پردازشی و تحلیلی بسیار پیشرفتهتر از نسلهای قبلی هستند.
در چنین شرایطی، افزایش نظارتهای دولتی ممکن است روند توسعه و عرضه محصولات جدید را تحت تأثیر قرار دهد.
از سوی دیگر، کارشناسان امنیت سایبری معتقدند ایجاد چارچوبهای نظارتی مناسب میتواند از سوءاستفادههای احتمالی جلوگیری کند و اعتماد عمومی به فناوریهای هوش مصنوعی را افزایش دهد.
در حال حاضر آمازون تأیید نکرده است که به صورت رسمی درباره مدلهای آنتروپیک با مقامهای دولتی آمریکا مذاکره کرده یا خیر، اما گزارشها نشان میدهد نگرانیهای امنیتی درباره این فناوری همچنان ادامه دارد.
جمعبندی
در مجموع، ماجرای اینکه آمازون درباره مدل آنتروپیک هشدار داد بار دیگر اهمیت ایجاد توازن میان نوآوری و امنیت را در صنعت هوش مصنوعی برجسته کرده است. بسیاری از کارشناسان معتقدند هشدار آمازون و محدودیتهای اعمالشده از سوی دولت آمریکا میتواند مسیر توسعه مدلهای پیشرفته هوش مصنوعی را در سالهای آینده تحت تأثیر قرار دهد.
نظر شما در مورد این مطلب چیه؟