ائتلاف هوش مصنوعی امن با حضور شرکتهای بزرگی مانند انویدیا، مایکروسافت و اسپیس ایکس با هدف توسعه ابزارهای متنباز برای مقابله با تهدیدهای سایبری راهاندازی شد. به گزارش ثروت فردا، این ائتلاف قرار است با تمرکز بر امنیت عاملهای هوش مصنوعی، نرمافزارها و زیرساختهای فناوری، زمینهای برای همکاری شرکتهای بزرگ فناوری و امنیت سایبری فراهم کند.
ائتلاف هوش مصنوعی امن فناوری
انویدیا و مایکروسافت ائتلاف هوش مصنوعی امن تشکیل دادند
شیوا سعیدی: انویدیا، مایکروسافت، اسپیس ایکس و چند شرکت فناوری و امنیت سایبری بزرگ دیگر باهم متحد شده اند تا «ائتلاف هوش مصنوعی باز و امن» (Open Secure AI Alliance) را راه اندازی کنند.
این یک اقدام جدید با محوریت توسعه ابزارهای منبع باز جهت دفاع از نرم افزار، عامل های هوش مصنوعی و زیرساخت ها در مقابل تهدیدهای سایبری است.
در این اتحادیه نام های برجسته ای در حوزه ابر رایانشی، امنیت سایبری، نرم افزار شرکتی، بنیادهای منبع باز و تحقیقات هوش مصنوعی کنار هم دیده می شوند. اعضای اولیه آن عبارتند از: انویدیا، ادوب، کادنس، کپیتال وان، سیسکو، کلادرا، کلاد فلر، کوگنیشن، کراود استرایک، داتا بریکس، دل، دور دش، الاستیک، HPE، هاگینگ فیس، آی بی ام، لانگ چین، لینوکس، مایکروسافت، NAVER، نپ اپ، نوس ریسرچ، اوپن کلاو، پالانتیر، پالو آلتو نتورکس، رد هت، رفلکشن ای آی، سلز فورس، SAP، سرویس نو، زیمنس، اس کی تله کام، اسنو فلیک، اسپیس ایکس، سیناپسیس، تینکینگ ماشین لب و ترند ای آی.
انویدیا یک تولید کننده برتر تراشه های هوش مصنوعی است. این اقدام در پی هک پلتفرم هوش مصنوعی هاگینگ فیس توسط مدل های هوش مصنوعی اوپن ای آی انجام شده که توجه بیشتری را به خطرات مربوط به عامل های خودکار هوش مصنوعی جلب می کند.
این شرکت تصمیم دارد مدلهای متنباز، وزنهای مدل، دادهها و پژوهشهای مرتبط با کنترل عاملهای هوش مصنوعی را در اختیار این ائتلاف قرار دهد. انویدیا اعلام کرد چارچوب پیشنهادی میتواند به سازمانها کمک کند تا عملکرد عاملهای هوش مصنوعی را آزمایش، رصد، ارزیابی و مدیریت کنند و امنیت هوش مصنوعی و نظارت بر سامانهها را به محور اصلی فعالیتهای این ائتلاف تبدیل کند.
ائتلاف هوش مصنوعی امن چیست؟
ائتلاف هوش مصنوعی امن با هدف تقویت همکاری میان شرکتهای فناوری، فعالان امنیت سایبری و مجموعههای مرتبط با توسعه هوش مصنوعی شکل گرفته است. افزایش استفاده از سامانههای هوش مصنوعی در زیرساختهای دیجیتال باعث شده امنیت این فناوری به یکی از موضوعات مهم صنعت فناوری تبدیل شود.
در سالهای اخیر، مدلهای هوش مصنوعی علاوه بر تولید محتوا و پردازش اطلاعات، توانایی انجام وظایف پیچیدهتر را نیز پیدا کردهاند. همین مسئله باعث شده کنترل رفتار عاملهای هوش مصنوعی و جلوگیری از سوءاستفاده احتمالی از آنها اهمیت بیشتری پیدا کند.
اعضای ائتلاف هوش مصنوعی امن
حضور شرکتهای بزرگی مانند انویدیا، مایکروسافت، اسپیس ایکس، IBM، Cisco، CrowdStrike و Hugging Face در این مجموعه نشان میدهد که ائتلاف هوش مصنوعی امن تنها به یک حوزه خاص محدود نیست.
این همکاری طیف متنوعی از فناوریها را دربرمیگیرد؛ از تراشه و رایانش ابری گرفته تا امنیت سایبری، نرمافزار، داده و تحقیقات هوش مصنوعی.
چنین ترکیبی میتواند امکان تبادل تجربه میان شرکتهایی را فراهم کند که هرکدام با بخش متفاوتی از چالشهای امنیتی هوش مصنوعی سروکار دارند.
نقش انویدیا و مایکروسافت
انویدیا یکی از بازیگران مهم صنعت تراشههای هوش مصنوعی است و مایکروسافت نیز در زمینه خدمات ابری، نرمافزار و توسعه زیرساختهای هوش مصنوعی فعالیت گستردهای دارد.
همکاری این شرکتها در ائتلاف هوش مصنوعی امن میتواند به توسعه ابزارهایی برای ارزیابی و مدیریت سامانههای هوش مصنوعی کمک کند. هدف اصلی چنین ابزارهایی این است که سازمانها بتوانند عملکرد مدلها و عاملهای هوش مصنوعی را بهتر بررسی کنند.
از سوی دیگر، مشارکت شرکتهای فعال در حوزه امنیت سایبری میتواند به شناسایی تهدیدهای جدید و توسعه راهکارهایی برای مقابله با حملات احتمالی کمک کند.
ائتلاف هوش مصنوعی امن و امنیت عاملها
یکی از مهمترین موضوعات مطرحشده در این خبر، امنیت عاملهای هوش مصنوعی است. عاملهای هوش مصنوعی میتوانند برخی وظایف را به شکل خودکار انجام دهند و در بعضی موارد به ابزارها، نرمافزارها و دادههای مختلف دسترسی داشته باشند.
این قابلیت در کنار مزایای خود، خطرهایی نیز ایجاد میکند. اگر یک عامل هوش مصنوعی بدون کنترلهای مناسب فعالیت کند، امکان دارد در برابر حملات سایبری یا سوءاستفادههای احتمالی آسیبپذیر باشد.
به همین دلیل، ائتلاف هوش مصنوعی امن بر آزمایش، رصد، ارزیابی و مدیریت عملکرد این سامانهها تأکید دارد.
ابزارهای متنباز و امنیت سایبری
یکی از محورهای مهم این همکاری، استفاده از ابزارها و منابع متنباز است. متنباز بودن ابزارهای امنیتی میتواند به متخصصان اجازه دهد عملکرد آنها را بررسی و برای نیازهای مختلف توسعه دهند.
در حوزه هوش مصنوعی نیز دسترسی به مدلها، دادهها و پژوهشهای مرتبط میتواند به افزایش دانش عمومی و تخصصی درباره روشهای کنترل و ایمنسازی عاملهای هوش مصنوعی کمک کند.
ائتلاف هوش مصنوعی امن با تمرکز بر این رویکرد میتواند زمینه همکاری گستردهتر میان شرکتهای فناوری و جامعه توسعهدهندگان را فراهم کند.
اهمیت امنیت هوش مصنوعی برای سازمانها
گسترش هوش مصنوعی در شرکتها باعث شده موضوع امنیت دیگر تنها به سرورها، شبکهها و نرمافزارهای سنتی محدود نباشد. مدلهای هوش مصنوعی و عاملهای خودکار نیز به بخشی از زیرساخت دیجیتال سازمانها تبدیل شدهاند.
از این رو، سازمانها باید بتوانند عملکرد این سامانهها را ارزیابی کنند، دسترسی آنها را مدیریت کنند و در صورت مشاهده رفتار غیرعادی، واکنش مناسب داشته باشند.
در چنین شرایطی، ائتلاف هوش مصنوعی امن میتواند به توسعه استانداردها و ابزارهای مورد نیاز برای افزایش امنیت این فناوری کمک کند.
آینده ائتلاف هوش مصنوعی امن
رشد سریع هوش مصنوعی باعث شده شرکتهای فناوری به دنبال راهکارهایی برای ایجاد تعادل میان توسعه قابلیتهای جدید و حفظ امنیت باشند. همکاری میان شرکتهای بزرگ میتواند یکی از مسیرهای دستیابی به این هدف باشد.
در صورتی که ائتلاف هوش مصنوعی امن بتواند ابزارهای کاربردی و قابل استفاده برای سازمانها و توسعهدهندگان ارائه کند، این همکاری میتواند در آینده به یکی از بخشهای مهم اکوسیستم امنیت هوش مصنوعی تبدیل شود.
در نهایت، امنیت هوش مصنوعی به موضوعی فراتر از یک شرکت یا یک محصول تبدیل شده است. توسعه مدلهای قدرتمندتر، افزایش استفاده از عاملهای خودکار و اتصال آنها به زیرساختهای مختلف، نیاز به همکاری گستردهتر میان صنعت فناوری و متخصصان امنیت سایبری را افزایش داده است.
نظر شما در مورد این مطلب چیه؟