مدل Kimi با محدودیت‌های امنیتی بیشتر عرضه می‌شود

شرکت چینی مون شات مدل جدید Kimi K3.1 Pro را با حذف داده های حملات سایبری برای پیشگیری از سوءاستفاده های امنیتی معرفی کرد. این شرکت مهارت های کدنویسی مدل را حفظ کرده اما توانایی نفوذ تهاجمی آن در آزمون های داخلی کاهش یافته است. این اقدام هم زمان با تصمیم دولت چین برای وضع محدودیت های صادراتی بر ابزارهای هوش مصنوعی بدافزارساز انجام می شود. مدل جدید با پنجره متنی یک میلیون توکنی به زودی به همراه وزن های مدل در دسترس عموم قرار خواهد گرفت.

تفصیلات مدل Kimi K3.1 Pro

شرکت چینی مون شات، تولیدکننده مدل های هوش مصنوعی، مدل جدید خود Kimi K3.1 Pro را معرفی کرد. این مدل که یکی از پیشرفته ترین مدل های هوش مصنوعی با سه تریلیون پارامتر است، توانایی نفوذ تهاجمی خود را در آزمون های داخلی کاهش داده است. این اقدام به دلیل نگرانی های امنیتی و امکان استفاده از هوش مصنوعی برای انجام حملات سایبری پیچیده تر صورت گرفته است. مون شات اعلام کرد که در هنگام آموزش مدل جدید، داده های مرتبط با حملات سایبری را از مجموعه داده های آموزشی و محیط های یادگیری تقویتی حذف کرده است. با این حال، مهارت های عمومی مدل در زمینه برنامه نویسی حفظ شده است.

نگرانی های امنیتی و محدودیت های صادراتی

در ماه های اخیر، نگرانی ها درباره استفاده از هوش مصنوعی برای هک کردن سیستم ها افزایش یافته است. مدل های هوش مصنوعی می توانند کدهای رایانه ای بنویسند، ابزارهای نرم افزاری را به کار بگیرند و وظایف طولانی و چندمرحله ای را به صورت خودکار انجام دهند. این مدل ها ممکن است فرایند هک کردن سیستم ها را سریع تر، آسان تر و کم هزینه تر کنند. در همین زمینه، دولت ها، شرکت های فناوری و پژوهشگران امنیت سایبری نگرانی بیشتری درباره استفاده از هوش مصنوعی برای هک کردن سیستم ها ابراز کرده اند. چین نیز پیشنهادهایی برای محدود کردن صادرات برخی فناوری های مرتبط با هوش مصنوعی ارائه کرده است.

با وجود این نگرانی ها، مون شات معتقد است که انتشار مدل های دارای وزن های آزاد می تواند به افزایش امنیت سایبری نیز کمک کند. به گفته این شرکت، دسترسی گسترده تر به مدل های هوش مصنوعی به سازمان های بیشتری امکان می دهد نرم افزارهای خود را بررسی کنند و ضعف های امنیتی آن ها را برطرف سازند. این موضوع به ویژه درباره سامانه های قدیمی اهمیت دارد؛ زیرا چنین سامانه هایی معمولاً کمتر بررسی می شوند و ممکن است به اندازه کافی از پشتیبانی امنیتی برخوردار نباشند.

مون شات برای نشان دادن تأثیر اقدامات امنیتی خود اعلام کرد که مدل Kimi K3.1 Pro در آزمون داخلی امنیت سایبری امتیاز 81 درصد را کسب کرده است. این امتیاز برای نسخه مشابهی از مدل که محدودیت های کاهش خطر را نداشت، 90.5 درصد بود. این نتایج نشان می دهد که حذف داده های مرتبط با حملات سایبری، توانایی تهاجمی مدل را کاهش داده است؛ هرچند مدل جدید همچنان عملکرد بهتری نسبت به نسخه قبلی خود دارد.

n

منبع: دیجیرو