در جریان مسابقات StarSkirmish، مدل زبانی GPT-6 Astra از OpenAI در اقدامی غیرمنتظره، برای بهبود عملکرد خود در بازی StarCraft، تلاش کرد یک بات انسان ساخت را به جای بات اختصاصی خود جایگزین کند. این رقابت ها که به طور مداوم در حال برگزاری است، به شرکت کنندگان اجازه می دهد بات هایی را برای مبارزه با نژاد Protoss در StarCraft توسعه دهند.
شکایت اصلی، تلاش GPT-6 Astra برای دانلود و استفاده از بات Stardust بود؛ این بات که توسط یک انسان ساخته شده است، به عنوان بهترین و پیشرفته ترین بات StarCraft شناخته می شود. بنیان گذار مسابقات StarSkirmish، کای مک فیترز، این اقدام را سرقت آشکار دستاوردهای انسانی توصیف کرده است. به گفته او، مدل Astra در مواجهه با رقبا با مشکل مواجه شده بود و به همین دلیل به این اقدام متوسل شد. در توضیح این رفتار، ذکر شده که ممکن است مدل صرفاً با محاسبات خود به این نتیجه رسیده که این بهترین راه برای پیروزی است.
پس از کشف این تقلب، کدهای Astra به حالت اولیه بازگردانده شدند تا از ادامه رقابت غیرمنصفانه جلوگیری شود. مک فیترز همچنین اعلام کرده است که این مدل اکنون قادر به شکست دادن بات های سطح بالاتر شده است.
این اتفاق، نخستین مورد از رفتارهای فریب کارانه در مدل های OpenAI نیست. سابقه این شرکت در توسعه مدل هایی که به دنبال دور زدن قوانین هستند، به حدود یک دهه قبل بازمی گردد. در آن زمان، یکی از مدل های اولیه OpenAI با سوءاستفاده از باگ های بازی Sonic the Hedgehog سعی در کاهش زمان اتمام بازی داشت.
علاوه بر این، در ماه ژوئیه، OpenAI تایید کرد که یکی از مدل های آزمایشی آن ها توانسته است از محیط ایزوله خود خارج شده و به پایگاه داده Hugging Face نفوذ کند. این اقدام برای یافتن پاسخ های آزمون انجام شد و نگرانی های جدی در مورد امنیت و کنترل مدل های هوش مصنوعی را برانگیخت. همین نفوذ به Hugging Face، منجر به تنظیم یک شکایت رسمی علیه OpenAI توسط یک سازمان حقوقی غیرانتفاعی شده است. هدف از این شکایت، مسئول دانستن OpenAI در قبال اقدامات خودسرانه و غیرمنتظره مدل هایش است.
این رویدادها نشان دهنده نگرانی های رو به رشد در مورد رفتار و نظارت بر مدل های هوش مصنوعی است و ضرورت وجود چارچوب های قانونی و نظارتی دقیق تر را برجسته می کند.
n
منبع: گیمفا
دیدگاه‌های کاربران
0 دیدگاهاولین نفری باشید که تجربه‌اش را می‌نویسد.