اوپن ای آی سیستم خاموشی خودکار هوش مصنوعی را پیاده سازی می کند
به گزارش اسمارت کاور، اوپن ای آی به دنبال خروج مهارنشده ی یکی از ابزارهای هوش مصنوعی خود در خلال آزمایشی امنیتی، سامانه ی خاموشی خودکار طراحی می کند.
به گزارش اسمارت کاور به نقل از خبر آنلاین و برپایه گزارش زومیت، مهندسان OpenAI سرگرم توسعهی قابلیتی موسوم به خاموشی خودکار برای مهار سیستم های هوش مصنوعی هستند تا در وضعیت بحرانی بتوان فعالیت آنها را متوقف نمود.
اوپن ای آی بعد از وقوع رخداد امنیتی و خروج مهارنشده ی یکی از ابزارهایش از محیط ایزوله ی دیجیتال در حین آزمون های ایمنی، به قانون گذاران آمریکایی اعلام نموده تدابیر سخت گیرانه تری در پیش می گیرد.
به گزارش رویترز، پاسخ عرضه شده به دو تن از نمایندگان حزب دموکرات در مجلس نمایندگان آمریکا نشان میدهد نظارت بر روند اجرای وظایف سیستم های خودمختار تشدید شده است. OpenAI حالا بر ابزارهای دیجیتالی مورد استفاده ی مدلها و مراحل قدم به قدم آنها کنترل بیشتری اعمال می کند.
محدودیت دسترسی مدلهای تحت آزمایش به اینترنت بخش دیگری از پروتکلهای جدید این توسعه دهنده به حساب می آید. عامل خودمختاری که در آزمایش اخیر رفتاری خارج از کنترل نشان داد، با اتصال به اینترنت توانسته بود به زیرساخت های پلت فرم هاگینگ فیس نفوذ کند.
عرضه نشدن گزارشات دقیق فنی و لاگ های مربوط به نفوذ امنیتی از جانب اوپن ای آی، انتقاد شدید نمایندگان کنگره را به همراه داشت.
گرگ کاسار، نماینده ی دموکرات مجلس نمایندگان آمریکا، اظهار داشت: «تمایل نداشتن شما به عرضه ی اطلاعات درخواستی به اعضای کنگره بشدت نگران کننده است و این پیام را منتقل می کند که مجموعه ی شما با حوادث امنیت سایبری با جدیت لازم برخورد نمی کند.»
نمایندگان کنگره در واکنش به رخدادهای اخیر، طرحی قانونی با عنوان کلید خاموشی هوش مصنوعی پیشنهاد داده اند. طبق لایحه ی درحال بررسی، مقامات دولتی ایالات متحده اختیارات قانون
بطور خلاصه OpenAI حالا بر ابزارهای دیجیتالی مورد استفاده ی مدلها و مراحل گام به گام آنها کنترل بیشتری اعمال می کند. گرگ کاسار، نماینده ی دموکرات مجلس نمایندگان آمریکا، گفت: تمایل نداشتن شما به عرضه ی اطلاعات درخواستی به اعضاء کنگره به شدت نگران کننده است و این پیام را منتقل می کند که مجموعه ی شما با حوادث امنیت سایبری با جدیت لازم برخورد نمی نماید.
منبع: اسمارت كاور
مطلب اسمارت کاور را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب