لایحه تازه سنا برای جلوگیری از نقض ایمنی مدل‌های هوش مصنوعی_راسخ

مجلس سنا ایالات متحده لایحه جدیدی را نظر کرده است که با الزام تشکیل پایگاه داده‌ای برای ثبت همه نقض‌های سیستم‌های هوش مصنوعی، به‌جستوجو ردیابی مسائل امنیتی این حوزه است.

بر پایه گزارش ورج، لایحه مذکور که «قانون هوش مصنوعی امن» نام دارد، توسط «مارک وارنر» (D-VA) و «تام تیلیس» (R-NC)، دو سناتور آمریکایی معارفه شده است و با وجود آن، یک مرکز امنیت هوش مصنوعی در آژانس امنیت ملی تشکیل خواهد شد. این مرکز در رابطه تکنیک‌هایی برای یادگیری نحوه دستکاری سیستم‌های هوش‌مصنوعی که لایحه از آن به‌گفتن «ضد-هوش مصنو‌عی» یاد کرده است، تحقیق خواهد کرد. این چنین برای جلوگیری از منفعت گیری از این تکنیک‌ها، دستوراتی را تشکیل خواهد کرد.

تشکیل پایگاه‌داده‌ای از نقض‌های هوش مصنوعی

علاوه بر این، مؤسسه ملی استانداردها و فناوری (NIST) و آژانس امنیت سایبری و امنیت زیرساخت با وجود این لایحه، ناچار به تشکیل پایگاه‌داده‌ای از نقض‌های هوش مصنو‌عی می باشند.

لایحه پیشنهادی بر تکنیک‌هایی برای مقابله با هوش‌مصنوعی تمرکز دارد و آن‌ها را به‌گفتن مسمومیت داده‌ها، حملات فرار، حملات مبتنی بر حریم خصوصی و حملات سوء منفعت گیری طبقه‌بندی می‌کند.

مسمومیت داده به روشی حرف های می‌شود که در آن در داده‌های یک مدل هوش مصنو‌عی از کدهایی منفعت گیری می‌شود تا خروجی آن تخریب شود. از این رویکرد برای جلوگیری از کپی آثار هنری توسط مدل‌های هو‌ش مصنوعی تولیدکننده عکس منفعت گیری می‌شود. حملات فرار نیز داده‌های مطالعه‌شده توسط مدل‌های هوش مصنو‌عی را تحول خواهند داد تا مدل گیج شود.

در همین رابطه، روز قبل در گزارشی حرف های شده می بود که هشت نشریه آمریکایی در شکایتی علیه مایکروسافت و OpenAI ادعا کردند که بدون پرداخت غرامت یا کسب اجازه، از مطالب آن‌ها برای آموزش مدل‌های هوش‌مصنوعی منفعت گیری شده است.

«قانون هو‌ش مصنوعی امن» اکنون باید تأییدیه‌های یک کمیته را دریافت کند تا در نهایت توسط مجلس سنا ایالات متحده تصویب شود.