آسیب‌پذیری هوش مصنوعی در برابر فیشینگ؛ خطرات ایجنت‌های هوشمند

بر اساس یافته های اخیر، دستیارهای هوش مصنوعی به طور قابل توجهی در برابر حملات فیشینگ آسیب پذیر هستند. پژوهشگران امنیت سایبری هشدار می دهند که این سیستم ها قادر به تشخیص دستورات مخرب پنهان شده در ایمیل های فیشینگ نیستند، این نقص امنیتی یک تهدید جدی برای کاربران و سازمان ها محسوب می شود.

نقص اصلی observed این است که این دستیاران هوشمند قادر به تمایز بین متنی که صرفاً باید خوانده شود و دستوری که باید اجرا گردد، نیستند. هکرها از این ضعف بهره برداری می کنند و کدهای متنی را به گونه ای طراحی می کنند که برای انسان غیرقابل تشخیص باشد، اما به راحتی توسط سیستم های پردازش خودکار دریافت و اجرا شود. این تکنیک که به عنوان تزریق پرامپت شناخته می شود، به مهاجمان اجازه می دهد تا کنترل سیستم های هوش مصنوعی را به دست بگیرند.

شرکت امنیت سایبری Malwarebytes بیان کرده است که هکرها و حتی بات های مخرب توانایی پنهان سازی کدهای متنی را دارند و این امر شناسایی دستورات مخرب را برای سیستم های پردازش زبان طبیعی دشوار می کند. در حالی که بررسی دقیق ایمیل ها توسط انسان می تواند تا حدی مفید باشد، Malwarebytes تاکید می کند که راه حل اصلی، تغییر در سازوکار خوانش داده ها توسط سیستم های هوش مصنوعی است. Apollo Rinz، توسعه دهنده ShipItClean، به اهمیت حذف محتوای پنهان قبل از رسیدن آن به مدل هوش مصنوعی اشاره می کند و پیشنهاد می کند که تمامی شرکت ها باید این اقدام را در دستور کار خود قرار دهند.

با افزایش استفاده از ابزارهای هوش مصنوعی مانند Muse شرکت متا و اعطای وظایف مستقل به آن ها بدون نظارت، خطر سوءاستفاده از این آسیب پذیری افزایش می یابد. پیش تر، پژوهشگران مواردی از این نوع هک را در مرورگرهای هوشمند و بات های شبکه های اجتماعی مانند Moltbook نیز گزارش کرده اند. Malwarebytes توصیه می کند که کاربران در تصمیم گیری های مهم، حضور انسانی را حفظ کنند و به عملکرد دستیاران هوشمند خود در مواجهه با ایمیل های مشکوک بی اعتماد باشند.

در نهایت، متخصصان امنیتی معتقدند که استفاده از ابزارهای هوش مصنوعی برای پردازش ایمیل ها ضروری نیست از این رو نیازی به کنار گذاشتن کامل این ابزارها نیست، اما باید سطح دسترسی و اختیارات واگذار شده به آن ها با دقت ارزیابی کرد. انجام اقدامات حساس مانند پرداخت های مالی یا تغییر اطلاعات حساب کاربری باید همواره با تایید نهایی یک انسان همراه باشد تا از بهره برداری تبهکاران سایبری از این آسیب پذیری جلوگیری شود.

n

منبع: زومیت