به گزارش سرویس ترجمه خبرگزاری ایمنا، شرکت امنیت سایبری چک پوینت ریسرچ اعلام کرده است گروهی از هکرها از چت‌بات پشتیبانی مشتریان متا که مبتنی بر هوش مصنوعی است، سواستفاده کرده و به حساب‌های اینستاگرام دسترسی غیرمجاز پیدا کرده‌اند. این حمله که چک پوینت در مارس ۲۰۲۶ به متا گزارش داد، از تکنیکی به نام تزریق دستور استفاده می‌کند تا چت‌بات هوش مصنوعی را فریب دهد و رویه‌های استاندارد احراز هویت را دور بزند. محققان با ساخت دستورهای متنی خاص توانستند چت‌بات را قانع کنند که آن‌ها صاحبان واقعی حساب هستند و درخواست بازنشانی رمز عبور یا بازیابی حساب دارند.

اودد ونونو، رئیس تحقیقات آسیب‌پذیری محصولات در چک پوینت ریسرچ، گفت: «ما نشان دادیم که می‌توان یک سیستم هوش مصنوعی را به‌طور فریبکارانه‌ای دستکاری کرد به‌گونه‌ای که در برابر یک عامل پشتیبانی انسانی جواب نمی‌دهد. هوش مصنوعی فاقد آن حس درونی و تردیدی است که یک انسان آموزش‌دیده هنگام رویارویی با درخواست‌های مشکوک از آن استفاده می‌کند.»

این آسیب‌پذیری زیرساخت پشتیبانی هوش مصنوعی متا را که برای بازیابی حساب اینستاگرام استفاده می‌شود، تحت تأثیر قرار می‌داد. اگرچه چت‌بات برای تأیید هویت کاربر از چندین عامل شامل تأیید ایمیل، تأیید شماره تلفن و سؤالات امنیتی استفاده می‌کند، اما حمله تزریق دستور به محققان اجازه داد با سواستفاده از ابهام موجود در نحوه تشخیص نیت کاربر توسط هوش مصنوعی ، این مراحل را دور بزنند.

گزارش چک پوینت جزئیات روند انجام این حمله را در سه مرحله اصلی شرح می‌دهد: نخست، شناسایی منطق تصمیم‌گیری چت‌بات از طریق آزمایش‌های تکراری؛ دوم، ساخت دستورهایی که سناریوهای بازیابی مشروع را تقلید می‌کند در حالی که جریان تأیید هوش مصنوعی را به‌طور نامحسوس تغییر می‌دهد؛ و سوم، اجرای حمله برای دسترسی به حساب‌های آزمایشی تحت کنترل محققان.

متا به سرعت به این افشاگری پاسخ داد و ظرف چند روز پس از دریافت گزارش، اصلاحات را اعمال کرد. این شرکت اعلام کرد که از آن زمان سیستم‌های پشتیبانی هوش مصنوعی خود را با اقدامات ایمنی بیشتری از جمله فیلتر کردن بهتر دستورها، ایستگاه‌های تأیید هویت سخت‌گیرانه‌تر و نظارت بهبودیافته بر الگوهای درخواست غیرعادی تقویت کرده است.

سخنگوی متا در بیانیه‌ای گفت: «ما این یافته‌ها را جدی می‌گیریم و آسیب‌پذیری خاص گزارش‌شده توسط چک پوینت را برطرف کرده‌ایم. ما به‌طور مستمر برای ایمن‌سازی سیستم‌های هوش مصنوعی خود در برابر تهدیدات نوظهور، از جمله تکنیک‌های مهندسی دستورهای خصمانه، سرمایه‌گذاری می‌کنیم.»

این حادثه چالش گسترده‌تری را در به‌کارگیری هوش مصنوعی برای پشتیبانی مشتریان و کارهای حساس امنیتی برجسته می‌کند: در حالی که مدل‌های زبانی بزرگ می‌توانند پرسش‌های پیچیده را مدیریت کنند و به میلیون‌ها کاربر خدمت دهند، همچنان در برابر تلاش‌های پیچیده دستکاری که از ماهیت احتمالاتی آنها سواستفاده می‌کند، آسیب‌پذیر باقی می‌مانند.

کارشناسان امنیت سایبری خاطرنشان می‌کنند که حملات تزریق دستور، حکایت از دسته‌ای از تهدیدات دارد که مختص هوش مصنوعی هستند و سیر صعودی دارند. برخلاف آسیب‌پذیری‌های نرم‌افزاری سنتی که با به‌روزرسانی کد قابل رفع هستند، دفاع در برابر تزریق دستور نیاز به بهبود مستمر داده‌های آموزش مدل، پروتکل‌های پالایش ورودی و سیستم‌های نظارت رفتاری دارد.

متا به کاربران اینستاگرام توصیه می‌کند که احراز هویت دو مرحله‌ای را فعال کنند، از رمزهای عبور قوی و یکتا استفاده کنند و در مورد به اشتراک گذاشتن اطلاعات بازیابی حساب احتیاط کنند. این شرکت همچنین به کاربران توصیه می‌کند هرگونه فعالیت مشکوک در حساب خود را از طریق کانال‌های رسمی گزارش دهند.

چک پوینت ریسرچ تأکید کرد که یافته‌های آنها با رعایت موازین اخلاقی با متا به اشتراک گذاشته شده و هیچ حساب کاربری واقعی در طول مرحله آزمایش به‌خطر نیفتاده است. این شرکت قصد دارد تحقیقات خود را در کنفرانس آتی امنیت سایبری ارائه دهد تا آگاهی را در مورد ریسک‌های زنجیره تأمین هوش مصنوعی افزایش دهد.

هرچه سیستم‌های هوش مصنوعی بیشتر در زیرساخت‌های حیاتی و پلتفرم‌های عمومی جای می‌گیرند، کارشناسان امنیت سایبری می‌گویند باید فعالانه تهدیدها را پیش‌بینی کنیم، تیم‌های ویژه برای نفوذ آزمایشی تشکیل دهیم و میان شرکت‌های مختلف همکاری کنیم تا از ترفندهای دشمنان عقب نمانیم.