گزارش جدیدی نشان می‌دهد هکرها توانسته‌اند با روشی خلاقانه و نگران‌کننده، مدل‌های هوش مصنوعی مانند ChatGPT و Grok و همچنین موتور جستجوی گوگل را به ابزاری برای انتشار دستورهای مخرب خود تبدیل کنند. این دستورها عملاً راه را برای نصب بدافزار روی دستگاه کاربر فراهم می‌کند.

این هشدار توسط شرکت امنیتی Huntress منتشر شده است. طبق گزارش این شرکت، هکر ابتدا با یک دستیار هوش مصنوعی درباره یک عبارت رایج برای جستجو صحبت می‌کند. سپس از مدل می‌خواهد دستوری را پیشنهاد دهد که کاربر باید آن را در ترمینال اجرا کند. هکرها سپس این گفتگو را با پرداخت هزینه در گوگل تبلیغ می‌کنند تا در صدر نتایج جستجو نمایش داده شود. به‌همین‌ترتیب، هر کاربری که عبارت مشابهی را در گوگل جستجو کند، با دستور مخرب مواجه می‌شود که به ظاهر توصیه خود ChatGPT یا Grok است.

نحوه سوءاستفاده از ChatGPT و Grok

Huntress آزمایش‌های خود روی ChatGPT و Grok را پس از کشف یک حمله سرقت‌داده روی مک با نام AMOS آغاز کرده است. در این حمله، کاربر فقط با جستجوی عبارت «clear disk space on Mac» (به معنای: خالی کردن فضای دیسک در مک) در گوگل و کلیک روی یک لینک تبلیغ شده از ChatGPT آلوده شده است.

کاربر بدون اینکه متوجه ماهیت مخرب دستور باشد، آن را در ترمینال اجرا کرده و به‌این‌ترتیب، هکر موفق شده تا بدافزار AMOS را روی دستگاه او نصب کند. بررسی محققان Huntress نشان می‌دهد که این شیوه حمله در هر دو مدل هوش مصنوعی دیده شده است.

از نظر Huntress، نکته ترسناک این حمله توانایی آن در دور زدن تقریباً تمام نشانه‌های هشداردهنده قدیمی است. در واقع در این نوع حمله کاربر نه فایل ناشناسی را دانلود می‌کند و نه برنامه مشکوکی را نصب می‌کند؛ بلکه اساس کار آن دو ابزار آشنا و معتبر، یعنی گوگل و ChatGPT (یا Grok) هستند. همین موضوع هم باعث اعتماد کاربران می‌شود.

با وجود حذف شدن لینک مخرب از نتایج جستجو، Huntress می‌گوید که این لینک حداقل نیم‌روز پس از انتشار هشدار همچنان در نتایج گوگل دیده شده است.

در نهایت، این شرکت به کاربران توصیه کرده که هیچ دستوری را بدون آگاهی کامل از عملکرد آن، چه در ترمینال و چه در نوار آدرس مرورگر اجرا نکنند؛ حتی اگر پیشنهاد را از یک چت‌بات یا لینک معتبری دریافت کرده باشید.