هاگینگ فیس (Hugging Face)، بزرگترین پلتفرم متنباز میزبانی مدلهای هوش مصنوعی، اعلام کرد که در حملهای سایبری توسط یک عامل خودمختار هوش مصنوعی (Autonomous AI Agent)، مورد نفوذ قرار گرفته است.
هاگینگفیس در بیانیهای اعلام کرد که دسترسی غیرمجازی به بخشی از دیتاستهای داخلی و همچنین تعدادی از اعتبارنامههای (credentials) مورد استفاده در سرویسهایش شناسایی شده است. با این حال، بررسیهای اولیه نشان میدهد مدلها، دیتاستها و فضاهای عمومی و در دسترس کاربران و همچنین زنجیرهٔ تأمین نرمافزاری این شرکت، دستکاری نشدهاند.
مسیر حمله: از یک دیتاست آلوده تا نفوذ در خوشههای داخلی
بر اساس یافتههای اولیه، نقطهٔ شروع حمله، بخش پردازش داده بوده است. مهاجم با انتشار یک دیتاست مخرب، از دو نقطهضعف در مسیرهای اجرای کد سوء استفاده کرده است. یکی در بارگذار کد از راه دور (remote code dataset loader) و دیگری آسیبپذیری از نوع تزریق قالب (template injection) در پیکربندی دیتاست. این دو حفره به مهاجم اجازه داده تا روی یکی از ورکرهای پردازشی، کد دلخواه اجرا کند.
از اینجا به بعد، مهاجم توانسته سطح دسترسی خود را تا سطح نود (node-level) ارتقا دهد، اعتبارنامههای مربوط به سرویسهای ابری و خوشههای محاسباتی را جمعآوری کند و طی کمتر از دو روز به چندین خوشه داخلی دیگر نفوذ کند.
نکتهٔ قابل توجه، ماهیت خودِ حمله است. هاگینگفیس میگوید این عملیات را عامل خودمختار (Autonomous Agent) هدایت کرده که هزاران دستور مجزا را در قالب انبوهی از سندباکسهای کوتاهعمر انجام داده و زیرساخت فرمان و کنترل (C2) خود را با جابهجایی مداوم روی سرویسهای عمومی مستقر کرده است. هویت دقیق مدل هوش مصنوعی بهکاررفته در این حمله هنوز مشخص نیست.
اقدامات جبرانی هاگینگفیس
این شرکت اعلام کرده که مسیرهای اجرای کد آسیبپذیر که در این حمله استفاده شده است را مسدود کرده است. در کنار آن، اقدامات زیر نیز انجام شده:
- حذف کامل ردپای مهاجم از خوشههای آلوده و بازسازی نودهای آسیبدیده
- ابطال و تجدید اعتبارنامهها و توکنهای افشاشده، همراه با یک تغییر گسترده سایر کلیدهای امنیتی بهصورت پیشگیرانه
- افزودن لایههای امنیتی و سختگیری بیشتر در کنترل دسترسی خوشهها
- بهبود سامانههای تشخیص و هشدار برای اطلاعرسانی سریعتر به تیم واکنش شرکت
هاگینگفیس همچنین از کاربران خود خواسته است که محض احتیاط، توکنهای دسترسی خود را تعویض کرده و فعالیتهای اخیر حسابهایشان را بررسی کنند.
در همین رابطه بخوانید:
– آیندهای که برایش آماده نیستیم: هکرهای هوش مصنوعی
– کشف آسیبپذیری خطرناک HalluSquatting؛ وقتی هوش مصنوعی همه را قربانی توهم خودش میکند
وقتی مدلهای غربی از تحلیل حمله سر باز زدند
شاید جالبترین بخش ماجرا به فرایند تحلیل این حادثه برمیگردد. به گفتهٔ هاگینگفیس، تیم امنیتی این شرکت برای بررسی جزئیات فنی حمله، ابتدا سراغ مدلهای زبانی پیشرفتهٔ غربی رفته بود، اما این مدلها درخواست تحلیل این حمله را خطرناک تشخیص داده و از انجام آن سر باز زدند. به بیان دیگر، این مدلها قادر نبودند فرق میان یک مهاجم و یک تیم امنیتی قانونی را تشخیص دهند.
در نهایت، هاگینگفیس برای انجام این تحلیل به مدل چینی و متنباز GLM 5.2 از شرکت Z.ai روی آورد.
به گفتهٔ این شرکت، هنوز مشخص نیست مهاجم از یک مدل جیلبریک شده غربی استفاده کرده یا یک مدل متنباز بدون محدودیت.
نظرات کاربران