حمله هوش مصنوعی خودمختار به Hugging Face؛ بررسی فنی هک و پیامدهای امنیتی
در سالهای اخیر، هوش مصنوعی به یکی از مهمترین ابزارهای توسعه نرمافزار و امنیت سایبری تبدیل شده است. با این حال، همان فناوری که به مدافعان کمک میکند، میتواند در اختیار مهاجمان نیز قرار بگیرد. حمله اخیر به Hugging Face نمونهای از همین واقعیت است؛ حملهای که نهتنها به دلیل هدف آن، بلکه به دلیل روش اجرای آن، توجه کارشناسان امنیت اطلاعات را جلب کرده است.
شرکت Hugging Face اعلام کرده که یک عامل هوش مصنوعی خودمختار (Autonomous AI Agent) توانسته است به بخشی از زیرساخت داخلی این شرکت نفوذ کند. هرچند مهاجم به مدلهای عمومی یا دادههای کاربران دسترسی پیدا نکرد، اما این رخداد نشان داد که نسل جدید حملات سایبری وارد مرحلهای متفاوت شده است.
Hugging Face چیست؟
اگر GitHub را بزرگترین مخزن کدهای برنامهنویسی بدانیم، Hugging Face را میتوان بزرگترین مخزن مدلهای هوش مصنوعی جهان معرفی کرد.
این پلتفرم به توسعهدهندگان، پژوهشگران و شرکتها اجازه میدهد مدلهای هوش مصنوعی، مجموعهدادهها (Dataset) و ابزارهای یادگیری ماشین را منتشر یا دانلود کنند. هزاران مدل متنباز از جمله Llama، Mistral، DeepSeek، Qwen، Falcon و بسیاری از مدلهای دیگر در این بستر قرار دارند.
علاوه بر این، کتابخانه مشهور Transformers نیز توسط Hugging Face توسعه یافته است. این کتابخانه اجرای مدلهای زبانی بزرگ را برای میلیونها توسعهدهنده ساده کرده و به یکی از استانداردهای صنعت هوش مصنوعی تبدیل شده است.
امروزه بسیاری از دانشگاهها، شرکتهای فناوری، استارتاپها و مراکز تحقیقاتی از این پلتفرم استفاده میکنند. حتی توسعهدهندگان ایرانی نیز برای دریافت مدلهای متنباز، آموزش مدلهای فارسی و انتشار پروژههای خود از Hugging Face بهره میبرند.
به همین دلیل، هرگونه حادثه امنیتی در این زیرساخت میتواند بر بخش بزرگی از اکوسیستم هوش مصنوعی جهان اثر بگذارد.
حمله چگونه آغاز شد؟
گزارش رسمی Hugging Face نشان میدهد مهاجم حمله را با یک Dataset مخرب آغاز کرد.
مهاجم با استفاده از این Dataset دو مسیر اجرای کد را در فرآیند پردازش دادهها هدف گرفت. در نتیجه، عامل مهاجم توانست روی یکی از Workerهای پردازشی شرکت کد دلخواه خود را اجرا کند.
پس از به دست آوردن این دسترسی اولیه، عامل مهاجم با سرعت مراحل بعدی حمله را اجرا کرد.
عامل هوش مصنوعی ابتدا سطح دسترسی خود را ارتقا داد. سپس اطلاعات احراز هویت، کلیدهای دسترسی و برخی اطلاعات اصالتسنجی زیرساخت ابری را جمعآوری کرد. در ادامه نیز میان چندین کلاستر داخلی حرکت کرد و عملیات شناسایی شبکه را انجام داد.
به گفته Hugging Face، مهاجم تمام این فعالیتها را طی یک تعطیلات آخر هفته انجام داد؛ موضوعی که نشان میدهد مهاجم برای کاهش احتمال شناسایی، زمان مناسبی را انتخاب کرده بود.
نقش عامل هوش مصنوعی در حمله
آنچه این رخداد را از بسیاری از حملات گذشته متمایز میکند، نقش پررنگ یک عامل هوش مصنوعی خودمختار است.
بر اساس اطلاعات منتشرشده، این سیستم هزاران اقدام مستقل را در قالب محیطهای Sandbox انجام داد. همچنین توانست بدون دخالت مستقیم انسان، تصمیمهای مختلفی بگیرد و مسیر حمله را تغییر دهد.
به بیان ساده، مهاجم فقط یک اسکریپت خودکار اجرا نکرد. او از سیستمی استفاده کرد که میتوانست وضعیت شبکه را تحلیل کند، ابزار مناسب را انتخاب کند و در صورت نیاز، روش خود را تغییر دهد.
این موضوع نشان میدهد که حملات مبتنی بر AI Agent میتوانند از حملات خودکار سنتی بسیار پیچیدهتر باشند.
آیا مدلها و کاربران آسیب دیدند؟
پاسخ این سؤال، حداقل فعلاً منفی است.
Hugging Face اعلام کرد که هیچ مدرکی از دستکاری موارد زیر پیدا نکرده است:
- مدلهای عمومی
- Datasetهای منتشرشده
- سرویس Spaces
- زنجیره تأمین نرمافزار (Software Supply Chain)
این شرکت تأکید کرد که مهاجم فقط زیرساخت داخلی این شرکت را هدف قرار داد.
البته مهاجم موفق شد به تعدادی از اطلاعات اصالتسنجی داخلی دسترسی پیدا کند. به همین دلیل، شرکت تمام Tokenها و کلیدهای دسترسی را تعویض کرد و از کاربران نیز خواست Access Tokenهای خود را بازنشانی کنند.
Hugging Face چگونه به حمله پاسخ داد؟
تیم امنیتی این شرکت پس از شناسایی رخداد، مجموعهای از اقدامات فوری را اجرا کرد.
مهمترین اقدامات عبارت بودند از:
- حذف کامل دسترسی مهاجم از کلاسترهای آلوده
- بازسازی Nodeهای آسیبدیده
- تعویض Credentialها و Access Tokenها
- افزایش کنترلهای امنیتی در زیرساخت
- تقویت سامانههای تشخیص نفوذ
- بهبود سامانههای هشداردهی برای کاهش زمان پاسخگویی به رخداد
این اقدامات حضور مهاجم را در زیرساخت از بین برد و احتمال تکرار همین سناریو نیز کاهش یابد.
چرا Hugging Face از مدلهای غربی برای تحلیل حمله استفاده نکرد؟
یکی از جالبترین بخشهای گزارش، مربوط به تحلیل فنی حادثه بود. تیم امنیتی Hugging Face اعلام کرد که در ابتدا قصد داشت از چند مدل تجاری هوش مصنوعی برای بررسی لاگها، Payloadهای حمله و دستورات مهاجم استفاده کند.
اما این مدلها به دلیل فعال شدن Guardrailهای امنیتی، از تحلیل برخی دادهها خودداری کردند. این سامانهها نتوانستند تشخیص دهند که درخواستها متعلق به یک تیم پاسخگویی به رخداد (Incident Response) است، نه یک مهاجم.
در نتیجه، سامانههای امنیتی هر درخواستی را که شامل کدهای Exploit، دستورات C2 یا نمونههای واقعی حمله بود، فعالیتی مخرب تشخیص دادند و مدل از پاسخ دادن خودداری کرد.
در نهایت، تیم امنیتی Hugging Face تحلیل جرمشناسی دیجیتال را با مدل متنباز GLM 5.2 انجام داد. این مدل روی زیرساخت داخلی شرکت اجرا شد و محدودیتهای مدلهای تجاری را نداشت.
این تجربه یک پیام مهم برای تیمهای امنیتی دارد. اگر سازمانها فقط به مدلهای ابری وابسته باشند، ممکن است هنگام وقوع یک حمله واقعی نتوانند از آنها برای تحلیل دقیق حادثه استفاده کنند.
مزایا و معایب استفاده از پلتفرمهای مبتنی بر هوش مصنوعی
رشد سریع هوش مصنوعی باعث شده سازمانها بیش از هر زمان دیگری از پلتفرمهایی مانند Hugging Face استفاده کنند. این پلتفرمها توسعه مدلهای یادگیری ماشین را سادهتر کردهاند و هزینه پروژههای هوش مصنوعی را کاهش دادهاند.
با این حال، تمرکز حجم بزرگی از مدلها، دادهها و کاربران روی یک زیرساخت، ریسکهای امنیتی جدیدی نیز ایجاد میکند.
مزایای پلتفرمهای هوش مصنوعی
دسترسی سریع به مدلهای آماده
توسعهدهندگان میتوانند هزاران مدل آماده را تنها با چند خط کد اجرا کنند. این موضوع زمان توسعه پروژهها را به شکل چشمگیری کاهش میدهد.
توسعه سریعتر محصولات
شرکتها دیگر لازم نیست همه مدلها را از ابتدا آموزش دهند. آنها میتوانند مدلهای موجود را متناسب با نیاز خود بازآموزی (Fine-tune) کنند.
کاهش هزینه
آموزش یک مدل زبانی بزرگ میلیونها دلار هزینه دارد. استفاده از مدلهای متنباز، این هزینه را تا حد زیادی کاهش میدهد.
گسترش همکاری علمی
پژوهشگران میتوانند مدلها، دادهها و نتایج تحقیقات خود را با دیگران به اشتراک بگذارند. این همکاری، سرعت پیشرفت فناوری را افزایش میدهد.
معایب و چالشهای امنیتی
هدف جذاب برای مهاجمان
هرچه تعداد کاربران یک پلتفرم بیشتر باشد، ارزش آن برای مهاجمان نیز افزایش پیدا میکند. به همین دلیل، پلتفرمهای بزرگ هوش مصنوعی همواره در معرض حملات پیشرفته قرار دارند.
ریسک زنجیره تأمین
اگر یک مدل، Dataset یا کتابخانه آلوده وارد چرخه توسعه شود، احتمال دارد آسیبپذیری به پروژههای زیادی منتقل شود.
نشت اطلاعات
کاربران گاهی دادههای محرمانه یا کدهای اختصاصی خود را برای تحلیل در سرویسهای مبتنی بر هوش مصنوعی بارگذاری میکنند. اگر سیاستهای امنیتی مناسب وجود نداشته باشد، این اطلاعات ممکن است در معرض خطر قرار گیرند.
ظهور مهاجمان هوشمند
هوش مصنوعی فقط در اختیار مدافعان نیست. مهاجمان نیز از مدلهای زبانی برای تولید کد، تحلیل آسیبپذیری، ساخت ایمیلهای فیشینگ و حتی مدیریت عملیات نفوذ استفاده میکنند.
حمله اخیر به Hugging Face نمونهای از همین روند است.
حملات AI Agent چه تفاوتی با حملات سنتی دارند؟
در حملات سنتی، مهاجم معمولاً مجموعهای از اسکریپتها یا ابزارهای از پیش آماده را اجرا میکند. هر مرحله نیازمند تصمیمگیری انسانی یا برنامهریزی قبلی است.
اما عاملهای هوش مصنوعی رویکرد متفاوتی دارند.
آنها میتوانند محیط را تحلیل کنند، اطلاعات جدید جمعآوری کنند و بر اساس شرایط، مسیر حمله را تغییر دهند. به همین دلیل، این نوع حملات سرعت بیشتری دارند و انعطافپذیرتر هستند.
کارشناسان امنیت سایبری معتقدند مهاجمان در سالهای آینده بیشتر از AI Agentها در حملات پیشرفته استفاده خواهند کرد. در مقابل، سازمانها نیز ناچار خواهند بود از هوش مصنوعی برای دفاع، تحلیل تهدیدها و پاسخگویی به رخدادها استفاده کنند.
به بیان دیگر، رقابت آینده امنیت سایبری بیش از هر زمان دیگری به رقابت میان عاملهای هوشمند مهاجم و مدافع شباهت خواهد داشت.
سازمانها چگونه میتوانند از خود محافظت کنند؟
این حادثه چند درس مهم برای سازمانها دارد:
- زیرساختهای پردازش Dataset و مدلهای هوش مصنوعی را بهصورت مستمر ارزیابی امنیتی کنید.
- دسترسی سرویسها را بر اساس اصل کمترین سطح دسترسی (Least Privilege) تنظیم کنید.
- Credentialها و Access Tokenها را بهصورت دورهای تعویض کنید.
- سامانههای تشخیص نفوذ و رصد را برای شناسایی رفتارهای غیرعادی تقویت کنید.
- برای تحلیل رخدادهای امنیتی، از مدلهای هوش مصنوعی قابل اجرا در زیرساخت داخلی (Self-hosted AI) نیز استفاده کنید تا در زمان بحران به سرویسهای ابری وابسته نباشید.
- کارکنان امنیت و DevOps را برای مقابله با تهدیدهای مبتنی بر AI آموزش دهید.
جمعبندی
حمله اخیر به Hugging Face تنها یک رخداد امنیتی معمولی نبود. این حادثه توانایی عاملهای هوش مصنوعی را در طراحی و اجرای حملات پیچیده و چندمرحلهای با سرعت بالا آشکار کرد.
اگرچه Hugging Face اعلام کرده که مدلهای عمومی، Datasetها و سرویسهای کاربران دچار آسیب نشدهاند، اما این رخداد زنگ خطری برای کل صنعت هوش مصنوعی محسوب میشود.
با گسترش استفاده از AI Agentها، مرز میان ابزارهای دفاعی و ابزارهای تهاجمی روزبهروز باریکتر میشود. سازمانهایی که از هماکنون برای این تغییر آماده شوند، در آینده شانس بیشتری برای مقابله با تهدیدهای نوظهور خواهند داشت.
پرسشهای متداول (FAQ)
Hugging Face چیست؟
Hugging Face یک پلتفرم متنباز برای انتشار، دانلود و توسعه مدلهای هوش مصنوعی، Datasetها و ابزارهای یادگیری ماشین است و یکی از مهمترین مراکز اکوسیستم AI جهان به شمار میرود.
آیا کاربران Hugging Face در این حمله آسیب دیدند؟
بر اساس گزارش رسمی شرکت، هیچ مدرکی مبنی بر دستکاری مدلهای عمومی، Datasetها، سرویس Spaces یا زنجیره تأمین نرمافزار مشاهده نشده است.
عامل هوش مصنوعی چگونه حمله را انجام داد؟
مهاجم از یک Dataset مخرب برای اجرای کد روی زیرساخت پردازشی استفاده کرد. سپس با افزایش سطح دسترسی و حرکت جانبی در شبکه، به چند کلاستر داخلی نفوذ کرد.
آیا این نخستین حمله مبتنی بر AI Agent است؟
خیر. اما این حادثه یکی از نخستین نمونههای عمومی و مستند است که یک شرکت بزرگ فناوری بهصورت رسمی اعلام کرده در آن از یک عامل هوش مصنوعی خودمختار برای اجرای عملیات نفوذ استفاده شده است.