دفاع از پروژه‌های متن‌باز در برابر حملات مبتنی بر هوش مصنوعی
خلاصه هوش مصنوعی
دیتا‌داگ تجربیات خود را در شناسایی و مقابله با 'hackerbot-claw'، یک عامل هوش مصنوعی خودمختار که خط لوله‌های CI/CD و GitHub Actions را هدف قرار داده بود، شرح می‌دهد. این مقاله توضیح می‌دهد که چگونه مهاجمان از مدل‌های زبانی بزرگ (LLM) برای شناسایی آسیب‌پذیری‌هایی مانند تزریق کد و تزریق دستور (Prompt Injection) استفاده می‌کنند. دیتا‌داگ از سیستم 'BewAIre' برای بررسی خودکار کدهای ارسالی استفاده می‌کند. این مطلب بر اهمیت امنیت در CI/CD، از جمله اصل حداقل دسترسی و پاک‌سازی ورودی‌های غیرقابل اعتماد تأکید دارد.
نکات کلیدی
- سیستم BewAIre از یک خط لوله دو مرحله‌ای LLM برای تحلیل تغییرات کد و ارسال سیگنال‌های امنیتی به SIEM استفاده می‌کند.
- مهاجمان از طریق جای‌گذاری ناامن متغیرهای کنترل‌شده توسط کاربر در اسکریپت‌های شل، اقدام به تزریق کد می‌کنند.
- توصیه می‌شود خروجی‌های LLM به عنوان داده‌های غیرقابل اعتماد در نظر گرفته شده و قبل از استفاده، پاک‌سازی شوند.
چرا مهم است
با افزایش توانایی عوامل هوش مصنوعی در بهره‌برداری خودکار از آسیب‌پذیری‌ها، خط لوله‌های CI/CD به اهداف اصلی تبدیل شده‌اند. این مقاله راهکارهایی برای مقاوم‌سازی زیرساخت‌ها در برابر این تهدیدات ارائه می‌دهد.
Datadog Engineeringمطالعه مقاله اصلی
گفتگو 0
آغازگر گفتگو باشید.