ساخت یک چارچوب عامل‌محور (Agentic Harness) که از مدل‌ها دوام بیشتری دارد

خلاصه هوش مصنوعی

شاپیفای تجربیات خود را در زمینه ساخت یک چارچوب امنیتی چندعاملی داخلی به نام Dispatch برای اسکن کدهای یکپارچه عظیم روبی آن روی (Rails monoliths) جهت یافتن آسیب‌پذیری‌ها به اشتراک می‌گذارد. طی پنج ماه ارزیابی مدل‌های پیشرو، آن‌ها دریافتند که اگرچه مدل‌های جدیدتر کاندیداهای آسیب‌پذیری بیشتری را کشف می‌کنند، اما نویز و موارد مثبت کاذب بیشتری نیز تولید می‌کنند. برای حل این مشکل، چارچوب سفارشی مبتنی بر روبی شاپیفای مواردی چون پارتیشن‌بندی کد، تولید آرتیفکت، جستجوی موازی، اعتبارسنجی متضاد (Adversarial) با استفاده از مدل‌های جداگانه، و تولید خودکار پول ریکوئست را مدیریت می‌کند. با اعمال محدودیت‌های سخت‌گیرانه اعتبارسنجی و بهره‌گیری از اسکن تفاضلی، این چارچوب هزینه‌های توکن را به حداقل رسانده، نویز را کاهش می‌دهد و قبل از اطلاع‌رسانی به توسعه‌دهندگان، آسیب‌پذیری‌ها را با تست‌های واقعی اثبات می‌کند.

چرا مهم است

با تکامل سریع مدل‌های هوش مصنوعی پیشرو، تکیه صرف بر قابلیت‌های خام مدل منجر به مثبت‌های کاذب بیش از حد و خستگی توسعه‌دهندگان می‌شود. این مقاله نشان می‌دهد که چگونه مهندسی چارچوب‌های کاربردی مقاوم و قطعی با ارکستراسیون چندعاملی ساختاریافته، اوراکل‌های تست و اعتبارسنجی متضاد می‌تواند کدهای بزرگ را به طور پایدار ایمن کند و در عین حال از چرخه عمر مدل‌های منفرد فراتر رود.

# AI agents# Application Security# Ruby on Rails# Code Analysis

مطالعه مقاله کامل درShopify Engineering

گفتگو 0

آغازگر گفتگو باشید.