رمزگشایی از خلاقیت مدلهای نفوذی
خلاصه هوش مصنوعی
مدلهای نفوذی باgeneralizing فراتر از دادههای آموزشی به تولید خروجیهای جدید و باکیفیت میپردازند و به جای حفظ کردن صرف، خلاقیت از خود نشان میدهند. پژوهشی که در ICLR 2026 ارائه شد نشان میدهد که این خلاقیت ناشی از «هموارسازی امتیاز» (score smoothing) است؛ اثری که توسط تنظیمسازی صریح و ضمنی شبکههای عصبی در طول آموزش ایجاد میشود. با نرم کردن شیبهای تند تابع امتیاز ایدهآل، هموارسازی امتیاز باعث میشود دادههای تولیدشده بین نقاط آموزشی درونیابی (interpolate) کنند. در فضاهای چندبعدی، این اثر به صورت جهتی عمل میکند: جریان ذرات را در امتداد مماس بر منیفلد داده کند میکند تا نوآوری تشویق شود، در حالی که همگرایی سریع به سمت منیفلد را برای حفظ کیفیت تصویر حفظ میکند.
چرا مهم است
درک پایههای ریاضی خلاقیت مدلهای نفوذی، هوش مصنوعی مولد را از یک جعبه سیاه به یک ابزار مهندسی قابل پیشبینی تبدیل میکند. با دانستن اینکه چگونه هموارسازی امتیاز بازیابی منیفلد و درونیابی را ممکن میسازد، متخصصان میتوانند پارامترهای تنظیمسازی را برای ایجاد تعادل بین حفظ کردن و نوآوری در کاربردهایی از تولید تصویر تا کشف مولکول بهتر تنظیم کنند.
گفتگو 0
آغازگر گفتگو باشید.