راند سری دی ۷۵۰ میلیون دلاری مرکور با ارزش گذاری ۲۰ میلیارد دلاری و اخبار زیرساخت هوش مصنوعی
خلاصه هوش مصنوعی
این گزارش به بررسی تحولات اخیر در حوزه زیرساخت و سیستم‌های هوش مصنوعی می‌پردازد و در کنار خبر تأمین مالی مرکور، به پیشرفت‌های فنی می‌پردازد. مباحث اصلی شامل ابزارهای آموزش مدل‌های زبانی بزرگ با حافظه کارآمد و ترنری برای اجرا روی کارت‌های گرافیک گیمینگ خانگی، اجرای مدل‌های دقت بومی روی خوشه‌ای از مینی‌پیسی‌ها با اتصال USB 3، تولید کد در مقیاس توکن بالا برای برنامه‌های پیچیده با مدل‌های پیشرفته، و چالش‌های شکنندگی در محیط تولید ناشی از کدهای محافظه‌کارانه افزوده شده طی فرآیندهای کدنویسی با کمک هوش مصنوعی است.
نکات کلیدی
- ابزار آموزش ترنری TTF مصرف حافظه آموزش مدل‌های زبانی را از حدود ۱۶ بایت به ازای هر وزن در آدام‌دبلیو به کمتر یا مساوی ۱ بایت کاهش می‌دهد.
- یک خوشه ۴۰ گره‌ای از مینی‌پیسی‌ها با اتصال USB 3.2 توانست استنتاج با دقت بومی را با سرعت ۱۴ توکن بر ثانیه و با هزینه ساخت پایین ارائه دهد.
- جریان‌های کاری کدنویسی به کمک هوش مصنوعی ممکن است ناخواسته با ایجاد پیچیدگی‌های دفاعی بیش از حد، شکنندگی را در محیط تولید افزایش دهند.
چرا مهم است
آشنایی با روش‌های آموزش کم‌مصرف از نظر حافظه و راه‌اندازی سخت‌افزارهای تجاری توزیع‌شده به مهندسان امکان می‌دهد اجرای محلی هوش مصنوعی را ارزیابی کرده، بودجه سخت‌افزاری را بهینه‌سازی کنند و خطرات قابلیت اطمینان در محیط تولید را بهتر مدیریت نمایند.
گفتگو 0
آغازگر گفتگو باشید.