انویدیا مدل‌های Nemotron 3.5 را برای عامل‌های محلی عرضه کرد

انویدیا خانواده مدل‌های Nemotron 3.5 را گسترش داده و دو مدل تازه را برای ساخت عامل‌های هوش مصنوعی منتشر کرده است: Nemotron 3.5 Super VL برای پردازش‌های سازمانی و چندوجهی، و Nemotron 3.5 Bolt 74B-A9B 24GB برای اجرای محلی بعضی وظایف عامل‌محور. این خبر در شرایطی اهمیت دارد که اجرای AI روی رایانه شخصی، به‌ویژه برای کار با داده‌های حساس، به یکی از مسیرهای اصلی بازار AI PC تبدیل شده است.

انتشار رسمی این مدل‌ها در ۱۵ اکتبر ۲۰۲۶ انجام شد. وزن مدل‌ها، مجموعه‌داده‌ها و دستورالعمل‌های آموزشی آن‌ها طبق اعلام انویدیا در دسترس قرار گرفته‌اند؛ اما «باز بودن» مدل به معنی ساده‌بودن نصب یا بی‌نیازی از سخت‌افزار مناسب نیست.

Nemotron 3.5 Super VL یک مدل چندوجهی ۱۲۰ میلیاردپارامتری است که برای عامل‌های همیشه‌فعال سازمانی طراحی شده است. این مدل می‌تواند متن، تصویر، صفحه وب و اسناد تصویری مانند PDF را در یک جریان کاری بررسی کند؛ بنابراین برای سناریوهایی مانند استخراج اطلاعات از جدول و نمودار، خواندن سند و استفاده از ابزارها کاربرد دارد.

انویدیا می‌گوید Super VL برای استقرار و سفارشی‌سازی روی زیرساخت خود سازمان‌ها طراحی شده است. این ادعا برای کسب‌وکارهایی مهم است که نمی‌خواهند داده‌های داخلی، اسناد مالی یا اطلاعات مشتری را برای پردازش به سرویس ابری عمومی ارسال کنند. با این حال، سنجش‌های سرعت و دقت اعلام‌شده از سوی خود انویدیا منتشر شده‌اند و باید آن‌ها را در چارچوب آزمون‌ها و پیکربندی‌های شرکت سازنده خواند.

در سوی دیگر، Nemotron 3.5 Bolt 74B-A9B 24GB قرار دارد؛ مدلی برای انجام کارهای روزمره عامل‌محور روی سخت‌افزار محلی. انویدیا اعلام کرده است که این مدل با کوانتیزه‌سازی ۲ بیتی بومی، در ۲۴ گیگابایت حافظه جا می‌گیرد و برای RTX، DGX Spark و سیستم‌های سازگار هدف‌گذاری شده است. کاربردهای مطرح‌شده شامل پژوهش وب، نوشتن، فراخوانی ابزار و اشکال‌زدایی کد هستند.

نکته مهم برای کاربران عادی این است که Bolt یک چت‌بات سبک برای همه لپ‌تاپ‌ها نیست. اجرای محلی مدلی با این اندازه به کارت گرافیک، حافظه و نرم‌افزار سازگار نیاز دارد و تجربه آن بسته به مدل کارت گرافیک، مقدار VRAM، طول متن ورودی و ابزار مورد استفاده تفاوت زیادی خواهد داشت. انویدیا از پشتیبانی مسیرهایی مانند Ollama، LM Studio، llama.cpp، Unsloth و vLLM نام برده است؛ هرکدام نیز مراحل نصب و نیازمندی‌های جداگانه دارند.

مزیت بالقوه اجرای محلی، کنترل بیشتر بر داده‌ای است که برای استنتاج مدل استفاده می‌شود. با این حال، اگر عامل به اینترنت، ایمیل، فضای ابری یا وب‌سایت‌ها متصل شود، بخش‌هایی از درخواست و داده همچنان ممکن است به سرویس‌های بیرونی ارسال شوند. اجرای مدل روی رایانه به‌تنهایی جایگزین بررسی مجوزها، تنظیمات دسترسی ابزارها و دقت در دادن اطلاعات حساس نیست.

Super VL و Bolt 74B-A9B اکنون در دسترس هستند و انویدیا انتشار Bolt E4B 4GB را برای ۲۳ اکتبر ۲۰۲۶ اعلام کرده است. مدل E4B برای عامل‌های مکالمه‌ای سریع‌تر، دستگاه‌های لبه و سخت‌افزارهایی مانند GeForce RTX و Jetson در نظر گرفته شده است.

برای کاربران ایرانی، این انتشار بیش از آن‌که یک قابلیت آماده در یک اپلیکیشن عمومی باشد، خبر مهمی برای توسعه‌دهندگان، کاربران حرفه‌ای RTX و شرکت‌هایی است که به اجرای محلی AI علاقه دارند. دسترسی به دانلود مدل، پلتفرم‌های واسط و سرویس‌های وابسته می‌تواند بر اساس کشور، حساب کاربری، تحریم‌ها و شرایط هر ارائه‌دهنده متفاوت باشد؛ بنابراین پیش از طراحی یک پروژه واقعی باید شرایط همان پلتفرم بررسی شود.

عرضه Nemotron 3.5 نشان می‌دهد انویدیا می‌خواهد مدل‌های عامل‌محور را از دیتاسنتر به ورک‌استیشن و رایانه‌های مجهز به RTX نزدیک‌تر کند. Super VL برای پردازش‌های چندوجهی و سازمانی ساخته شده، در حالی که Bolt تمرکزش را بر اجرای محلی وظایف روزمره‌تر گذاشته است. برای بیشتر کاربران، این خبر هنوز به معنای اجرای بی‌دردسر یک عامل هوش مصنوعی روی هر لپ‌تاپ نیست؛ اما برای کسانی که سخت‌افزار سازگار دارند، گزینه‌های بیشتری برای ساخت و اجرای AI خارج از سرویس‌های ابری فراهم می‌کند.

منبع اصلی: وبلاگ رسمی NVIDIA درباره Nemotron 3.5