پیام خوزستان - تصور رایجی میان کاربران وجود دارد که اجرای مدل‌های هوش مصنوعی به‌صورت محلی و بدون نیاز به سرویس‌های ابری، مستلزم داشتن رایانه‌های قدرتمند و ابررایانه‌هاست؛ اما شرکت‌های بزرگ فناوری با توسعه مدل‌های کم‌حجم‌تر، امکان استفاده از این فناوری را در رایانه‌های معمولی و حتی تلفن‌های همراه فراهم کرده‌اند.
اگرچه این مدل‌ها از نظر توانایی و دقت به پای مدل‌های پیشرفته شرکت‌های بزرگ نمی‌رسند، اما با مصرف منابع سخت‌افزاری کمتر، امکانات قابل‌توجهی در اختیار کاربران قرار می‌دهند.
در این میان، چهار مدل هوش مصنوعی کم‌حجم از شرکت‌های گوگل، علی‌بابا، لیکوئید ای‌آی و آی‌بی‌ام قابل توجه هستند:
۱. جِما ۴ ای۲بی (Gemma ۴ E۲B)
این مدل متعلق به گوگل و کوچک‌ترین عضو خانواده مدل‌های جِما است. قابلیت پردازش متن، تصویر و صدا را دارد و از حدود ۱۴۰ زبان و پنجره متنی ۱۲۸ هزار توکنی پشتیبانی می‌کند. طراحی آن به‌گونه‌ای است که مصرف منابع پردازشی را کاهش می‌دهد و امکان اجرا روی رایانه‌های ضعیف‌تر و تلفن‌های همراه را فراهم می‌کند.
۲. کوئن ۳.۵ کوچک (Qwen ۳.۵ Small)
شرکت علی‌بابا در مارس ۲۰۲۶ چهار نسخه از این مدل با اندازه‌های ۸۰۰ میلیون تا ۹ میلیارد پارامتر عرضه کرد. این مدل از ۲۰۱ زبان پشتیبانی می‌کند و پنجره متنی آن به ۲۶۲ هزار توکن می‌رسد. همچنین قابلیت تعامل با ابزارها و برنامه‌های نصب‌شده روی رایانه را دارد و می‌تواند در ویرایش تصویر و تدوین ویدئو مورد استفاده قرار گیرد.
۳. ال‌اف‌ام ۳ (LFM ۳)
این مدل را شرکت نوپای لیکوئید ای‌آی توسعه داده است. حجم آن کمتر از یک گیگابایت و اندازه آن حدود ۱.۷۳ میلیارد پارامتر است. این مدل بیشتر برای استفاده در عامل‌های هوش مصنوعی طراحی شده و در برنامه‌ریزی وظایف، اجرای دستورها و کنترل ابزارهای مختلف کاربرد دارد.
۴. گرانیت ۴.۲ (Granite ۴.۲)
این مدل متعلق به شرکت آی‌بی‌ام است و با مجوز متن‌باز آپاچی عرضه شده است. حجم آن حدود ۲.۲۴ گیگابایت است و برای استدلال منطقی، برنامه‌نویسی و استفاده از ابزارهای مختلف طراحی شده است.
سخت‌افزار مورد نیاز برای اجرای مدل‌ها
مهم‌ترین قطعه سخت‌افزاری برای اجرای محلی مدل‌های هوش مصنوعی، کارت گرافیک است. قدرت پردازشی و حافظه گرافیکی تعیین می‌کند که کاربر چه مدل‌هایی را با چه سرعتی اجرا کند.
البته پردازنده و حافظه رم نیز اهمیت دارند و بر امکان اجرای هم‌زمان مدل هوش مصنوعی با سایر برنامه‌ها تأثیر می‌گذارند. به‌طور کلی، هرچه حافظه گرافیکی و توان پردازشی دستگاه بیشتر باشد، امکان استفاده از مدل‌های بزرگ‌تر و پیشرفته‌تر فراهم می‌شود.