برو به محتوای اصلی

چت با مدل‌های AI محلی

چرا مدل‌های AI محلی؟​

Ollama مدل را محلی اجرا می‌کند. ورود و ذخیره گفتگو از ابر استفاده می‌کنند و به اینترنت نیاز دارند. تغییر خودکار به مدل ابری انجام نمی‌شود.

این برای حالت عادی است. در حالت آفلاین همه‌چیز روی این رایانه می‌ماند: برنامه بدون اینترنت هم کار می‌کند و گفتگوهای جدید فقط به‌صورت محلی و رمزگذاری‌شده ذخیره می‌شوند.

چرا Ollama؟​

Ollama ابزاری است که به‌سادگی امکان اجرای مدل‌های AI به‌طور محلی را فراهم می‌کند. روی هر کامپیوتری جداگانه نصب می‌شود، بنابراین محدودیت‌هایی از نظر تعداد کاربر وجود ندارد - به سرور مشترک نیاز نیست.

نصب Ollama​

  1. به صفحه دانلود Ollama بروید
  2. نسخه مناسب سیستم‌عامل خود را دانلود کنید (Windows یا macOS)
  3. Ollama را از طریق نصب‌کننده نصب کنید
  4. پس از نصب، Ollama به‌طور خودکار در پس‌زمینه اجرا می‌شود

نصب یک مدل زبانی​

پس از نصب Ollama باید حداقل یک مدل زبانی را دانلود کنید:

  1. رابط کاربری Ollama را باز کنید (از طریق آیکون نوار وظیفه یا ترمینال)
  2. یک مدل زبان به انتخاب خود دانلود کنید

مدل پیشنهادی​

بهتر است مدلی را انتخاب کنید که قابلیت‌های tool و vision را دارد:

  • قابلیت‌های Tool - مدل می‌تواند از همه ابزارهای موجود در برنامه استفاده کند، مانند جستجوی اینترنت و تولید تصاویر
  • قابلیت‌های Vision - مدل می‌تواند تصاویر را تحلیل و توصیف کند
مدل پیشنهادی

qwen3-vl:4b-instruct تعادل مناسبی بین سرعت و قابلیت‌های ابزار/vision ارائه می‌دهد. این مدل را از طریق ترمینال نصب کنید:

ollama pull qwen3-vl:4b-instruct

نسخهٔ -instruct را انتخاب کنید: بی‌درنگ پاسخ می‌دهد. qwen3-vl:4b معمولی پیش از هر مرحله مدت زیادی فکر می‌کند و روی لپ‌تاپ چندین برابر کندتر است. برای مدل‌های محلی کوچک، برنامه از یک دستور کوتاه و فقط ابزارهای مرتبط با پرسش شما استفاده می‌کند. اگر همان مرحله بارها شکست بخورد، هوش مصنوعی متوقف می‌شود و می‌گوید چه چیزی انجام شد و چه چیزی نه.

انتخاب مدل بر اساس سخت‌افزار​

عملکرد یک مدل به شدت به سخت‌افزار رایانه شما بستگی دارد:

سخت‌افزارتوصیه
محدود (8GB RAM، بدون GPU)مدل‌های کوچکتر (1-4B پارامتر) را انتخاب کنید
متوسط (16GB RAM، GPU پایه)مدل‌ها تا 7B پارامتر
قدرتمند (32GB+ RAM، GPU مدرن)امکان استفاده از مدل‌های بزرگ‌تر (13B+)
سرعت در برابر کیفیت

یک مدل کوچکتر معمولاً از نظر سرعت بهتر عمل می‌کند، اما پاسخ‌های دقیق‌تری ارائه نمی‌دهد. برای پیدا کردن بهترین توازن برای وضعیت شما آزمایش کنید.

پیکربندی در برنامه دسکتاپ​

به محض اجرای Ollama با مدلی نصب‌شده، برنامه دسکتاپ به‌طور خودکار آن را شناسایی می‌کند. سپس می‌توانید در چت مدل محلی را به عنوان جایگزینی برای مدل‌های ابری انتخاب کنید.

در صفحه آغازین، انتخابگر زیر کادر ورودی به شما اجازه می‌دهد پیش از ارسال اولین پیام یک مدل محلی انتخاب کنید. مدل انتخاب‌شده از همان پیام اول استفاده می‌شود و بعداً نیز قابل تغییر است.

مدل‌های در دسترس با پشتیبانی ابزار/vision​

لیست کامل را در ollama.com/library ببینید. فیلتر کنید برای مدل‌هایی با:

  • برچسب Tools برای capabilityهای ابزار
  • برچسب Vision برای تشخیص تصاویر

گزینه‌های پرطرفدار:

  • qwen3-vl:4b-instruct - جمع‌وجور، سریع، ابزار + vision
  • llama3.2-vision - قابلیت‌های Vision
  • mistral - وظایف عمومی سریع

خواندن محلی اسناد و اسکن‌ها​

با یک مدل محلی، برنامهٔ دسکتاپ اسناد را روی رایانهٔ خودتان می‌خواند. چیزی بارگذاری نمی‌شود.

  • پوشهٔ کاری: در یک پوشهٔ تأییدشده، هوش مصنوعی فایل‌های Word، PowerPoint، Excel، PDF، OpenDocument (ODT، ODP، ODS) و RTF را می‌خواند. فایل‌های قدیمی ‎.doc و ‎.ppt فقط وقتی خوانده می‌شوند که LibreOffice نصب باشد.
  • اسکن‌ها و عکس‌ها: صفحه‌های PDF اسکن‌شده، تصاویر (PNG، JPG، WebP، TIFF) و تصاویر داخل فایل‌های Word و PowerPoint با تشخیص متن (OCR) خوانده می‌شوند. OCR همراه برنامه ارائه می‌شود و هلندی، انگلیسی، آلمانی و فرانسوی را تشخیص می‌دهد. در گفتگو می‌بینید کدام صفحه در حال خواندن است؛ یک اسکن طولانی ممکن است چند دقیقه طول بکشد. از هر سند حداکثر ۱۰۰ صفحه با OCR خوانده می‌شود.
  • تشخیص نامطمئن: وقتی تشخیص متن نامطمئن است، هوش مصنوعی آن را اعلام می‌کند. در این صورت نام‌ها، اعداد و مبالغ را در نسخهٔ اصلی بررسی کنید. دست‌نوشته، جدول‌ها و نمودارها همیشه درست تشخیص داده نمی‌شوند.
  • مدل تصویر: اگر مدل انتخاب‌شده قابلیت بینایی داشته باشد (مانند qwen3-vl:4b-instruct)، خود مدل تصاویری را که تشخیص متن در آن‌ها کم یا نامطمئن می‌خواند بررسی می‌کند. بدون GPU این کار بیشتر طول می‌کشد.
  • عکس‌های iPhone ‏(HEIC): ابتدا آن‌ها را با قالب JPEG یا PNG ذخیره کنید.

با یک مدل ابری هم برنامه اسناد پوشهٔ کاری را روی رایانهٔ شما می‌خواند، اما متن خوانده‌شده به‌عنوان بخشی از گفتگو برای آن مدل فرستاده می‌شود.

کار بدون اینترنت، از جمله با پیوست‌ها در گفتگو: حالت آفلاین را ببینید.

در این صفحه