Ollama چیست؟

ابزار Ollama به شما امکان می‌دهد که به راحتی از مدل‌های زبانی بزرگ مانند Llama در سیستم شخصی خود استفاده کنید! در این آموزش، می‌خواهم درباره Ollama و نحوه کارکردن با آن را توضیح دهم. با هوسم همراه باشید…

Ollama چیست؟

Ollama یک ابزار ساده و متن‌باز هست که به ما امکان استفاده از مدل‌های زبانی بزرگ (LLMs) روی دستگاه‌های شخصی را می‌دهد. به عبارت ساده‌تر، بدون نیاز به اینترنت یا سیستم‌های خیلی قوی یا پرداخت هزینه برای سرویس‌هایی مثل OpenAI، می‌توانیم از مدل‌های پیشرفته زبانی استفاده کنیم. استفاده از این ابزار محدود به یک گروه خاص نیست؛ بلکه، طیف وسیعی از افراد مانند توسعه‌دهنده‌ها (Developers)، محقق‌ها و حتی علاقه‌مندان به هوش مصنوعی می‌توانند از آن استفاده کنند. Ollama به دلیل استفاده آسان، قابلیت کار آفلاین و حفظ حریم خصوصی، گزینه‌ای جذاب برای کسانی است که می‌خواهند با مدل‌های هوش مصنوعی در یک محیط کنترل‌شده کار کنند. این یک تیکه رو با مداد نوشتم، چون حالا خیلی هم مهم نیست! 😁

حالا که با Ollama آشنا شدید، بهتر هست کار با Ollama را شروع کنیم…

کار با Ollama

در این بخش به شما یاد می‌دهم که چگونه Ollama را نصب کنید و سپس از مدل‌های موجود در آن استفاده کنید. این بخش شامل سه زیربخش نصب، دستورات پایه و نحوه اجرای اولین مدل هست. بزن بریم…

دانلود Ollama

خوشبختانه، Ollama روی سه سیستم عامل ویندوز، مک و لینوکس نصب می‌شود. به وب‌سایت رسمی Ollama مراجعه کنید. با صفحه‌ای مشابه با شکل زیر مواجه می‌شوید. گزینه دانلود را بزنید. پس از دانلود، نصب را انجام دهید. فرآیند نصب نکته خاصی ندارد.

پس از تکمیل نصب، می‌توانید آیکون llama را در منوی استارت و تسک‌بار ببینید. اما، با کلیک روی آن اتفاق خاصی نمی‌افتد! در واقع، نکته اینجاست که این ابزار محیط گرافیکی (GUI) ندارد و شما باید از طریق ترمینال یا cmd از آن استفاده کنید. هرچند، ظاهر شدن آیکون llama در استارت به معنای نصب کامل هست، اما می‌توانید تست ساده زیر را انجام دهید.

در منوی استارت، cmd را تایپ و سپس آن را باز کنید. یک پنجره سیاه رنگ به شکل زیر باز می‌شود. در این پنجره می‌توانید فرمان‌های خود را بنویسید. دستور زیر را برای چک کردن ورژن Ollama بنویسید. درصورتی‌که، دستور بدون خطا اجرا شد، یعنی فرآیند نصب موفق بوده و می‌توانید استفاده از مدل‌های زبانی را شروع کنید! 😋

ollama --version

قبل از اینکه کار با مدل‌های زبانی از طریق Ollama را شروع کنیم، بهتر هست نگاهی به مدل‌های موجود در Ollama بیندازیم…

مدل زبانی در Ollama

از طریق منوی سایت Ollama، گزینه Models را بزنید تا وارد صفحه مدل‌های زبانی شوید. لیستی از مدل‌های زبانی را مشاهده می‌کنید. چند نمونه از مدل‌های پرطرف‌دار این روزها:

• deepseek-r1
• llama3.3
• phi4
• mistral
• qwen2.5

اغلب مدل‌ها شامل نسخه‌های با تعداد پارامترهای مختلف هستند. مثلا، مدل deepseek-r1 شامل مدل‌های 1.5 7 8 14 32 70 671 بیلیون پارامتری هست. با کلیک بر روی هر مدل، به صفحه اختصاصی مدل منتقل می‌شود. این صفحه، اطلاعات تخصصی درباره مدل را به شما نشان می‌دهد. از بخش کادر قرمز رنگ، می‌توانید نسخه مدل مدنظرتان را انتخاب کنید. وقتی کشو باز می‌شود، کنار هر نسخه میزان حجم مدل که باید دانلود شود را هم نوشته است! بله، اینترنت خوب نیاز هست! 😭 اگر یک سیستم شخصی نرمال دارید، احتمالا همان مدل‌های زیر 10 بیلیونی را می‌توانید اجرا کنید.

وقتی مدل مدنظرمان را انتخاب کردیم، دستوری متناسب با مدل ما در کادر آبی ظاهر می‌شود. در این دستور، نام مدل انتخابی ذکر شده است: deepseek-r1:1.5b. به این دستور و نام مدل انتخابی نیاز داریم. باتوجه به اینکه مدل 1.5 بیلیونی حجم کمی دارد، پیشنهاد می‌کنم شما هم فعلا همین مدل را انتخاب کنید.

حال که مدل را انتخاب کردیم، باید برویم سراغ Ollama. برای کار با Ollama نیاز به یکسری دستور پایه داریم که در ادامه معرفی کرده‌ام…

دستورات پایه Ollama

کار با Ollama بسیار ساده هست. کافی هست این دستورات پایه را در محیط cmd وارد کنید.

دانلود مدل زبانی

برای استفاده از مدل انتخابی، ابتدا این مدل باید دانلود شود. از دستور ollama pull برای دانلود یک مدل استفاده می‌شود. برای مثال:

ollama pull deepseek-r1:1.5b

وقتی صحبت از دانلود یک فایل حجیم به این شکل می‌شود، چهار ستون بدن ما ایرانی‌ها می‌لرزد! دانلود با این دستور کمی مشکل هست. نکات زیر را مدنظر داشته باشید:

• با تنظیم کردن یک Flag ساده، می‌توانید وضعیت و میزان دانلود را مشاهده کنید. کافی هست، قبل از دستور Pull، عبارت set OLLAMA_DEBUG=1 را در cmd بنویسید و Enter بزنید. سپس، دستور pull را بنویسید.
• یک‌سری ریپوی گیتهابی هستند که امکان دانلود مستقیم مدل‌های زبانی را مهیا کرده‌اند. مثلا، این ریپو، یکسری از مدل‌ها را دارد. متاسفانه، همه مدل‌ها را ندارد. مثلا، من از همین ریپو، مدل Llama3.1:8b را دانلود و استفاده کردم.

اجرای مدل زبانی

خب رسیدیم به مرحله جذاب! برای شروع تعامل با یک مدل، از دستور ollama run استفاده می‌کنیم. برای مثال:

ollama run deepseek-r1:1.5b

بعد از این دستور، Ollama در cmd منتظر دریافت سوال/پیام/پرامپت شما هست. پرامپت خود را به انگلیسی بنویسید و Enter بزنید.

سفارشی‌سازی رفتار مدل زبانی

اگر با مدل‌های زبانی آشنا باشید، می‌دانید که یک‌سری پارامتر اثرگذار در خروجی دارند. Max Tokens و Temperature دو نمونه از این پارامترها هستند. برای سفارشی‌سازی رفتار مدل می‌توانید به‌صورت زیر عمل کنید:

ollama run deepseek-r1:1.5b --temperature 0.7 --max-tokens 100

اتمام کار با مدل زبانی

برای خروج از کار با مدل زبانی، کافی است exit را تایپ کنید یا از کلیدهای Ctrl+C استفاده کنید.

لیست مدل‌های موجود

ممکن هست، به مرور زمان مدل‌های زیادی را دانلود کنید. برای مشاهده مدل‌های نصب‌شده یا موجود، از دستور زیر استفاده کنید:

ollama list

بسیارخب، مشاهده کردید که چه راحت می‌توانیم از مدل‌های زبانی در سیستم شخصی استفاده کنیم. اما ممکن هست، این سوال را داشته باشید که نمی‌شود از این مدل‌ها در پایتون استفاده کرد؟ بله، به راحتی می‌شود! اگر این نوشته مورد استقبال دوستان قرار بگیرد، استفاده از Ollama در پایتون را هم اضافه خواهم کرد! 🙂