💬 התקנת Ollama ו-LM Studio והרצת מודל שפה

▶

שלב אחר שלב

1. בודקים כמה זיכרון יש בכרטיסבווינדוס: מנהל המשימות › ביצועים › GPU › "זיכרון GPU ייעודי". בלינוקס: nvidia-smi. אחר כך בוחרים מודל במחשבון שלנו.
2. מתקינים Ollamaווינדוס ומק: מורידים את ההתקנה מ-ollama.com/download. לינוקס: פקודה אחת (למטה).
3. מורידים ומריצים מודלפקודה אחת מורידה את המודל ופותחת צ׳אט. אפשר להחליף את השם בכל מודל מהספרייה של Ollama.
4. בודקים שהמודל רץ על הכרטיסollama ps מראה אם המודל כולו על ה-GPU או חלקו על המעבד.
5. מגדילים את ההקשר אם צריךברירת המחדל היא 4,096 טוקנים. למסמכים ארוכים מגדילים עם OLLAMA_CONTEXT_LENGTH – וזה דורש יותר זיכרון.
6. או: LM Studio עם ממשק גרפימורידים מ-lmstudio.ai, מחפשים מודל, לוחצים הורדה וטוענים. דרישות: מעבד עם AVX2, מומלץ 16GB זיכרון ו-4GB זיכרון כרטיס לפחות.

הפקודות

Ollama בלינוקס

curl -fsSL https://ollama.com/install.sh | sh

הרצת מודל (ווינדוס, מק ולינוקס)

ollama run qwen3.5:9b
ollama ps
ollama list

מודלים לפי כרטיס (מהמחשבון):

• 8GB: ollama run llama3.1:8b
• 12GB: ollama run qwen3:14b
• 16GB: ollama run gpt-oss:20b
• 32GB: ollama run qwen3.6:35b
• 64GB: ollama run llama3.3:70b

הקשר ארוך יותר (לינוקס)

OLLAMA_CONTEXT_LENGTH=8192 ollama serve

LM Studio מהטרמינל

ל-LM Studio יש כלי פקודות בשם lms: lms get (הורדת מודל), lms load, lms chat, lms server start (LM Studio – פקודות lms).

llama.cpp (למתקדמים)

curl -LsSf https://llama.app/install.sh | sh
llama cli -hf ggml-org/Qwen3.5-0.8B-GGUF
llama serve -hf ggml-org/Qwen3.5-0.8B-GGUF

בווינדוס (PowerShell): irm https://llama.app/install.ps1 | iex. הפקודות מהמדריך הרשמי של llama.cpp.

מפרטים מומלצים

כל המפרטים ← · איך להרכיב מחשב – שלב אחר שלב · התקנת ווינדוס או לינוקס ומנהלי התקן לכרטיס המסך · התקנת ComfyUI ליצירת וידאו ב-AI

מקורות

• Ollama – התקנה בלינוקס
• Ollama – התקנה בווינדוס
• Ollama – שאלות נפוצות (הקשר, כמה כרטיסים)
• Ollama – חומרה נתמכת
• ספריית המודלים של Ollama (גדלי קבצים)
• LM Studio – דרישות מערכת
• LM Studio – פקודות lms
• llama.cpp – התקנה והרצה