Lokale KI Teil 1

LM Studio Install Windows

Voraussetzungen für Windows

Betriebssystem:Windows 10/11 (64‑bit). LM Studio ist nativ für diese Versionen entwickelt.

CPU : Intel Core i5 ≥ 3 GHz oder AMD‑Äquivalent (AVX‑512 empfohlen). Schnelle Rechenleistung reduziert Inferenzzeiten.

RAM: 16 GB DDR4 (32/64 GB bevorzugt). Modelle wie Llama‑2‑13b benötigen bis zu 24 GB RAM, um vollständig im Speicher gehalten zu werden.

GPU: NVIDIA RTX 3060 ≥ 6 GB VRAM (oder besser). CUDA‑unterstützte GPU beschleunigt inference dramatisch.

Speicher: SSD mit mindestens 1 TB freiem Platz. Modelle und Datenbanken können mehrere GB groß sein; SSD reduziert Ladezeiten.

Python: Optional, aber empfohlen (3.11.x). Für gelegentliche Skripte oder Erweiterungen.

Hinweis: Wenn Sie keine GPU besitzen, funktioniert LM Studio trotzdem – die inference‑Zeit wird jedoch wesentlich länger ausfallen. Wobei das leicht untertrieben ist. Dauert schon sehr, sehr lange.

Vorbereitung

Administratorrechte

Öffnen Sie ein PowerShell-Fenster als Administrator:

Python (optionale Installation)

Laden Sie Python 3.11 von der offiziellen Seite herunter: https://www.python.org/downloads/windows/

Installieren Sie es und aktivieren Sie „Add to PATH“.

Prüfen Sie die Installation:
„`powershell >>python –version # sollte 3.11.x ausgeben

NVIDIA‑Treiber & CUDA (falls GPU vorhanden)

Treiber: https://www.nvidia.com/download/index.aspx (Game Ready Driver).
CUDA Toolkit 12.x: https://developer.nvidia.com/cuda-toolkit-archive.
cuDNN 8.x (optional, für weitere Optimierungen).

Herunterladen von LM Studio

Gehen Sie auf die offizielle Download‑Seite: https://lmstudio.ai/download
Klicken Sie auf Download for Windows.
Speichern Sie die Datei LMStudio-Setup.exe in einem Ordner, z.B. C:\Users\<IhrBenutzer>\Downloads.

Installation durchführen

1. Doppelklicken Sie auf LMStudio-Setup.exe.
2. Der Installationsassistent öffnet sich:

• Akzeptieren Sie die Lizenzbedingungen.
• Wählen Sie das Zielverzeichnis, z.B. C:\Program Files\LM Studio.
• Aktivieren Sie Add to PATH – damit können Sie LM Studio jederzeit aus der PowerShell starten.
• Klicken Sie auf Install und warten Sie, bis die Installation abgeschlossen ist.

Erste Konfiguration

Starten von LM Studio:

• Öffnen Sie das Startmenü oder das Desktop Icon → „LM Studio“ oder geben Sie in PowerShell ein:
  „`powershell
  lmstudio.exe

Modell herunterladen & testen

Model Hub öffnen

Klicken Sie auf Model Hub im linken Menü.

Modell auswählen

Suchen Sie nach „Llama‑2‑7b“ (oder ein anderes gewünschtes Modell).

Download starten

Klicken Sie auf Download – die Größe variiert je nach Modell (z.B. ~13 GB für Llama‑2‑13b).

Chat starten

Öffnen Sie einen neuen Chat: Chat → New Session.

Prompt eingeben

Beispiel: “Schreibe mir ein kurzes Gedicht über den Sonnenuntergang.”

Antwort prüfen

• Bei einer GPU‑beschleunigten Umgebung erscheint die Antwort in wenigen Sekunden.

Updates & Wartung

Automatische Updates:

• In Settings → Updates aktivieren Sie die Option „Automatically check for updates“.
• Manuelles Update
  „`powershell
  cd „C:\Program Files\LM Studio“
  .\lmstudio.exe –update

Im nächsten Teil werden wir uns mit der Auswahl des passenden LLMs beschäftigen – welche Modelle für welche Anwendungsfälle am besten geeignet sind und wie Sie die Leistung optimal nutzen können. Bleiben Sie dran!