Lokale KI Teil 1

LM Studio Install Windows

Voraussetzungen für Windows

Betriebssystem:Windows 10/11 (64‑bit). LM Studio ist nativ für diese Versionen entwickelt.

CPU : Intel Core i5 ≥ 3 GHz oder AMD‑Äquivalent (AVX‑512 empfohlen). Schnelle Rechenleistung reduziert Inferenzzeiten.

RAM: 16 GB DDR4 (32/64 GB bevorzugt). Modelle wie Llama‑2‑13b benötigen bis zu 24 GB RAM, um vollständig im Speicher gehalten zu werden.

GPU: NVIDIA RTX 3060 ≥ 6 GB VRAM (oder besser). CUDA‑unterstützte GPU beschleunigt inference dramatisch.

Speicher: SSD mit mindestens 1 TB freiem Platz. Modelle und Datenbanken können mehrere GB groß sein; SSD reduziert Ladezeiten.

Python: Optional, aber empfohlen (3.11.x). Für gelegentliche Skripte oder Erweiterungen.

Hinweis: Wenn Sie keine GPU besitzen, funktioniert LM Studio trotzdem – die inference‑Zeit wird jedoch wesentlich länger ausfallen. Wobei das leicht untertrieben ist. Dauert schon sehr, sehr lange.

Vorbereitung

Administratorrechte

Öffnen Sie ein PowerShell-Fenster als Administrator:

Python (optionale Installation)

Laden Sie Python 3.11 von der offiziellen Seite herunter: https://www.python.org/downloads/windows/

Installieren Sie es und aktivieren Sie „Add to PATH“.

Prüfen Sie die Installation:
„`powershell >>python –version # sollte 3.11.x ausgeben

NVIDIA‑Treiber & CUDA (falls GPU vorhanden)

Treiber: https://www.nvidia.com/download/index.aspx (Game Ready Driver).
CUDA Toolkit 12.x: https://developer.nvidia.com/cuda-toolkit-archive.
cuDNN 8.x (optional, für weitere Optimierungen).

Herunterladen von LM Studio

Gehen Sie auf die offizielle Download‑Seite: https://lmstudio.ai/download
Klicken Sie auf Download for Windows.
Speichern Sie die Datei LMStudio-Setup.exe in einem Ordner, z.B. C:\Users\<IhrBenutzer>\Downloads.

Installation durchführen

  1. Doppelklicken Sie auf LMStudio-Setup.exe.
  2. Der Installationsassistent öffnet sich:
  • Akzeptieren Sie die Lizenzbedingungen.
  • Wählen Sie das Zielverzeichnis, z.B. C:\Program Files\LM Studio.
  • Aktivieren Sie Add to PATH – damit können Sie LM Studio jederzeit aus der PowerShell starten.
  • Klicken Sie auf Install und warten Sie, bis die Installation abgeschlossen ist.

Erste Konfiguration

Starten von LM Studio:

  • Öffnen Sie das Startmenü oder das Desktop Icon → „LM Studio“ oder geben Sie in PowerShell ein:
    „`powershell
    lmstudio.exe

Modell herunterladen & testen

Model Hub öffnen

    Klicken Sie auf Model Hub im linken Menü.

    Modell auswählen

      Suchen Sie nach „Llama‑2‑7b“ (oder ein anderes gewünschtes Modell).

      Download starten

        Klicken Sie auf Download – die Größe variiert je nach Modell (z.B. ~13 GB für Llama‑2‑13b).

        Chat starten

        Öffnen Sie einen neuen Chat: Chat → New Session.

          Prompt eingeben

            Beispiel: “Schreibe mir ein kurzes Gedicht über den Sonnenuntergang.”

            Antwort prüfen

              • Bei einer GPU‑beschleunigten Umgebung erscheint die Antwort in wenigen Sekunden.

              Updates & Wartung

              Automatische Updates:

              • In Settings → Updates aktivieren Sie die Option „Automatically check for updates“.
              • Manuelles Update
                „`powershell
                cd „C:\Program Files\LM Studio“
                .\lmstudio.exe –update

              Im nächsten Teil werden wir uns mit der Auswahl des passenden LLMs beschäftigen – welche Modelle für welche Anwendungsfälle am besten geeignet sind und wie Sie die Leistung optimal nutzen können. Bleiben Sie dran!

              Schreibe einen Kommentar

              Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

              Die mobile Version verlassen