LLM Sprachmodelle

In dieser Kategorie finden Sie Beiträge rund um Large Language Models (LLM) und deren Einsatzmöglichkeiten im Business- und Kreativbereich. Behandelt werden Themen wie lokale KI-Installationen, Integration in bestehende Softwarelösungen, Anwendungsfälle im Publishing oder Prozessautomatisierung mit KI. Die Fachartikel zeigen praxisnah, wie LLMs wie GPT, Mistral oder Mixtral funktionieren, welche Vorteile sie im Alltag bieten und welche technischen Grundlagen notwendig sind, um sie effizient einzusetzen. Ob für Texterstellung, Wissensmanagement, ERP-Integration oder Kundensupport – hier erhalten Sie Einblicke, Tipps und Erfahrungsberichte für den professionellen Umgang mit Sprachmodellen.

Ollama trifft Qdrant: Ein lokales Gedächtnis für Deine KI auf dem Mac

von
Gedächtnis für lokale KI mit Ollama und Qdrant

Lokale KI mit Erinnerungsvermögen – ohne Cloud, ohne Abo, ohne Umweg

In einem früheren Artikel habe ich erklärt, wie man Ollama auf dem Mac installiert. Wer diesen Schritt bereits hinter sich hat, verfügt nun über ein leistungsfähiges lokales Sprachmodell – etwa Mistral, LLaMA3 oder ein anderes kompatibles Modell, das per REST-API ansprechbar ist.

Doch von allein „weiß“ das Modell nur das, was im aktuellen Prompt steht. Es erinnert sich nicht an frühere Konversationen. Was fehlt, ist ein Gedächtnis.

Weiterlesen

Lokale KI auf dem Mac: So installieren Sie ein Sprachmodell mit Ollama

von

Lokale KI auf dem Mac ist längst praxistauglich – vor allem auf Apple-Silicon-Rechnern (M-Serie). Mit Ollama holen Sie sich eine schlanke Laufzeitumgebung für viele Open-Source-Sprachmodelle (z. B. Llama 3.1/3.2, Mistral, Gemma, Qwen). Mit der aktuellen Ollama-Version wird nun auch eine benutzerfreundliche App geliefert, mit der Sie per Mausklick ein lokales Sprachmodell auf Ihrem Mac einrichten können. In diesem Artikel finden Sie eine pragmatische Anleitung von der Installation bis zum ersten Prompt – mit Hinweisen aus der Praxis, wo Dinge traditionell gern schiefgehen.

Weiterlesen