Wer heute mit K\u00fcnstlicher Intelligenz arbeitet, denkt oft zuerst an ChatGPT oder \u00e4hnliche Online-Dienste. Man tippt eine Frage ein, wartet ein paar Sekunden – und erh\u00e4lt eine Antwort, als s\u00e4\u00dfe ein sehr belesener, geduldiger Gespr\u00e4chspartner am anderen Ende der Leitung. Doch was dabei leicht vergessen wird: Jede Eingabe, jeder Satz, jedes Wort wandert \u00fcber das Internet zu fremden Servern. Dort wird die eigentliche Arbeit erledigt – auf riesigen Rechnern, die man selbst nie zu Gesicht bekommt.<\/p>\n
Ein lokales Sprachmodell funktioniert im Prinzip genauso – nur eben ohne Internet. Das Modell liegt als Datei auf dem eigenen Computer, wird beim Start in den Arbeitsspeicher geladen und beantwortet Fragen direkt auf dem Ger\u00e4t. Die Technik dahinter ist dieselbe: ein neuronales Netz, das Sprache versteht, Texte generiert und Muster erkennt. Nur dass die gesamte Berechnung im eigenen Haus bleibt. Man k\u00f6nnte sagen: ChatGPT ohne Cloud.<\/p>\n
Das Besondere daran ist, dass sich die Technologie inzwischen so weit entwickelt hat, dass sie nicht mehr auf riesige Rechenzentren angewiesen ist. Moderne Apple-Computer mit M-Prozessoren (wie M3 oder M4) verf\u00fcgen \u00fcber enorme Rechenleistung, schnelle Speicheranbindung und eine spezialisierte Neural Engine f\u00fcr maschinelles Lernen. Dadurch lassen sich viele Modelle heute direkt auf einem Mac Mini oder Mac Studio betreiben – ganz ohne Serverfarm, ohne komplizierte Einrichtung und ohne nennenswerte Ger\u00e4uschentwicklung.<\/p>\n