Lokale KI mit Erinnerungsvermögen – ohne Cloud, ohne Abo, ohne Umweg
In einem früheren Artikel habe ich erklärt, wie man Ollama auf dem Mac installiert. Wer diesen Schritt bereits hinter sich hat, verfügt nun über ein leistungsfähiges lokales Sprachmodell – etwa Mistral, LLaMA3 oder ein anderes kompatibles Modell, das per REST-API ansprechbar ist.
Doch von allein „weiß“ das Modell nur das, was im aktuellen Prompt steht. Es erinnert sich nicht an frühere Konversationen. Was fehlt, ist ein Gedächtnis.
Ein Jahr ist schon wieder vergangen, seitdem Steve Jobs am 5. Oktober 2011 seinem langjährigen Krebsleiden erlag. Nur wenige Wochen davor hat Steve Jobs bekannt gegeben, seine Aufgaben bei Apple nicht mehr wahrnehmen zu können. Apples Erfolg scheint dies seitdem keinen Abbruch getan zu haben, denn auch das iPhone 5 verkauft sich wieder einmal wie geschnitten Brot. Doch auch bei der Entwicklung des aktuellen iPhone hat Steve Jobs noch persönlich mitgewirkt. Zeit für eine kleine Timeline in Form einer Fotoserie vormals aktueller mobiler Apple-Geräte, die der Apple-CEO seit seiner Wiederkehr zu Apple aus der Taufe gehoben hat.
Seit etwa einem Jahr betreibe ich mein Wi-Fi-Netzwerk mit einer FRITZ!Box Fon WLAN, was bisher unter Mac OS X 10.6 Snow Leopard absolut problemlos funktioniert hat. Seitdem ich vor Kurzem auf einen neuen iMac mit OS X Lion gewechselt bin, wurde das WLAN extrem instabil. Der iMac mit dem neuen Apple-Betriebssystem verlor in unregelmäßigen Abständen das drahtlose Netzwerk und konnte nicht mehr auf das Internet zugreifen. Rein äußerlich war der WLAN-Abbruch nicht zu bemerken – das Wi-Fi-Symbol in der Menüleiste blieb unverändert auf vollem Ausschlag, trotzdem war der Zugriff auf das Internet nicht mehr möglich. Kurzfristig ließ sich Abhilfe schaffen, indem man Wi-Fi deaktivierte und daraufhin wieder aktivierte – bis zum nächsten Abbruch der WLAN-Verbindung. Merkwürdigerweise hat sich dieses Phänomen sogar auf mein iPad ausgedehnt – auch dieses verlor in unregelmäßigen Abständen die WLAN-Verbindung. Wie sich dieses Problem in Verbindung mit einer FRITZ!Box Fon WLAN dauerhaft lösen läßt, beschreibe ich im folgenden.