Ka\u017cdy, kto pracuje dzi\u015b ze sztuczn\u0105 inteligencj\u0105, cz\u0119sto najpierw my\u015bli o ChatGPT lub podobnych us\u0142ugach online. Wpisujesz pytanie, czekasz kilka sekund - i otrzymujesz odpowied\u017a tak, jakby na drugim ko\u0144cu linii siedzia\u0142 bardzo oczytany, cierpliwy rozm\u00f3wca. Ale o czym \u0142atwo zapomnie\u0107: Ka\u017cde wej\u015bcie, ka\u017cde zdanie, ka\u017cde s\u0142owo jest wysy\u0142ane do zewn\u0119trznych serwer\u00f3w przez Internet. To tam wykonywana jest w\u0142a\u015bciwa praca - na ogromnych komputerach, kt\u00f3rych nigdy nie mo\u017cna zobaczy\u0107.<\/p>\n
Zasadniczo lokalny model j\u0119zykowy dzia\u0142a dok\u0142adnie w ten sam spos\u00f3b - ale bez Internetu. Model jest przechowywany jako plik na komputerze u\u017cytkownika, jest \u0142adowany do pami\u0119ci roboczej podczas uruchamiania i odpowiada na pytania bezpo\u015brednio na urz\u0105dzeniu. Technologia stoj\u0105ca za nim jest taka sama: sie\u0107 neuronowa, kt\u00f3ra rozumie j\u0119zyk, generuje teksty i rozpoznaje wzorce. Jedyna r\u00f3\u017cnica polega na tym, \u017ce ca\u0142o\u015b\u0107 oblicze\u0144 pozostaje w firmie. Mo\u017cna powiedzie\u0107: ChatGPT bez chmury.<\/p>\n
Szczeg\u00f3lne jest to, \u017ce technologia ta rozwin\u0119\u0142a si\u0119 do tego stopnia, \u017ce nie wymaga ju\u017c ogromnych centr\u00f3w danych. Nowoczesne komputery Apple z procesorami M (takimi jak M3 lub M4) dysponuj\u0105 ogromn\u0105 moc\u0105 obliczeniow\u0105, szybkimi po\u0142\u0105czeniami pami\u0119ci i wyspecjalizowanym silnikiem neuronowym do uczenia maszynowego. Oznacza to, \u017ce wiele modeli mo\u017ce by\u0107 teraz obs\u0142ugiwanych bezpo\u015brednio na komputerach Mac Mini lub Mac Studio - bez farmy serwer\u00f3w, bez skomplikowanej konfiguracji i bez znacznego rozwoju ha\u0142asu.<\/p>\n