Chi si occupa di intelligenza artificiale oggi pensa spesso a ChatGPT o a servizi online simili. Si digita una domanda, si attende qualche secondo e si riceve una risposta come se all'altro capo del filo ci fosse un interlocutore molto colto e paziente. Ma ci\u00f2 che \u00e8 facilmente dimenticabile: Ogni input, ogni frase, ogni parola viaggia via Internet verso server esterni. \u00c8 l\u00ec che si svolge il lavoro vero e proprio, su enormi computer che non si vedono mai di persona.<\/p>\n
In linea di principio, un modello linguistico locale funziona esattamente nello stesso modo, ma senza Internet. Il modello \u00e8 memorizzato come file sul computer dell'utente, viene caricato nella memoria di lavoro all'avvio e risponde alle domande direttamente sul dispositivo. La tecnologia alla base \u00e8 la stessa: una rete neurale che comprende il linguaggio, genera testi e riconosce modelli. L'unica differenza \u00e8 che l'intero calcolo rimane interno all'azienda. Si potrebbe dire: ChatGPT senza cloud.<\/p>\n
La particolarit\u00e0 \u00e8 che la tecnologia si \u00e8 sviluppata a tal punto da non dipendere pi\u00f9 da enormi centri dati. I moderni computer Apple con processori M (come M3 o M4) hanno un'enorme potenza di calcolo, connessioni di memoria veloci e un motore neurale specializzato per l'apprendimento automatico. Di conseguenza, molti modelli possono ora essere utilizzati direttamente su un Mac Mini o un Mac Studio, senza una server farm, senza una configurazione complicata e senza alcun rumore significativo.<\/p>\n