Atualmente, quem trabalha com intelig\u00eancia artificial pensa frequentemente no ChatGPT ou em servi\u00e7os online semelhantes. Escreve-se uma pergunta, espera-se alguns segundos - e recebe-se uma resposta como se estivesse do outro lado da linha um interlocutor paciente e muito culto. Mas o que \u00e9 facilmente esquecido: Cada entrada, cada frase, cada palavra viaja atrav\u00e9s da Internet para servidores externos. \u00c9 a\u00ed que o trabalho real \u00e9 feito - em computadores enormes que nunca chegamos a ver.<\/p>\n
Em princ\u00edpio, um modelo de l\u00edngua local funciona exatamente da mesma forma - mas sem a Internet. O modelo \u00e9 armazenado como um ficheiro no pr\u00f3prio computador do utilizador, \u00e9 carregado na mem\u00f3ria de trabalho no arranque e responde a perguntas diretamente no dispositivo. A tecnologia subjacente \u00e9 a mesma: uma rede neuronal que compreende a linguagem, gera textos e reconhece padr\u00f5es. A \u00fanica diferen\u00e7a \u00e9 que todo o c\u00e1lculo \u00e9 efectuado internamente. Pode dizer-se: ChatGPT sem a nuvem.<\/p>\n
O que \u00e9 especial neste caso \u00e9 o facto de a tecnologia se ter desenvolvido a tal ponto que j\u00e1 n\u00e3o depende de grandes centros de dados. Os computadores Apple modernos com processadores M (como o M3 ou M4) t\u00eam uma enorme capacidade de computa\u00e7\u00e3o, liga\u00e7\u00f5es de mem\u00f3ria r\u00e1pidas e um motor neural especializado para aprendizagem autom\u00e1tica. Como resultado, muitos modelos podem agora ser operados diretamente num Mac Mini ou Mac Studio - sem um parque de servidores, sem uma configura\u00e7\u00e3o complicada e sem qualquer ru\u00eddo significativo.<\/p>\n