Günümüzde yapay zeka ile çalışan herkesin aklına ilk olarak ChatGPT veya benzeri çevrimiçi hizmetler geliyor. Bir soru yazıyorsunuz, birkaç saniye bekliyorsunuz - ve sanki hattın diğer ucunda çok iyi okumuş, sabırlı bir diyalog ortağı oturuyormuş gibi bir cevap alıyorsunuz. Ancak kolayca unutulan şey: Her girdi, her cümle, her kelime internet üzerinden harici sunuculara gider. Asıl iş burada yapılır - sizin asla göremeyeceğiniz devasa bilgisayarlarda.
Prensip olarak, yerel dil modeli de aynı şekilde çalışır - ancak internet olmadan. Model, kullanıcının kendi bilgisayarında bir dosya olarak saklanır, başlangıçta çalışma belleğine yüklenir ve soruları doğrudan cihaz üzerinde yanıtlar. Arkasındaki teknoloji aynı: dili anlayan, metinler üreten ve kalıpları tanıyan bir sinir ağı. Tek fark, tüm hesaplamanın şirket içinde kalmasıdır. Şöyle de diyebilirsiniz: Bulut olmadan ChatGPT.
