AI Studio 2025: Hangi donanım gerçekten buna değer - Mac Studio'dan RTX 3090'a

Bugün yapay zeka ile çalışan herkes neredeyse otomatik olarak buluta itiliyor: OpenAI, Microsoft, Google, herhangi bir web kullanıcı arayüzü, belirteçler, limitler, şartlar ve koşullar. Bu modern gibi görünse de aslında bağımlılığa bir geri dönüştür: hangi modelleri, ne sıklıkta, hangi filtrelerle ve ne pahasına kullanabileceğinizi başkaları belirler. Ben kasıtlı olarak diğer yöne gidiyorum: Şu anda evde kendi küçük yapay zeka stüdyomu kuruyorum. Kendi donanımım, kendi modellerim ve kendi iş akışlarımla.

Hedefim açık: yerel metin yapay zekası, yerel görüntü yapay zekası, kendi modellerimi öğrenmek (LoRA, ince ayar) ve tüm bunları bir serbest çalışan ve daha sonra bir KOBİ müşterisi olarak bir bulut sağlayıcısının günlük kaprislerine bağımlı olmayacak şekilde yapmak. Bunun eskiden oldukça normal olan eski bir tutuma geri dönüş olduğunu söyleyebilirsiniz: „Önemli şeyleri kendin yap“. Ancak bu kez söz konusu olan kendi çalışma tezgahınız değil, bilgi işlem gücü ve veri egemenliği.

---

---

Hız yerel olarak rakipsiz kalmaya devam ediyor

Bulut modelleri etkileyicidir - hat açık olduğu, sunucular aşırı yüklenmediği ve API tekrar yavaşlatılmadığı sürece. Ancak yapay zeka ile ciddi şekilde çalışan herkes, hızın en dürüst biçiminin yerel olduğunu çabucak fark eder. Eğer bir model kendi Mac Studio'nuzda ya da kendi GPU'nuzda çalışıyorsa, o zaman doğrudur:

• Ağ gecikmesi yok
• „Diğerleri“ hazır olana kadar beklemek yok
• Saatlik iptal yok
• İş akışının ortasında „Hız sınırına ulaşıldı“ uyarısı yok

Bunu her gün yaşıyorum: evimde Mac Stüdyo 120B model (GPT-OSS) ve 27B Gemma modelini paralel olarak çalıştırıyor - artı FileMaker sunucu ve tüm veritabanlarım. Buna rağmen sistem o kadar duyarlı ki bulut sistemleriyle ulaşılması neredeyse imkansız bir hızda çalışabiliyorum. Özellikle de arka arkaya çok sayıda küçük işlem yaptığınızda - çeviriler, yeniden formülasyonlar, analizler, görüntü istemleri - gecikmeler hızla artıyor. Yerel yapay zeka „sunucu işlemi“ gibi değil, doğrudan bir araç gibi hissettiriyor: basıyorsunuz, gerçekleşiyor.

Veri egemenliği: hassas bilgiler çevrimiçi ortama ait olmadığında

Genellikle bir kenara itilen, ancak girişimciler için çok önemli olan bir nokta: veri. Bulut yapay zekasını kullanır kullanmaz, kaçınılmaz olarak kendinize sorular sorarsınız:

• Müşteri verilerini oraya girebilir miyim?
• Dahili belgelere ne olur?
• Kayıtlar ne kadar süreyle saklanır?
• Teorik olarak kimin erişimi var - bugün ve iki yıl sonra?
• Bir sızıntının ne gibi yasal sonuçları olabilir?

Elbette büyük sağlayıcıların veri koruma vaatleri var. Ancak günün sonunda içeriğinizi teslim etmiş oluyorsunuz. Ve geçmişte kendi şirketinizde kaçınmak istediğiniz şey de tam olarak buydu: Şirket içi işler şirket içinde kalıyordu. Yerel bir yapay zeka stüdyosunda durum farklıdır:

• Veriler kendi ağınızda kalır.
• Evden hiçbir istek çıkmayacak.
• Modeller internet erişimi olmadan çalışır.
• Günlükler, eğitim verileri ve ara sonuçlar kendi disklerinizde saklanır.

Gelecekte kitaplarımı, makalelerimi, notlarımı, PR metinlerimi, şirket içi strateji belgelerimi veya müşteri verilerimi yapay zekamda çalıştırdığımda, bunların hiçbirinin başka birinin eğitim setinde yer almadığından emin olmak istiyorum. Bu güveni ancak altyapı bana aitse sağlayabilirim.

Sürünen abonelikler yerine maliyet kontrolü

Bulut YZ'ler ilk bakışta ucuz görünüyor: 1.000 token başına birkaç sent, burada aylık bir abonelik, orada küçük bir tarife. Sorun şu ki, maliyetler başarınızla birlikte artıyor. Ne kadar üretken olursanız, altyapı o kadar pahalı hale gelir - her ay. Yerel yapay zeka farklı çalışır:

• Donanıma bir kez yatırım yaparsınız.
• Ardından modelleri istediğiniz kadar ve istediğiniz sıklıkta çalıştırın.
• „Sipariş veren parmak titremiyor“ çünkü her arama paraya mal oluyor.
• Her girdiyi hesaplamak zorunda kalmadan daha özgürce deney yapabilirsiniz.

RTX 3090'ımı ikinci el olarak yaklaşık 750 Euro'ya aldım - neredeyse yeni kadar iyi. Mac Studio'mu 128 GB RAM ile yaklaşık 2.750 Euro'ya, orijinal ambalajında ve hiç açılmamış olarak aldım. Bu para, evet - ama:

• Bu makineler uzun yıllar benimle birlikte olacak.
• Doğrudan kullanılabilir varlıklar yaratırsınız: kitaplar, makaleler, görüntüler, LoRA'lar, iş akışları.
• Elektrik dışında herhangi bir ek aylık maliyete neden olmazlar.

Bir yayıncı, bir danışman, bir geliştirici veya küçük bir şirket için bu, „Bunu karşılayıp karşılayamayacağımızı hesaplamamız gerekiyor“ ile „Yapay zekayı sadece ihtiyacımız olduğunda kullanacağız“ arasındaki fark olabilir.

Eski erdemler, yeni faydalar: Kendi makinelerinize sahip olmak neden yeniden değerli

Geçmişte, bir zanaatkarın kendi atölyesinde iyi aletlere sahip olması doğal kabul edilirdi. Düzgün bir tezgahı ve testereleri olmayan bir doğrama atölyesi düşünülemezdi. Bugün ise tam tersine alıştık: kendi makinelerimize sahip olmak yerine hizmet kiralıyoruz. Şirket içi bir AI stüdyosu, temelde klasik atölyenin modern bir versiyonundan başka bir şey değildir:

• Bu Mac Stüdyo dil modelleri için merkezi bir motordur.
• Bu RTX grafik kartı görüntüler ve eğitim için freze makinesidir.
• A Ek bilgisayar (örn. Mac mini) ses veya küçük modeller gibi özel görevleri yerine getirir.
• FileMaker gibi yazılımlar bir kontrol paneli görevi görür: düzenler, kaydeder ve belgeler.

Böyle bir kurulum yapıyorum çünkü uzun vadede her şeyi kendim yapabilmek istiyorum:

• Kitap yazmak ve çevirmek,
• Görüntü serileri oluşturun,
• kendi LoRA modellerinizi eğitin,
• İş akışlarını otomatikleştirin,
• ve daha sonra tamamen yerel olarak çalışabilen müşteri çözümleri de sunmaktadır.

Bu bir nostalji değil, ölçülü bir karardır: YZ günlük yaşama ne kadar derinlemesine müdahale ederse, teknoloji üzerindeki kontrolü elde tutmak o kadar mantıklıdır. Yerel YZ, süslü buluta karşı „hobici bir alternatif“ değil, bağımsızlığa bilinçli bir geri dönüştür:

• Hız kazanıyorsun.
• Verileriniz sizde kalsın.
• Maliyetlerinizi siz kontrol edersiniz.
• Size ait olan bir altyapı inşa ediyorsunuz.

Bunu sonuna kadar düşünürseniz, evdeki bir yapay zeka stüdyosu giderek klasik, iyi donanımlı bir atölyeye benziyor: Başkalarının arka planda bir yerlerde yaptıklarına güvenmiyorsunuz, kendi sağlam temelinizi oluşturuyorsunuz.

---

Yerel yapay zeka sistemleri üzerine güncel araştırma

---

Modern bir yapay zeka stüdyosunun üç temel direği

Günümüzde bir yapay zeka stüdyosu artık her şeyi yapan „büyük bir bilgisayardan“ oluşmuyor. Modern iş akışları farklı güçlere ihtiyaç duyar: metinler için bilgi işlem gücü, görüntüler ve eğitim çalışmaları için çok sayıda VRAM ve yan işleri üstlenen daha küçük sistemler. Sonuç, kaotik bir cihaz filosu değil, iyi düşünülmüş küçük bir altyapıdır - geçmişte her makinenin amacını yerine getirdiği iyi donanımlı bir atölye gibi.

Ben de stüdyomu tam olarak bu ilkeye göre inşa ediyorum. Ve bu konuyu ne kadar derinlemesine araştırırsam o kadar netleşiyor: Tam bir yapay zeka üretimini yerel olarak yürütmek için üç sütun yeterlidir.

Sütun 1: Dil modelleri (LLM'ler) için hesaplama çekirdeği

Günümüzde büyük dil modelleri artık bir veri merkezi sunucusuna değil, her şeyden önce tek bir şeye ihtiyaç duyuyor: çok hızlı RAM. Modern Apple-Silicon sistemleri ya da çok sayıda RAM'e sahip benzer donanımlı Linux makineleri tam olarak bunu yapabiliyor. Bilgi işlem çekirdeği stüdyonun merkezidir. Çalıştığı yer burasıdır:

• Büyük LLM'ler (20B, 30B, 70B, 120B MoE ...)
• Analiz modelleri
• Çeviri modelleri
• Dahili Bilgi sistemleri (neo4j, RAG)
• aynı zamanda uzun vadeli Yapay zeka destekli bellek
• Kontrol sistemleri n8n gibi
• FileMaker-Otomasyon ve sunucu süreçleri

Benim kurulumumda 128 GB RAM'li Mac Studio M1 Ultra bu rolü üstleniyor. Ve bunu inanılmaz derecede iyi yapıyor. Üzerinde çalışıyorum:

• GPT-OSS 120B MoE (derin düşünme, uzun metinler ve analizler için)
• Gemma-3 27B (FileMaker işleri, kod, hassas yapılandırma gibi teknik işler için)
• FileMaker Sunucu + veritabanları
• artı tüm kabuk ve web sunucusu altyapısı

İnanılmaz olan şey, aynı anda iki büyük modelle bile 10-15 GB RAM'in boş kalmasıdır. Bu, tamamen birleşik bellek için tasarlanmış bir mimarinin avantajıdır. Özetle söylemek gerekirse: bilgi işlem çekirdeği yapay zeka stüdyosunun beynidir. Metni anlayan, üreten veya dönüştüren her şey burada gerçekleşir.

Sütun 2: Görüntü yapay zekası ve eğitim çalışmaları için GPU sistemi

İkinci ayak ise Stable Diffusion, ComfyUI, ControlNet ve LoRA eğitimi için optimize edilmiş bir GPU iş istasyonudur. Metin modelleri öncelikle RAM gerektirirken, görüntü yapay zekası VRAM'e ihtiyaç duyar. Hem de çok fazla. Neden mi? Çünkü görüntü modelleri kare başına bellekten devasa miktarda veri geçirir. Grafik kartları da bunun için üretilmiştir. Stüdyomda bu işi 24 GB VRAM'e sahip bir NVIDIA RTX 3090 yapıyor ve bu 24 GB altın değerinde. İzin veriyorlar:

• Makul parti büyüklüğü ile SDXL
• ComfyUI iş akışları
• Video sentezi
• Resim serisi
• Malzeme ve stil eğitimi
• 896×896 veya hatta 1024×1024 ile LoRA eğitimi

Görüntü yapay zekası için VRAM, en yeni çipten daha önemlidir. Sağlam bir 3090 bugün 2025„in pahalı orta sınıf kartlarından daha fazlasını yapabilir. Bu nedenle GPU sütunu stüdyodaki “ağır ekipman "dır - işlem yükü anlamına gelen her şeyi kesip biçen freze makinesi. O olmadan ciddi görüntü üretimi pek mümkün değildir.

Sütun 3: Ses, ses ve ikincil modeller için ikinci bir sistem

Üçüncü sütun göze çarpmıyor gibi görünebilir, ancak çok önemlidir: ikincil işleri üstlenen daha küçük, enerji tasarruflu bir sistem. Bunlar şunları içerir:

• TTS (Metinden Sese)
• STT (transkripsiyon)
• daha küçük modeller (4B, 7B, 8B, 14B)
• statik Arka plan süreçleri
• küçük Temsilci sistemleri
• Araçlar, ana sistemden ayrı olarak çalıştırmak istediğiniz

32 GB RAM'li küçük bir Mac mini M4 kullanıyorum. Mükemmel bir şekilde uygun:

• Fısıltı-Transkripsiyon
• Ses-modeller
• ışık Optimizasyon modelleri
• hızlı tepki veren Asistanlar
• Deneyler ve Test çalışmaları
• paralel Model konteyner

Bu, ana sistemi büyük ölçüde rahatlatır. Sonuçta, her küçük iş için büyük modeller yüklememek mantıklıdır. Tıpkı geçmişte atölyedeki her kesim için büyük daire testereyi çalıştırmadığınız, bunun yerine küçük bir makine kullandığınız gibi. Üçüncü sütun, organizasyonu ve istikrarı sağlar.
Büyük modelleri küçük görevlerden ayırır - ve bu da tüm stüdyoyu dayanıklı, esnek ve arızaya karşı güvenli hale getirir.

İş yüklerinin akıllı dağıtımı

Bir yapay zeka stüdyosu, her makinenin ne için üretildiyse onu yapması gerçeğinden hareket eder. Bu da mantıklı bir düzenle sonuçlanır:

• Hesaplama çekirdeği → Düşünme, yazma, tercüme etme, analiz etme
• GPU sistemi → Görüntüler, eğitim modelleri, ComfyUI, video
• Alt Sistem → Ses, ses, küçük modeller, aracılar

Merkezi kontrol sistemim olarak FileMaker gibi ek yazılımlar eklendiğinde gerçek bir üretim hattı oluşturulur. Artık kaos yok, „bakalım nerede yer var“ yok, her gün istikrarlı bir şekilde çalışan düzenli bir sistem var.

Üç sütun temeldir - serbest stil değil

Pek çok kişi bir YZ stüdyosuna yalnızca bir „YZ şirketi“ olduğunuzda ihtiyacınız olduğuna inanır. Gerçekte ise bunun tam tersi doğrudur: sağlam bir yapay zeka stüdyosu, bir yapay zeka şirketi olmanın temelidir. Bu üç sütun ile ihtiyacınız olan her şeye sahip olursunuz:

• İçerik üretin (metin ve görüntü)
• Kendi modellerinizi öğretin
• İş akışlarını otomatikleştirin
• Buluttan bağımsız olarak çalışın
• müşteriler için kendi çözümlerini geliştirmek
• dijital „çalışma tezgahlarını“ uzun vadede işletmek

Girişimciler, kreatifler, kendi kendine yayın yapanlar ve geliştiriciler için bu artık uzun vadede özgürlük, hız ve kontrol sağlayan stratejik bir karar.

Küçük bir yapay zeka stüdyosu için makul giriş seviyesi donanım

Bugün reklamları izlerseniz, yapay zeka ile yerel olarak çalışabilmek için en yeni donanımı satın almaya devam etmeniz gerektiğini düşünebilirsiniz. Ancak durum genellikle bunun tam tersidir: belirleyici olan en yeni modeller değil, RAM, VRAM ve kararlılığın doğru kombinasyonudur. Birçok eski cihaz - özellikle GPU sektöründe - artık gerçek birer fiyat-performans canavarı. Ve kutunun dışında düşünmeye hazırsanız, kendinizi finansal olarak fazla zorlamadan küçük bir şirketin hakkını veren bir yapay zeka stüdyosu kurabilirsiniz. Şu anda benim yaptığım da tam olarak bu ve şaşırtıcı derecede iyi çalışıyor. Bu bölüm size üç donanım sınıfını gösteriyor: Başlangıç, Standart ve Profesyonel. Ve tabii ki bazı eski sistemlerin bugün neden düşündüğünüzden daha değerli olduğunu da açıklıyorum.

1. giriş seviyesi sınıfı (1500-2500 €)

Büyük yatırımlar yapmadan yerel olarak başlamak isteyenler için. Bu ders tamamen ilk sağlam adımlarınızı atmakla ilgilidir:

• Mac mini M2 veya M4 16-32 GB RAM ile
• ya da RTX 3060/3070 ile PC (12-16 GB VRAM)
• artı isteğe bağlı olarak küçük bir NAS veya harici SSD

Bu iyi bir yoldur:

• 7B ila 14B modellerinin çalıştırılması
• Yerel çevirileri gerçekleştirin
• Koş Fısıltı
• SD 1.5/2.1 gibi daha küçük görüntü modelleri kullanın
• ComfyUI'yi indirgenmiş haliyle deneyin
• Kendi aracılarınızı veya iş akışlarınızı test edin

Birçok yaratıcı veya serbest meslek sahibi için bu, üretken olmak için fazlasıyla yeterli. Önemli olan, işe başlamayı fazla karmaşıklaştırmamaktır. En büyük tehlike çok az güce sahip olmak değil, çok fazla teknik ayrıntıya boğulmaktır. Örneğin bir Mac mini M4 ile inanılmaz miktarda iş yapabilirsiniz: Çeviriler, araştırma, yapı, hatta daha küçük yazı modelleri - ve minimum güç tüketimiyle.

2. standart sınıf (2500-4000 €)

Metinler ve görüntülerle ciddi çalışmalar için en uygun nokta. İşte benim “gerçek yapay zeka stüdyosu“ dediğim yer burası: hem büyük metin modellerini hem de katı görüntü modellerini işleyebilen bir kurulum. Tipik bir kombinasyon:

• Mac Stüdyo 64 GB RAM ile M1 Ultra veya M2 Max
• PC/GPU iş istasyonu RTX 3080, 3090 veya 3090 Ti ile
• isteğe bağlı olarak küçük bir Ek bilgisayar ses veya ses için

Bu sınıf ile şunları yapabilirsiniz:

• 20-40B modellerini güvenilir şekilde sürün
• İyi kalitede Stable Diffusion XL kullanın
• Orta veri seti aralığında LoRA eğitimi gerçekleştirin
• Paralel iş yüklerini birden fazla cihaza dağıtın
• Otomasyonların ayarlanması (örn. FileMaker aracılığıyla)

Bu da ilginç bir gerçeği ortaya çıkarıyor: RTX 3090 gibi eski GPU'lar hala birçok yeni orta sınıf kartı paramparça ediyor. Neden mi? Yeni kartlar genellikle kısırlaştırılmışken, daha fazla VRAM'e (24 GB) sahipler. Geniş yayılım modelleri için ideal olan geniş bir bellek arayüzüne sahipler. Olgun ve kararlı CUDA sürücülerine sahipler. Genellikle inanılmaz fiyatlara kullanılmış olarak satılırlar. Kullanılmış bir 3090, 700-900 €'ya mevcut bir 4070 veya 4070 Ti'den 1100 €'ya daha fazlasını yapabilir - çünkü VRAM ve bellek bağlantısı, ham performansın yüzde birkaçından daha önemlidir.

3. profesyonel sınıf (4000-8000 €)

Üretim konusunda ciddi olan ve tam bağımsızlık için çabalayan herkes için. Gerçek üretim gücü bu sınıfta mevcuttur. Tipik kurulum:

• Mac Stüdyo 128 GB RAM veya daha fazlasına sahip M1 / M2 / M3 Ultra
• PC-GPU sistemi RTX 3090 veya 4090 ile
• a ikinci bilgisayar ses/ajanlar için
• Otomasyon merkezi olarak isteğe bağlı FileMaker sunucu

Bu size şunları sağlar:

• 70B modellerini akıcı bir şekilde kullanın
• GPT-OSS 120B gibi MoE modellerinin kararlı çalışması
• Paralel yapay zeka ajanlarını koordine edin
• SDXL, video AI, ComfyUI tam kapasiteyle çalışıyor
• LoRA eğitimlerini 896×896 veya 1024×1024 ile çalıştırın
• Eğitim için kendi veritabanlarınızı hazırlayın
• Tam boru hatlarını haritalayın (istemler → resimler → PDF'ler → kitaplar)

Ve en heyecan verici şeyi de burada görebilirsiniz: 2025'teki en iyi yapay zeka donanımı genellikle 2020-2022'deki birinci sınıf donanımlar tarafından kullanılıyor. O zamanlar üst düzey iş yükleri için geliştirilmişti. Bugünkü fiyatın çok altında. Teknoloji olgunlaşmış durumda. Beta sürücü sorunu yok. Tam olarak YZ'nin ihtiyaç duyduğu özelliklere sahip: çok sayıda VRAM, geniş bellek veri yolları, kararlı tensör çekirdekleri.

Neden çok az GPU gücü ile değil de çok az VRAM ile başarısız oluyorsunuz?

Bu, birçok kişinin hafife aldığı bir noktadır: VRAM, görüntü yapay zekası için belirleyici faktördür, saf performans değil. Örnekler:

• Bir RTX 4060 (8 GB VRAM) SDXL için pratik olarak kullanılamaz.
• Bir RTX 4070 Ti (12 GB VRAM) eğitim için sadece güvenilmez bir şekilde yeterlidir.
• Bir RTX 3090 (24 GB VRAM) ise yıllarca sorunsuz çalışır.

Kısacası: büyük modellerin belleğe ihtiyacı vardır - pazarlamaya değil. Ve bellek, eski üst düzey kartların sahip olduğu ve yeni orta sınıf kartların sahip olmadığı şeydir.

Bir yapay zeka stüdyosu modüler olarak nasıl genişletilir?

Üç sütunlu bir stüdyonun en büyük avantajı modüler olmasıdır:

• GPU iş istasyonu bağımsız olarak yükseltilebilir.
• Mac Studio'yu yıllarca saklayabilirsiniz.
• Sistemi bozmadan bağımlı bilgisayarı değiştirebilirsiniz.
• Sabit sürücüleri veya SSD'leri ayrı ayrı genişletebilirsiniz.
• Orkestrasyon olarak FileMaker, Python veya Bash kullanabilirsiniz.

Bir atölye gibi: Her şeyi aynı anda yeniden inşa etmezsiniz, sadece o anda ihtiyaç duyulan şeyleri yaparsınız.

Yerel yapay zeka artık GERÇEKTEN kullanılabilir (ve bu donanım üzerinde çalışıyor) | c't 3003

2025 için Öneriler - Bu donanım gerçekten değerli

Reklamlar ve teknik özellikler ormanında izi kaybetmek kolaydır. Ancak evde veya küçük stüdyoda yapay zeka kullanımı için, 2025 yılında özellikle yararlı olacak donanım sınıfları var - çünkü iyi bir fiyat-performans oranı sunuyorlar, sağlamlar ve mevcut modeller için yeterli. Bugün önemli olan:

• Yeterli VRAM (GPU görevleri için): Görüntü yapay zekası, eğitim çalışmaları, kararlı difüzyon vb. için bir grafik kartı en az 16 GB, tercihen 24 GB VRAM'e sahip olmalıdır. Bu eşiğin üzerinde, görüntü yapay zekası rahat ve kararlı hale gelir.
• İyi çalışma belleği ve RAM kapasitesi (LLM'ler için): Büyük LLM'ler, sunucu hizmetleri ve paralel işlemlerle çoklu görevler için mümkün olduğunca fazla RAM'e sahip olmak mantıklıdır - ideal olarak Apple-Silicon için 64-128 GB.
• En yeni pazarlama ürünleri yerine istikrarlı, kanıtlanmış donanımÖzellikle eski üst düzey kartlar genellikle makul bir fiyata mükemmel özelliklere (VRAM, bellek veri yolu, sürücü olgunluğu) sahiptir.
• Monoblok yerine modülerlik ve karıştırmaLLM bilgisayarı, GPU iş istasyonu ve ikincil/aracı sistem kombinasyonu, tek bir „hepsi bir arada“ makineden daha esnek ve dayanıklıdır.

Kullanılmış ve eski üst düzey GPU'lar neden günümüzde yeni orta sınıf kartlardan daha iyidir?

Birçok yeni kart sınırlı VRAM ile sunulmaktadır - ancak bu AI için çok önemlidir. RTX 3090 gibi eski üst düzey modeller genellikle 24 GB VRAM sunar ve bu da günümüzde SDXL, LoRA eğitimi veya video yapay zekası için çok değerlidir. Donanım başlangıçta yüksek kaliteli bileşenler, bellek veri yolu, soğutma ve iyi sürücü desteği ile performans ve kararlılık için tasarlanmıştır.

Bu şu anlama gelir: dayanıklılık ve sağlam performans genellikle mevcuttur. Kullanılmış kartlar genellikle önemli ölçüde daha ucuzdur ve bu nedenle çok uygun fiyatlıdır - sınırlı bütçeye sahip serbest çalışanlar veya küçük stüdyolar için idealdir.

2025 için şu anki tavsiyem (ve neden)

Bugün bir stüdyo inşa ediyor olsaydım ve maksimum süper bilgisayar gücünü hedeflemeseydim, karar verirdim:

• Görüntü yapay zekası içinEn az bir adet 24 GB VRAM'li GPU - örneğin RTX 3090 veya 4090.
• Metin/LLM içinGüçlü bir Apple-Silicon sisteminde 128 GB RAM.
• Yarı zamanlı işler için (ses, ses, küçük modeller, otomasyon): küçük, ayrı bir bilgisayar (örneğin mini PC veya ucuz sunucu).
• Koordinasyon için: bir yazılım katmanı - benim için bu FileMaker, diğerleri için basit bir kabuk veya Python boru hattı olabilir.

Bu kurulum aşırı değildir, pahalı bulut lisanslarına bağımlı değildir ve 2025 yılında yaratıcı, yayıncılık veya geliştirme sektöründe yapay zeka ile yapılabilecek neredeyse her şey için yeterlidir.

Yapay zeka için donanımın yeni olması gerekmez, ancak uygun olması gerekir

Bugün, „yapay zeka “nın yalnızca büyük şirketler veya bulut laboratuvarları için bir şey olduğu dönem sona eriyor. 2025 yılına kadar, yönetilebilir bir bütçeye ve biraz teknik bilgiye sahip olan hemen herkes kendi küçük YZ stüdyosunu kurabilir. Bu sizi pahalı aylık aboneliklerden, üçüncü taraf veri koruma koşullarından, kuyruklardan, sunucu darboğazlarından ve bulut hizmetlerinin ne kadar süre var olmaya devam edeceğinin belirsizliğinden bağımsız hale getirir. Bunun yerine, şunları elde edersiniz:

• Tam kontrol verileriniz ve iş akışlarınız hakkında,
• istikrarlı, hızlı ve Ölçeklenebilir performans,
• bir Sürdürülebilir yatırım, yıllarca sürecek,
• ve Özgürlük, Dış sınırlamalar olmaksızın istediğiniz zaman ve istediğiniz şekilde yaratıcı olmak.

Dolayısıyla, kitaplarınız, metinleriniz, resimleriniz veya projeleriniz için yapay zeka kullanmayı düşünüyorsanız, kendi stüdyonuzu kurmak her zamankinden daha faydalı olacaktır. Donanım mühendisi olmanıza gerek yok. Büyük bir bütçeye ihtiyacınız yok. En yeni donanıma ihtiyacınız yok.

Her şeyden önce, üzerinde çalıştığınız hedef hakkında net bir fikre ve kendi süreçleriniz üzerinde kontrolü elinizde tutma isteğine ihtiyacınız var.

Mac installier üzerinde Ollama ile yerel bir LLM'yi nasıl kuracağınızı göstereceğim bu makale.

Burada aşağıdakilerin bir karşılaştırmasını bulacaksınız NVIDIA'ya karşı Silicon üzerinde Apple MLX.

Nasıl çalışılır Qdrant yerel bir bellek yerel yapay zekanız için buradan ulaşabilirsiniz.

---

---

Sıkça sorulan sorular

1. Bu kadar çok bulut sağlayıcısı varken neden kendi yapay zeka stüdyonuza sahip olmaya değer?
   Kendi yapay zeka stüdyonuza sahip olmak sizi daha bağımsız, daha istikrarlı ve uzun vadede daha ucuz hale getirir. Bulut hizmetleri kullanışlıdır, ancak her ay paraya mal olurlar, bağımlılık yaratırlar ve genellikle kullanım kısıtlamalarıyla sınırlıdırlar. Yerel yapay zeka hızlıdır, sürekli olarak kullanılabilir ve değişken maliyetler olmadan kullanılabilir. Ayrıca, tüm veriler şirket içinde kalır - serbest meslek sahipleri, şirketler, yayıncılar veya yaratıcı meslekler için büyük bir avantaj.
2. AI ile yerel olarak başlamak için minimum hangi donanıma ihtiyacım var?
   Başlamak için 16-32 GB RAM'e sahip bir Mac mini veya en az 12 GB VRAM'e sahip bir GPU'ya sahip bir PC yeterlidir. Bu, küçük dil modellerini, hafif görüntü modellerini ve ilk otomasyonları çalıştırmanıza olanak tanır. Sadece denemek istiyorsanız, birkaç bin avro yatırım yapmak zorunda değilsiniz.
3. Gerçekten bir Mac Studio'ya ihtiyacım var mı yoksa daha mı ucuz?
   Kesinlikle daha ucuz. Büyük dil modellerini (20-120B) çalıştırmak istiyorsanız, çok sayıda paralel çalışıyorsanız veya uzun vadeli üretim süreçleriniz varsa bir Mac Studio faydalı olacaktır. İlk adımlarınız için bir Mac mini veya sağlam bir Windows PC mükemmel bir şekilde yeterlidir. Bir stüdyo, rahatlık ve gelecek için bir yatırımdır, ancak bir zorunluluk değildir.
4. VRAM görüntü yapay zekası için neden modern bir grafik kartı neslinden daha önemli?
   Çünkü Kararlı Difüzyon gibi görüntü modelleri bellekten çok büyük miktarda veri geçirir. VRAM yeterli değilse, işlem durur veya son derece yavaşlar. RTX 3090 gibi 24 GB VRAM'e sahip eski bir kart, büyük modeller ve eğitim çalışmaları için daha fazla alan sunduğu için genellikle yalnızca 8-12 GB VRAM'e sahip yeni orta sınıf modelleri geride bırakır.
5. NVIDIA olmadan tamamen Apple donanımıyla bir AI stüdyosu çalıştırabilir miyim?
   Dil modelleri için evet. Görüntü yapay zekası için hayır. Apple-Silicon, LLM'ler için son derece verimlidir, ancak kararlı difüzyon, LoRA eğitimi ve birçok görüntü modeli için NVIDIA kartları (CUDA / Tensor çekirdekleri nedeniyle) hala referanstır. Bu nedenle birçok stüdyo görüntüler için Apple/LLM ve Linux+NVIDIA karışımını kullanmaktadır.
6. RTX 4080 veya 4070 Ti görüntü yapay zekası için de yeterli mi?
   Teorik olarak evet - pratikte kullanım amacına bağlıdır. Basit görüntüler veya küçük iş akışları için bu yeterlidir. Ancak SDXL, karmaşık ComfyUI boru hatları veya LoRA eğitimi için 12-16 GB VRAM sınırı hızla limitlerine ulaşıyor. Bu nedenle bir RTX 3090 veya 4090 uzun vadede daha mantıklıdır.
7. Dil modelleri neden GPU üzerinde değil de RAM üzerinde çalıştırılıyor?
   Dil modelleri bellek odaklıdır. RAM'de büyük miktarda metin ve bağlam tutmaları gerekir, grafik işlemleri gerçekleştirmeleri gerekmez. GPU'lar metin analizi için değil görüntü işleme için üretilmiştir. Bu nedenle LLM sistemleri çok sayıda RAM'den büyük ölçüde yararlanırken VRAM'den daha az yararlanır.
8. Bir LLM bilgisayarında ne kadar RAM olmalıdır?
   Daha küçük modeller için 32-64 GB yeterlidir. Orta ölçekli modeller (20-30B) için 64-128 GB idealdir. 70B gibi büyük modeller veya GPT-OSS 120B gibi MoE modeller için 128-192 GB RAM idealdir. Daha fazla RAM, her şeyin daha kararlı ve daha hızlı çalışmasını sağlar.
9. Bir yapay zeka stüdyosunu tamamen Linux olmadan çalıştırmak mümkün mü?
   Evet - ancak sınırlamalarla. macOS, LLM'ler için mükemmeldir, ancak görüntü yapay zekası için yalnızca Linux / NVIDIA'da bulunan bazı araçlardan yoksundur. Windows görüntü yapay zekası için iyi çalışır, ancak daha az kararlıdır ve otomatikleştirilmesi daha zordur. Bu nedenle pragmatik karışım genellikle şöyledir: macOS → LLM, Linux → görüntü yapay zekası, küçük bilgisayar → ses/komut dosyaları
10. Bunun gibi bir yapay zeka stüdyosu ne kadar gürültülü çalışıyor?
    Düşündüğünüzden daha az. Bir Mac Studio neredeyse sessizdir. Bir Linux PC soğutmaya bağlıdır - yüksek kaliteli GPU'lar düşük yük altında sessizdir, ancak eğitim çalışmaları sırasında duyulabilir hale gelebilir. Sessiz yapıları tercih ediyorsanız, su soğutmalı GPU iş istasyonlarını kullanabilirsiniz.
11. Mac mini üçüncü bileşen olarak nasıl bir rol oynuyor?
    Transkripsiyon, TTS, küçük yapay zeka modelleri, arka plan işlemleri, otomasyon ve çeviriler için ikincil işler için ikincil bir istasyon olarak hizmet vermektedir. Bu, iki büyük makineyi boş tutuyor ve istikrarlı iş akışları sağlıyor. Üçüncü bir bilgisayar kesinlikle gerekli değildir, ancak düzen ve güvenilirlik yaratır.
12. Yapay zeka stüdyomu kademeli olarak genişletebilir miyim?
    Kesinlikle. Aslında ideal durum budur. Bir LLM sistemi satın almak, ardından bir GPU iş istasyonu ve daha sonra küçük bir ikincil bilgisayar eklemek - bu, aylar veya yıllar boyunca uzatılabilecek çok doğal bir kurulumdur. Yapay zeka stüdyoları tıpkı geleneksel atölyeler gibi büyür.
13. Bir yapay zeka stüdyosu için en uygun işletim sistemleri hangileridir?
    - macOS → LLM ve Apple-Silicon modelleri için optimum
    - Linux (Ubuntu, Debian) → görüntü yapay zekası, ComfyUI, Stable Diffusion için en iyi seçim
    - Windows → SD/ComfyUI için iyi çalışır, ancak otomasyon süreçleri için daha az idealdir
    Günümüzde birçok stüdyo kombine kurulumlar kullanıyor - her sistem en uygun olduğu işi yapıyor.
14. Bir yapay zeka stüdyosu ne kadar güç tüketir?
    Bir Mac Studio inanılmaz derecede verimlidir ve genellikle 50-100 W arasındadır. RTX 3090'lı bir GPU iş istasyonu, yüke bağlı olarak 250-350 W çekebilir. Bir Mac mini ise 10-30 W civarındadır. Sonuç olarak, beklediğinizden çok daha az ve genellikle bulut aboneliklerinden daha ucuz.
15. Kendiniz bir yapay zeka stüdyosu kurmak zor mu?
    Pek sayılmaz. Biraz teknik bilgiye ihtiyacınız var ama bilgisayar bilimleri diplomasına değil. Günümüzde birçok araç web arayüzlerine, kurulum komut dosyalarına ve otomatik yapılandırmalara sahiptir. Ve sistemleri net bir şekilde ayırırsanız (LLM / GPU / yan işler), her şey net kalır.
16. Bununla gerçekten tüm yayın süreçlerini kapsayabilir miyim?
    Evet - ve bir yapay zeka stüdyosu tam da bunun için idealdir. Kitap fikirlerinden metinlere, kapak tasarımlarına, resim serilerine, düzeltmelere, çevirilere ve son baskı veya e-kitap dosyasına kadar pek çok şey otomatikleştirilebilir ve şirket içinde üretilebilir. Bu, kendi yayıncıları için muazzam bir özgürlüktür.
17. Bir yapay zeka stüdyosu bugün ne kadar geleceğe hazır?
    Hem de çok. LLM'ler daha verimli, görüntü modelleri daha modüler, donanım daha dayanıklı hale geliyor ve bulut yasaları, veri koruma ve maliyetler bulutu daha az cazip hale getirdiği için yerel YZ pazarda yeniden daha önemli hale geliyor. Bugün küçük bir yapay zeka stüdyosuna yatırım yapan herkes, 2026-2030 yıllarında eskimekten ziyade daha önemli hale gelecek bir altyapı inşa ediyor.
18. Yapay zeka modelleri daha sonra eğitilebilir veya genişletilebilir mi?
    Evet, bir GPU sistemi (örneğin RTX 3090 veya 4090) LoRA eğitimi, stil eğitimi, malzeme eğitimi ve süreç eğitimi için kullanılabilir. Bu, zaman içinde kendi „YZ görsel dilinizi“ veya „YZ metin yönünüzü“ eğitebileceğiniz anlamına gelir. Bu, bir YZ stüdyosunun en büyük stratejik avantajıdır: jenerik modellerden bağımsız hale gelir ve kendi tarzınızı yaratırsınız.

---

---