Apple’ın teknik verilerine göre cihazları, gelişmiş bellek kapasiteleri ve çift nöral motor mimarileri sayesinde daha yoğun yapay zeka modellerini yerel olarak çalıştırabiliyor. Mobil cihazlar arasında yer alan iPhone ve iPad modelleri, 14 milyar aktif parametreye sahip büyük dil modellerini destekleyebiliyor.
Daha yüksek bellek bant genişliğine sahip masaüstü sistemlerde ise bu kapasite önemli ölçüde artıyor. 64 gigabayt birleşik belleğe ve saniyede 307 gigabayt bant genişliğine sahip MacBook Air ve Mac mini modelleri, 70 milyara kadar aktif parametre içeren modelleri çalıştırabiliyor.
Üst segment MacBook Pro modelleri ise 120 milyar parametreye sahip yapay zeka modellerini çalıştırma kapasitesine ulaşıyor. Böylece Apple’ın dizüstü ve masaüstü ürünleri arasındaki donanım farkı, yerel yapay zeka işlemlerinde de belirgin biçimde ortaya çıkıyor.
Daha ağır iş yükleri için tasarlanan Mac Studio ailesi, gelişmiş teknik altyapısıyla trilyon parametre seviyesindeki modelleri destekliyor. Tek bir Mac Studio yapılandırması yaklaşık 500 milyar parametre sınırına yaklaşırken, birden fazla sistemin kümelenmesi bu kapasiteyi artırıyor. Dört Mac Studio’nun bir araya getirildiği ve toplam 2 terabayt birleşik bellek sunan yapılandırmada, 1,6 trilyon parametreden oluşan yapay zeka modellerini çalıştırmak teknik olarak mümkün hale geliyor.
Bu sistemlerin maliyeti de donanım kapasitesiyle birlikte yükseliyor. 36 çekirdekli merkezi işlemci, 80 çekirdekli grafik işlemci, 32 çekirdekli nöral motor ve 1 terabayt depolama alanına sahip M5 Ultra tabanlı Mac Studio modeli 10 bin 700 dolardan satışa sunuluyor.
Dört cihazlı küme yapılandırmalarında toplam maliyet katlanarak artarken, en üst düzeydeki 1 terabayt bellek gereksinimleri için sekiz cihazlı kümelere ihtiyaç duyuluyor. Apple’ın paylaştığı veriler, yerel yapay zeka performansının yalnızca cihazların işlem gücüyle değil, bellek kapasitesi ve sistemlerin birlikte çalıştırılmasıyla da belirlendiğini gösteriyor.
