Kurulum öncesi sık sorulanlar
Mac üzerinde Qwen çalıştırılabilir mi?
Apple Silicon üzerinde yerel model çalıştırmak için MLX ve Metal destekli çalışma ortamları bulunur. Firmai için kullanılacak Qwen sürümü, model biçimi, Türkçe kalitesi ve araç kullanımı seçilen cihazda doğrulanır. NVIDIA/CUDA sunucu kurulumunun bire bir kopyası olarak kabul edilmez.
Bütün veriler ve işlemler çevrimdışı mı kalır?
Yerel model ve belge işlemleri kurum içinde planlanabilir. M365/Gmail, web araması, dış mevzuat kaynakları ve hibrit model sağlayıcıları gibi bağlantılar internet veya ilgili dış servisleri gerektirebilir. Her bağlantının veri akışı kurulum kapsamına yazılır.
API gideri tamamen ortadan kalkar mı?
Yerel model çağrılarında dış model sağlayıcısına token ücreti oluşmaz. Toplam maliyet; donanım, yazılım, kurulum, işletim ve varsa seçilen dış servislerden oluşur. Tasarruf, mevcut iş yükü ve kalite ölçümleriyle hesaplanır.
KTT ve yoğun görsel işleme de bu pakete dahil mi?
KTT, hasar görselleri ve toplu belge işleme için model ve yük gereksinimleri ayrı değerlendirilir. Bu iş yükleri standart Mac mini paketine otomatik olarak dahil kabul edilmez; gerekiyorsa özel sunucu veya yönetilen GPU mimarisi önerilir.
Daha yüksek hacimde nasıl ilerleriz?
Ölçülen iş yüküne göre daha güçlü yerel altyapı ya da Bulutistan üzerinde yönetilen GPU hizmeti değerlendirilir. Altyapı kapasitesi, veri konumu ve hizmet seviyesi ayrı teklifte belirlenir.