Tencent, 770 milyar parametreli Hy4 modelini açık kaynak yaptı

Tencent, 770 milyar toplam parametreye sahip büyük dil modeli Hy4 preview’u açık kaynak olarak yayımladı. Bu, bugüne kadar açık biçimde yayımlanan en büyük modellerden biri.

Modeli çalıştırmak açısından asıl önemli olan rakam ise daha küçük. Hy4, herhangi bir token için ağın yalnızca bir bölümünün devreye girdiği uzman karışımı (mixture-of-experts) mimarisini kullanıyor. Token başına yaklaşık 49 milyar parametre aktif oluyor; model 78 katmanlı bir omurgaya sahip ve bunların 77’si 256 yönlendirilmiş uzman ile bir paylaşımlı uzmandan oluşan uzman karışımı yapısını kullanıyor. Bu tasarım, modeli sunma maliyetini 770 milyar parametre rakamının çağrıştırdığının çok altında tutuyor.

Bağlam penceresi 1 milyon tokenı aşıyor. Tencent modeli üretkenlik işleri için konumlandırıyor: kodlama, ofis belgeleri, veri analizi, oyun geliştirme ve bilimsel araştırma. Şirket, eğitimde yazılım mühendisliği, oyun, finans ve güvenlik alanlarındaki kendi uzmanlarıyla birlikte üretilen verilerin kullanıldığını belirtiyor.

Performans tarafında şu ana kadar açıklanan rakamlar Tencent’in kendisinden geliyor ve bu şekilde okunmalı. Şirket içi kör değerlendirmede 163 uzman ve 203 mühendislik görevi üzerinden Hy4 preview ortalama 4,00 üzerinden 2,99 aldı; şirkete göre bu, GLM-5.3’ün 2,92 ve Kimi K3’ün 2,94 puanının az önünde. Aradaki farklar dar ve modelin bağımsız bir kıyaslaması henüz yayımlanmadı. Tencent ayrıca kendi sistemlerinde yüzde 31,8’lik verim artışı bildirdi.

Model Hugging Face üzerinde bulunuyor ve WorkBuddy, CodeBuddy, Yuanbao ile ima gibi Tencent ürünleri üzerinden erişilebiliyor; API erişimi Tencent Cloud TokenHub ve OpenRouter üzerinden sağlanıyor. API fiyatlandırması milyon girdi tokenı başına 0,834 dolar, milyon çıktı tokenı başına 2,501 dolar ve önbellek isabetlerinde milyon token başına 0,042 dolar olarak listelendi.

Tencent bunu bir önizleme olarak tanımlıyor ve Hy4 serisindeki bir sonraki model grubunun geleceğini söylüyor. Şirket, sürüme eşlik eden lisans koşullarının ayrıntısını paylaşmadı.

Şeffaflık notu: NewUJ’un editoryal süreci Anthropic’in Claude modellerini kullanıyor ve Anthropic, yapay zekâ modellerinde Tencent ile rekabet ediyor.