Quasar SN24Price $ 4.23

Quasar, genişletilmiş bağlamı işlemek için tasarlanmış bir foundation model ailesidir. Modeller, tek bir geçişte milyonlarca token işleyebilir ve tam bağlam penceresi boyunca bildirilen %99,9’luk bir geri çağırma oranına ulaşır. Bağlam uzunluğuyla karesel olarak ölçeklenen (bağlamı ikiye katlamak hesaplama maliyetini dört katına çıkarır) geleneksel transformer mimarilerinin aksine, Quasar doğrusal olarak ölçeklenen sürekli-zamanlı bir attention mekanizması kullanır. Bu hem eğitim hem de çıkarım maliyetlerini azaltır—proje, çıkarım ek yükünün geleneksel modellere kıyasla onda bir seviyesinde olduğunu bildiriyor.

Model, Bittensor Subnet 24 aracılığıyla merkeziyetsiz hesaplama altyapısı kullanılarak 2 trilyon token üzerinde eğitilmiştir; bu, madencilerin hesaplama kaynakları sağladığı ve yüksek performanslı model varyasyonları üretmek için rekabet ettiği bir ağdır. Doğrulayıcılar, 8.000 ile 2 milyon token arasındaki dizi uzunluklarında modelleri değerlendirerek geri getirme doğruluğunu ve çıkarım hızını ölçer. Quasar, open-source ağırlıklar olarak sunulmaktadır; böylece geliştiriciler, tam kod tabanı analizi, tüm kitap serileri boyunca anlatı anlayışı veya yüzlerce sayfa boyunca bağlamın korunmasının gerektiği hukuki belge incelemesi gibi uygulamalar için modeli devreye alabilir. Mimari, genişletilmiş bağlam yeteneklerine rağmen tüketici donanımı üzerinde çalışacak şekilde optimize edilmiştir.