OpenAI, en güçlü modeli GPT-5.6 Sol’un çok daha düşük gecikmeyle çalışmasını sağlayacak yeni “Ultrafast” hizmet katmanını ön izlemeye açtı. Sistem, GPT-5.6 Sol’u standart işlemeye kıyasla 14 kata kadar daha hızlı çalıştırabiliyor ve saniyede 750 token’a kadar çıktı üretebiliyor.
GPT-5.6 Sol, Daha Önce de Hızlandırılmıştı
OpenAI, GPT-5.6 ailesinin amiral gemisi modeli olan Sol için yeni Ultrafast hizmetini özellikle düşük gecikmenin, model zekâsı kadar önemli olduğu iş akışlarına yönelik geliştiriyor. Sistem, ilk aşamada OpenAI API üzerinden sunuluyor ve Cerebras’ın işlem altyapısından yararlanıyor.
Ultrafast ile GPT-5.6 Sol’un saniyede 750 çıktı token’ına kadar ulaşabileceği belirtiliyor. Bu hız, özellikle gerçek zamanlı veya gerçek zamana yakın çalışan yapay zekâ uygulamalarında modelin daha hızlı yanıt vermesini sağlayabilir. OpenAI’ın hedeflediği kullanım alanları arasında sesli uygulamalar, müşteri hizmetleri, e-ticaret, geliştirici ajanları, finansal araştırmalar ve güvenlik operasyonları bulunuyor.
GPT-5.6 Sol, OpenAI tarafından haziranda GPT-5.6 ailesinin bir parçası olarak tanıtılmıştı. Ailede Sol’un yanı sıra günlük işler için dengeli bir model olan Terra ve daha hızlı, düşük maliyetli model Luna da yer alıyor. GPT-5.6 ailesi, temmuz ayında ChatGPT, Codex ve OpenAI API üzerinden genel kullanıma açıldı.
OpenAI, GPT-5.6 Sol’un yalnızca yüksek performans sunmasına değil, performans ile işlem maliyetini daha verimli şekilde dengelemesine de odaklanıyor. Şirketin temmuz sonunda yaptığı açıklamaya göre GPT-5.6 Sol, daha az token kullanarak kodlama ve uzun süreli bilgi işleme görevlerinde güçlü sonuçlar elde ediyor. API tarafında ayrıca standart işleme göre daha yüksek hız sunan “Fast mode” bulunuyor. Bu seçenek, GPT-5.6 Sol için 2.5 kata kadar daha yüksek hız sağlayabiliyor. Ultrafast ise bunun çok daha ileri bir hızlandırma katmanı olarak konumlandırılıyor.
OpenAI, Ultrafast’ın yalnızca teorik bir hız avantajı sunmadığını, şirket içerisindeki geliştiriciler tarafından da kullanıldığını belirtiyor. Geliştiriciler, olaylar sırasında günlükleri ve izleri analiz etmek ve daha önce gece boyunca süren araştırma süreçlerini aynı çalışma günü içinde birden fazla iterasyona dönüştürmek için GPT-5.6 Sol’un yüksek hızlı sürümünden yararlanıyor.
Yeni hizmet, şu anda seçili müşterilerle sınırlı durumda. OpenAI, gerçek dünyadaki ürünlerde hız artışının nasıl bir fark oluşturduğunu değerlendirmeye ve aynı zamanda kapasiteyi genişletmeye devam ediyor. Şirketler, Ultrafast’e erişim için bekleme listesine katılabiliyor. Başvuruda kullanıcıların iş yükleri, ihtiyaç duydukları gecikme süresi, tahmini kullanım miktarı ve diğer kullanım ayrıntılarını paylaşması gerekiyor.
Kaynak: 9to5mac.com