Yayında
Qosway
Her model isteği, belirlediğin rotadan geçer.
Qosway, Claude Code, Codex ve OpenAI uyumlu istemciler için kendi sunucunda çalışan bir geçit. Ağının içinde durur ve her istek için karar verir: dışarı çıkabilir mi, çıkması gerekiyor mu, hangi model cevap versin.
Kısaca
- Protokoller
- OpenAI chat completions, OpenAI Responses, Anthropic Messages
- Kurulum
- Tek statik Go dosyası, yönetim paneli içinde. systemd servisi ya da konteyner olarak çalışır.
- Veri
- SQLite. Redis isteğe bağlı: önbellek ve sınırlar için.
- Sağlayıcılar
- OpenAI, Anthropic, DeepSeek, Grok
- Lisans
- Müşteri başına lisanslı
Ayrıntılar, belgeler ve demo isteği Qosway'in kendi sitesinde.
Bir istek, yedi durak
Sıra koddaki sıradır. İstek, sağlayıcıya varmadan herhangi bir durakta adı konmuş bir hatayla geri dönebilir.
Kimlik
İstemci anahtarını ve hız sınırını denetler.
Denetim
Önbelleğe ya da dışarıya gitmeden önce istemdeki gizli bilgileri tarar.
Kota
Anahtarın günlük ve aylık jeton limitine karşı jeton ayırır.
Rota
Yönlendirme politikasına ve açık sağlayıcılara göre modeli seçer.
Önbellek
Aynı soruyu arar: önce birebir, sonra anlamsal eşleşme.
Gönderim
Sağlayıcıyı çağırır. 429 ve 5xx'te yedek modele geçer, yanıtı akıtır.
Kayıt
Kullanım, maliyet, önbellek sonucu ve gecikmeyi yanıt yolunun dışında yazar.