Ses Sentezi Lideri, Önemli Maliyet Tasarrufu ve Operasyonel Kararlılık Elde Etti
Müşteri: Respeecher
Sektör: Yapay Zekâ Ses Sentezi ve Konuşma Teknolojisi
Önceki Çözüm: AWS Capacity Blocks
Temel Sonuçlar: AWS’ye kıyasla 3 kat maliyet düşüşü, geliştirilmiş altyapı kararlılığı, şirket tarihindeki en hızlı NFS performansı
Yönetici Özeti
Ses sentezi teknolojisinde öncü bir şirket olan Respeecher, Aethir’in merkeziyetsiz GPU altyapısıyla iş birliği yaparak AWS harcamalarının üçte birine düşen maliyetlerle aynı zamanda yapay zekâ eğitim operasyonlarında ihtiyaç duyduğu kararlılığı elde etti. Şirket, sağlayıcı değiştirme sürecindeki operasyonel zorlukları ortadan kaldırırken kurumsal düzeydeki performanstan ödün vermedi.
Zorluk: Maliyetleri ve Sağlayıcı Karmaşıklığını Yönetmek
Respeecher ekibinden Grant Reaber’in açıkladığı üzere şirket birkaç altyapı zorluğuyla karşı karşıyaydı:
- Yüksek AWS Maliyetleri: Ekip, başlangıçta krediler nedeniyle AWS capacity blocks kullanıyordu ancak bu çözüm ihtiyaçları için oldukça maliyetli hale geldi.
- Sağlayıcı Değiştirme Yorgunluğu: Sürekli farklı altyapı sağlayıcıları arasında geçiş yapmak operasyonel yük yaratıyordu.
- Depolama Performansı Gereksinimi: Veri hatları için hızlı ve güvenilir ağ dosya sistemlerine (NFS) ihtiyaç duyuluyordu.
Çözüm: Aethir’in Merkeziyetsiz Altyapısı
Respeecher, Aethir’in GPU altyapı platformunu devreye aldı ve şu kazanımları elde etti:
- Rekabetçi Donanım Performansı: Kendi sınıfındaki diğer bare metal sağlayıcılarla aynı seviyede sunucu performansı.
- Maliyet Etkin Fiyatlandırma: AWS capacity blocks çözümlerine kıyasla üçte bir maliyet.
- Hızlı Ağ Dosya Sistemi: Respeecher’ın bugüne kadar deneyimlediği en hızlı NFS performansı.
- Sağlayıcı Kararlılığı: Sürekli sağlayıcı değiştirme ihtiyacını ortadan kaldıran istikrarlı altyapı.
Sonuçlar: Gerçek Maliyet Tasarrufu ve Operasyonel Kazanımlar
Maliyet Karşılaştırması:
3 Kat Maliyet Azalması
Grant Reaber şöyle açıklıyor:
“Benzer bir makine için AWS capacity blocks kullanmak, Aethir üzerinde ödediğimiz tutarın yaklaşık üç katına mal olurdu.”
Performans Gözlemleri:
Karşılaştırılabilir Performans
“Şimdiye kadar her şey bizim için mükemmel çalıştı. Kendi sınıfındaki diğer bare metal sunucularda gördüğümüz performansla benzer düzeyde.”
Olağanüstü NFS Hızı
“NFS gerçekten harika çünkü şimdiye kadar deneyimlediğimiz en hızlısı. Ayrıca çok pahalı değil ve bizim için bazı baş ağrılarını ortadan kaldırıyor.”
Operasyonel Etki:
Altyapı Kararlılığı
“En büyük kazanımlardan biri, artık elimizde iyi sunucularımız olduğunu bilmek ve insanların sürekli farklı sağlayıcılar arasında geçiş yapmak zorunda kalmaması oldu.”
Model Eğitimi İlerlemesi
Reaber şu açıklamayı yapıyor:
“Şimdiden biraz daha büyük modeller eğittik. Verilerimizi optimize ettiğimizde bu ilerlemenin daha da büyüyeceğini düşünüyoruz.”
Mevcut Durum ve Gelecek Potansiyeli
Respeecher’ın eğitim ölçeği Aethir’e geçişten bu yana dramatik biçimde değişmemiş olsa da ekip büyüme potansiyelini açıkça görüyor. Grant Reaber şöyle açıklıyor:
“Bazı veri hattı sorunlarını çözersek, geçmişe göre daha büyük modelleri eğitebilir hale geleceğiz.”
Maliyet tasarrufu, altyapı kararlılığı ve yüksek performanslı depolamanın birleşimi, Respeecher’ı iş akışlarını optimize ettikçe model eğitim yeteneklerini genişletmek için güçlü bir konuma getiriyor.
Temel Çıkarımlar
Respeecher’ın Aethir ile yaşadığı deneyim üç kritik faydayı ortaya koyuyor:
- Önemli Maliyet Azalması: AWS capacity blocks’a kıyasla aynı performansı üçte bir maliyetle elde etmek.
- Operasyonel Kararlılık: Sağlayıcı değişikliklerinden kaynaklanan aksaklık ve yükü ortadan kaldırmak.
- Performanstan Ödün Vermeden Verimlilik: Bare metal standartlarında performans ve olağanüstü depolama hızı sağlamak.
Grant Reaber’ın Diğer CTO’lara Mesajı
“Eğer AWS capacity blocks kullanıyorsanız, gereğinden 3 kat fazla ödeme yapıyor olabilirsiniz. Aethir bize sabit, yüksek performanslı bir altyapıyı çok daha uygun fiyata sunuyor. Ayrıca şimdiye kadar kullandığımız en hızlı NFS’ye sahip. Sadece kararlılık bile, sürekli sağlayıcı değiştirmek zorunda kalmamanın verdiği rahatlık, bizim en büyük kazanımlarımızdan biri oldu.”
Respeecher Hakkında
Respeecher, eğlence, oyun ve içerik üretimi endüstrileri için yapay zekâ destekli ses teknolojileri sunan bir ses klonlama ve konuşma sentezi şirketidir.
Aethir Hakkında
Aethir, yapay zekâ ve oyun iş yükleri için merkeziyetsiz bulut altyapısı sağlayan, küresel bir dağıtılmış kaynak ağı üzerinden kurumsal düzeyde GPU hesaplama gücü sunan bir platformdur.
