Klien: Respeecher
Industri: AI Voice Synthesis & Speech Technology
Solusi Sebelumnya: AWS Capacity Blocks
Hasil Utama: Pengurangan biaya 3X dibanding AWS, Peningkatan stabilitas infrastruktur, NFS tercepat dalam pengalaman perusahaan

Ringkasan Eksekutif
Respeecher, perusahaan teknologi voice synthesis terkemuka, berhasil mengurangi biaya infrastruktur hingga sepertiga dari pengeluaran AWS sebelumnya sekaligus mendapatkan stabilitas yang sangat dibutuhkan dalam operasi pelatihan AI mereka. Dengan bermitra bersama infrastruktur GPU terdesentralisasi milik Aethir, perusahaan ini berhasil menghilangkan tantangan operasional akibat sering berpindah penyedia, sambil tetap mempertahankan performa setara kelas enterprise.

Tantangan: Mengelola Biaya dan Kompleksitas Penyedia
Seperti dijelaskan oleh Grant Reaber dari tim Respeecher, perusahaan menghadapi beberapa tantangan infrastruktur berikut:

·   Biaya Tinggi dari AWS: Tim menggunakan AWS capacity blocks (awalnya karena kredit), namun ternyata mahal untuk kebutuhan mereka.

·    Kelelahan karena Pergantian Penyedia: Sering berpindah antar penyedia infrastruktur menimbulkan beban operasional tambahan.

·     Kebutuhan Performa Penyimpanan: Membutuhkan sistem file jaringan (NFS) yang cepat dan andal untuk pipeline data mereka.

Solusi: Infrastruktur Terdesentralisasi Aethir
Respeecher menerapkan platform infrastruktur GPU milik Aethir, yang memberikan:

·       Performa Bare Metal Kompetitif: Server beroperasi pada tingkat performa setara dengan penyedia bare metal lain di kelasnya.

·       Harga yang Efisien: Hanya sepertiga dari biaya AWS capacity blocks dengan spesifikasi yang sebanding.

·       Network File System Cepat: NFS tercepat yang pernah dialami Respeecher sejauh ini.

·       Stabilitas Penyedia: Infrastruktur yang konsisten tanpa perlu terus berganti penyedia.

Hasil: Penghematan Nyata dengan Manfaat Operasional

Perbandingan Biaya:
Pengurangan Biaya 3X
“AWS capacity blocks akan menelan biaya sekitar 3x lebih tinggi dibandingkan yang kami bayarkan di Aethir untuk mesin serupa,” ujar Grant Reaber.

Pengamatan Performa:
Performa yang Setara
“Semuanya berjalan sangat baik sejauh ini... performanya mirip dengan server bare metal lain di kelas yang sama.”

Kecepatan NFS yang Luar Biasa
“NFS-nya benar-benar keren karena ini adalah NFS tercepat yang pernah kami gunakan, tidak terlalu mahal, dan mengatasi beberapa masalah kami.”

Dampak Operasional:
Stabilitas Infrastruktur
“Salah satu pencapaian terbesar adalah adanya stabilitas, di mana tim tahu kami memiliki server yang andal sehingga tidak perlu terus berpindah antar penyedia.”

Kemajuan Pelatihan Model
“Kami sudah melatih model yang sedikit lebih besar,” jelas Reaber, dengan potensi peningkatan lebih besar setelah pipeline data dioptimalkan.

Kondisi Saat Ini dan Potensi ke Depan
Meskipun skala pelatihan Respeecher belum berubah secara drastis sejak mulai menggunakan Aethir, tim melihat potensi pertumbuhan yang jelas. Grant Reaber menjelaskan: “Jika kami menyelesaikan beberapa masalah pada pipeline data, kami akan dapat melatih model yang lebih besar dibanding sebelumnya.”

Kombinasi antara penghematan biaya, stabilitas infrastruktur, dan penyimpanan berperforma tinggi menempatkan Respeecher pada posisi kuat untuk memperluas kemampuan pelatihan model seiring mereka mengoptimalkan alur kerja.

Poin Penting
Pengalaman Respeecher bersama Aethir menunjukkan tiga manfaat utama:

·       Penghematan Biaya Signifikan: Performa yang sama dengan hanya sepertiga biaya AWS capacity blocks.

·       Stabilitas Operasional: Menghilangkan gangguan dan beban karena harus terus berganti penyedia.

·       Performa Tanpa Kompromi: Mempertahankan standar performa bare metal dengan kecepatan penyimpanan luar biasa.

Apa yang Akan Dikatakan Grant Reaber kepada CTO Lain:
“Jika Anda menggunakan AWS capacity blocks, Anda mungkin membayar 3X lebih mahal dari yang seharusnya. Aethir memberi kami infrastruktur yang stabil dan berperforma tinggi dengan biaya yang jauh lebih rendah, plus NFS tercepat yang pernah kami gunakan. Hanya dari sisi stabilitas saja—mengetahui kami memiliki server andal tanpa harus terus berpindah penyedia—sudah menjadi salah satu kemenangan terbesar kami.”

Tentang Respeecher
Respeecher adalah perusahaan voice cloning dan speech synthesis yang menyediakan teknologi suara berbasis AI untuk industri hiburan, gaming, dan pembuatan konten di seluruh dunia.

‍Tentang Aethir
Aethir menyediakan infrastruktur cloud terdesentralisasi untuk workload AI dan gaming, menghadirkan komputasi GPU kelas enterprise melalui jaringan global sumber daya terdistribusi.