Yapay zekâ ve yapay zekâ destekli uygulamalar her yıl büyümeye devam ederken, internet gizliliği giderek daha önemli hale geliyor. Ancak Anyone Network gibi gizlilik teknolojileri ile (merkezsiz bir soğan yönlendirme ağı) entegre edildiğinde kullanıcılar, yapay zekâ üzerinde güvenli ve anonim şekilde geliştirme yapabilir.

Bu misafir blog yazısında Anyone Protocol ekibi, bir Aethir merkezsiz GPU bulut biriminin içeriği anonim olarak sunacak şekilde nasıl yapılandırılabileceğini detaylandırıyor ve performansını mevcut GPU sağlayıcılarıyla karşılaştırıyor.

Hadi başlayalım.

Özet
İş Birliği

Anyone, Aethir ile iş birliği yaparak AI GPU bulut altyapısını değerlendirdi. Odak noktası GPU performansı ve ölçeklenebilirlikti. Bu teknik incelemenin kapsamı, AI iş yüklerinde GPU kabiliyetlerinin karşılaştırmalı ölçümlenmesine dayanıyor. Buna ek olarak Telegram platformu üzerinde çalışan pratik bir yapay zekâ destekli yardımcı botun geliştirilmesi de çalışmaya dahil edildi.

Sonuçlara geçmeden önce, tipik bir küçük-orta ölçekli işletmenin altyapı ihtiyaçları ile tek bir Aethir GPU bulut biriminin sunduğu kabiliyetleri karşılaştıran bir genel bakış sunuyoruz. Bu bağlam, gerçek dünya yapay zekâ uygulamalarında maliyet etkinliği, ölçeklenebilirlik ve performansın değerlendirilmesi için temel oluşturuyor.

Mimari
Bulut Sunucu Özellikleri

Model: RTX 5090×2
CPU: AMD Ryzen 9 7900X 12 Çekirdekli İşlemci
RAM: 64 GiB
Depolama: 2 TB
Ağ: 10 Gb
GPU Gücü: 575W
İşletim Sistemi: Ubuntu 22.04.1-Ubuntu

Yerel Sunucu Özellikleri

Model: RTX 4090
CPU: 13. Nesil Intel(R) Core(TM) i9-13900KS
RAM: 64 GiB
Depolama: 2 TB
Ağ: 1 Gb
GPU Gücü: 450W
İşletim Sistemi: Kernel 6.17.2-arch1-1

Yazılım Mimarisi

Bulut ve yerel sunucu yapılandırmalarının ikisi de aynı yazılım yapılandırmasına sahip. Temel fark GPU tarafında. Benchmark mimarisi şu şekilde tanımlandı:

Ön yüz: Telegram Bot (kullanıcı arayüzü)

Arka uç: python-telegram-bot + ComfyUI

Veritabanı: PostgreSQL (durum yönetimi ve kullanıcı oturum takibi)

Sistem İş Akışı

Bu mimaride kullanıcı etkileşimi Telegram üzerinden başlar. Bot, komut arayüzü olarak görev yapar. Her kullanıcı sorgusu bot tarafından ayrıştırılır ve ComfyUI için iş görevine dönüştürülür. ComfyUI bu görevi GPU üzerinde çalıştırır.

Sistem şu şekilde çalışır:

1. Kullanıcı Telegram üzerinden bir komut gönderir.
2. python-telegram-bot ile oluşturulmuş Telegram botu komutu alır ve ayrıştırır.
3. Bot, görevi ComfyUI’ye iletir.
4. ComfyUI ilgili modeli kullanarak çıkarım işlemini gerçekleştirir ve çıktı üretir (örneğin bir görsel).
5. Çıktı Telegram üzerinden kullanıcıya gönderilir.
6. PostgreSQL; kullanıcı oturumlarını, iş kuyruğunu ve kullanıcı komutlarının model iş akışlarına eşleştirilmesini yönetir.

Bu yapı, kalıcı bağlamı veritabanı aracılığıyla korurken durumsuz çıkarım yapmayı mümkün kılar. Böylece hem tek kullanıcılı hem de çok kullanıcılı senaryolara uygun ölçeklenebilir bir yapı sunar.

Bot Örneği

Bot üzerindeki örnek komut: /f (flux)

Bu komut, ComfyUI’ye bir metinden görüntüye dönüşüm isteği gönderir. Bot isteği işler, görsel oluşturulana kadar bekler ve sonucu Telegram sohbetine iletir.

Bir görsel oluşturulduktan sonra (örneğin bir astronot ya da tişört), kullanıcılar ek komutlar ile bu görsel üzerinde değişiklik yapabilir. Örneğin “/qwen” komutu çalıştırılarak astronotun üzerine bir kaz tişörtü giydirilebilir.

Bu komut zincirleme yeteneği, hafif bir sohbet arayüzü üzerinden etkileşimli, çok adımlı görüntü oluşturma ve düzenleme imkânı sunar.

Uç Noktalar (Endpoints)

Tüm ComfyUI uç noktaları resmi sunucu rehberinde detaylı şekilde belgelenmiştir:

https://docs.comfy.org/development/comfyui-server/comms_routes

Bu uç noktalar; arka uç ile ComfyUI arasındaki haberleşmenin temelini oluşturur. Prompt gönderimi, hızlı kuyruk yönetimi, medya yükleme/indirme ve gerçek zamanlı geri bildirim gibi süreçleri mümkün kılar.

En önemli uç noktalar:

‍

Yol

Tür

Açıklama

/ws

websocket

Sunucu ile gerçek zamanlı iletişim

/upload/image

post

Görsel yükleme

/prompt

get

Mevcut kuyruk durumunu ve yürütme bilgisini alma

/prompt

post

Kuyruğa prompt gönderme

/queue

get

Çalışan kuyruk durumunu alma

/queue

post

Kuyruk işlemlerini yönetme (temizleme vb.)

Bu uç noktalar tamamen bot tarafından programatik olarak kullanılır; böylece kullanıcı API ile doğrudan etkileşim kurmadan etkileşimli bir deneyim yaşar.

Gizlilik

Kullanıcı verilerini korumak, iletimi güvence altına almak ve gizliliği sağlamak için ComfyUI uç noktaları Anyone Network üzerinden yönlendirilir. Bu entegrasyon Anyone Protocol GitHub üzerindeki resmi Python SDK ile sağlanır:

https://github.com/anyone-protocol/python-sdk

Bu geliştirme kiti sayesinde ComfyUI API çağrıları güvenli ve anonim tüneller içinde gerçekleştirilir. Böylece kullanıcı sorguları ve üretilen medya, yetkisiz erişimlere karşı korunur.

Anyone mimarisi, uç noktaları “Anon” adı verilen binary ile sarar.

Buna ek olarak Anyone SDK gizli servisleri (hidden services) de destekler.

Gizli servisler, sunucunun konumunu, kimliğini veya IP’sini ifşa etmeden çalışan özel ve geçici sunucu uç noktalarıdır. Bu özellik; gizlilik, sansür direnci ya da yüksek güvenlik gerektiren durumlarda büyük avantaj sağlar.

Bir gizli servis örneği şöyle görünebilir:

🌐 http://5ugakqk324gbzcsgql2opx67n5jisaqkc2mbglrodqprak5qz53mibyd.anon

🌐 http://5ugakqk324gbzcsgql2opx67n5jisaqkc2mbglrodqprak5qz53mibyd.anyone

Gizli servisler ön yüz için ya da ComfyUI arka uç uç noktaları için yapılandırılabilir. Böylece tüm pipeline korunmuş olur.

Daha fazla bilgi için Anyone dokümantasyonuna bakılabilir:

https://docs.anyone.io/sdk-integrations/native-sdk/tutorials

Benchmark Sonuçları

Aşağıdaki karşılaştırmalar RTX 4090 ve RTX 5090’ın çeşitli ComfyUI iş akışlarındaki performansını gösterir. Tüm testler adil karşılaştırma için aynı ayarlar ve şablonlarla yürütülmüştür.

Stable Diffusion 3

• Template: sd3.5_simple_example
  
  
• 4090: 8.96 saniye
  
  
• 5090: 5.96 saniye
  
  
• Hızlanma: %33.48
  
  

RTX 5090 bu testte ~%33 daha hızlı.

FLUX-SCHNELL

• Template: flux_schnell_full_text_to_image
  
  
• 4090: 4.92 saniye
  
  
• 5090: 1.80 saniye
  
  
• Hızlanma: ~%63.41
  
  

RTX 5090 burada ~%63 hız farkı ile çok büyük bir üstünlük sağlıyor.

FLUX-DEV

• Template: Özel (Custom Flux Dev Test Template)
  
  
• 4090: 16.05 saniye
  
  
• 5090: 10.11 saniye
  
  
• Hızlanma: ~%37.01
  
  

WAN 2.2

• Template: video_wan2_2_14B_t2v (fp8 scaled + 4 steps LoRA)
  
  
• 4090: 61.87 saniye
  
  
• 5090: 37.15 saniye
  
  
• Hızlanma: ~%39.94
  
  

QWEN

• Template: image_qwen_image_edit_2509
  
  
• 4090: 9.62 saniye
  
  
• 5090: 4.44 saniye
  
  
• Hızlanma: ~%53.83
  
  

Ek Not

Sunucu 2 GPU içerdiği için iş yükleri programatik olarak iki GPU arasında dağıtılabilir. CUDA cihazlarının tanımlanmasıyla görevler GPU’lar arasında bölünebilir. Aşağıdaki depo multi-GPU yapılandırması için örnekler sunuyor:

https://github.com/pollockjj/ComfyUI-MultiGPU

Anyone Protocol’e Kısa Bir Giriş

Anyone, gizlilik için tasarlanmış merkezsiz küresel bir altyapıdır. Katlanma yönlendirme ağını uygulamalara entegre ederek, güvene dayanmayan gizlilik ve ağ trafiğinin korunması sağlanır. Ağ; token ödülleri karşılığında bant genişliği katkısında bulunan binlerce düğümden oluşur.

https://www.anyone.io

‍