Federated Learning Nedir? Yapay Zekâ Verileri Tek Merkezde Toplamadan Nasıl Öğreniyor?

Federated Learning (Federe Öğrenme), eğitim verilerini bulundukları yerde tutarak ortak bir model geliştirmeyi amaçlar. Katılımcılar kendi verileri üzerinde hesaplama yapar; elde edilen model güncellemeleri birleştirilerek öğrenme sürdürülür. Böylece ham eğitim kayıtlarının merkezi sunucuda toplanmasına duyulan ihtiyaç azalır.

Federated Learning Nedir?

Federated Learning, farklı cihazların veya kurumların yerel verilerini kullanarak ortaklaşa makine öğrenmesi modeli eğitmesidir. Dağıtık öğrenmenin bir yaklaşımıdır; ancak her dağıtık eğitim sistemi federated learning sayılmaz.

Klasik veri merkezi eğitiminde veriler aynı kuruluşun yönettiği sunucular arasında paylaştırılabilir. Federated Learning’de ise veriler farklı katılımcıların kontrolünde kalır ve yerel veri kümeleri birbirinden önemli ölçüde farklı olabilir.

Paylaşılan bilgiler yönteme göre model ağırlıkları, ağırlık değişimleri veya başka eğitim çıktıları olabilir. Ham verinin paylaşılmaması, gönderilen güncellemelerin hiçbir hassas bilgi taşımadığı anlamına gelmez.

Federated Learning Nasıl Çalışır?

Merkezi koordinasyon kullanan yaygın bir sistemde süreç şöyledir:

1. Başlangıç modeli hazırlanır: Koordinatör sunucu eğitilecek modeli belirler.

2. Katılımcılar seçilir: Uygun cihazlar veya kurumlar eğitim turuna alınır.

3. Model gönderilir: Katılımcılar ortak modelin mevcut sürümünü alır.

4. Yerel eğitim yapılır: Her katılımcı kendi kayıtlarını kullanarak modeli günceller.

5. Güncellemeler birleştirilir: Sunucu gelen katkılardan yeni ortak modeli oluşturur.

6. Yeni tur başlar: Süreç belirlenen eğitim hedefine ulaşılana kadar tekrarlanır.

FedAvg (Federated Averaging), bu yaklaşımın bilinen algoritmalarındandır. Yerel eğitim sonuçları, örneğin katılımcıların kullandığı örnek sayıları dikkate alınarak ağırlıklı biçimde birleştirilebilir. Bütün cihazların her tura katılması gerekmez.

Cihazlar Arası ve Kurumlar Arası Öğrenme

Cihazlar arası öğrenme (cross-device), telefonlar gibi çok sayıda uç cihazın katılımına dayanır. Cihazların bağlantısı, pil durumu ve kullanılabilirliği değişebilir.

Kurumlar arası öğrenme (cross-silo) ise hastaneler veya şirketler gibi daha az sayıda, daha istikrarlı katılımcıyla yürütülebilir. Her kurum kendi altyapısında eğitim yaparken ortak modelin geliştirilmesine katkıda bulunur.

Bu iki ortamın katılım, iletişim ve güvenlik ihtiyaçları farklıdır. Aynı eğitim düzeni her ikisi için de uygun olmayabilir.

Veriler Tamamen Gizli Kalır mı?

Federated Learning tek başına mutlak gizlilik garantisi vermez. Model güncellemeleri, belirli saldırı koşullarında eğitim verileri hakkında bilgi çıkarılmasına imkân tanıyabilir.

Bu nedenle ek koruma yöntemleri kullanılabilir:

• Güvenli toplulaştırma: Sunucunun tek tek katılımcı güncellemeleri yerine bunların birleşik sonucunu görmesini sağlar.

• Diferansiyel gizlilik: Uygun şekilde ayarlanan rastgelelik ve katkı sınırlarıyla, belirli bir kişinin verisinin sonuç üzerindeki etkisini sınırlandırmayı amaçlar.

• İletişim ve erişim güvenliği: Güncellemelerin aktarımını ve sisteme kimlerin katılabileceğini korur.

Google’ın Android’deki akıllı metin seçimi çalışmaları, federated learning’in güvenli toplulaştırma ve diferansiyel gizlilikle birlikte uygulanmasına örnektir. Bu yöntemlerin sağladığı koruma, kullanılan protokole ve güvenlik varsayımlarına bağlıdır.

Nerelerde Kullanılabilir?

Mobil uygulamalar, kullanıcıların yerel kullanım örneklerinden yararlanarak metin tahmini veya kişiselleştirme modellerini geliştirebilir.

Kurumlar arası araştırmalarda, farklı kuruluşların kayıtları tek bir veri deposunda birleştirilmeden ortak modeller üzerinde çalışılabilir. Örneğin hastaneler arasında geliştirilecek bir araştırma modeli, her kurumun kendi altyapısında eğitilebilir.

Endüstriyel sistemlerde ise farklı tesislerin sensör kayıtlarından yararlanılarak arıza tahmini modelleri geliştirilebilir. Böyle bir projenin başarısı, verilerin ortak biçimde tanımlanmasına ve katılımcıların eğitim sürecini uyumlu yürütmesine bağlıdır.

Avantajları Nelerdir?

Federated Learning’in temel avantajı, veriyi yerinde kullanarak ortak öğrenmeyi mümkün kılmasıdır. Merkezi ham veri depolama ihtiyacını azaltabilir ve farklı katılımcıların deneyimlerinden yararlanılmasını sağlayabilir.

Bununla birlikte daha az ham veri paylaşılması, toplam ağ trafiğinin mutlaka azalacağı anlamına gelmez. Büyük modellerin güncellemelerini çok sayıda tur boyunca aktarmak önemli iletişim maliyeti oluşturabilir. İlk FedAvg çalışması da yerel hesaplama ile iletişim ihtiyacı arasındaki dengeye odaklanır.

Karşılaşılan Zorluklar

Veri farklılıkları, önemli bir sorundur. Katılımcıların verileri aynı dağılımdan gelmeyebilir; bu durum non-IID veri olarak anılır. Ortak model, bazı katılımcılarda diğerlerinden daha başarılı çalışabilir.

Donanım ve bağlantı farklılıkları, eğitim turlarının süresini etkiler. Yavaş veya bağlantısı kesilen cihazlar için katılım politikaları gerekir.

Kötü niyetli güncellemeler, ortak modelin davranışını bozabilir. Gizliliği korumanın yanında model zehirleme risklerinin de değerlendirilmesi gerekir.

Başarı ölçümü yalnızca genel doğrulukla sınırlı kalmamalıdır. Katılımcılar arasındaki performans farkları, iletişim yükü ve eğitim maliyeti birlikte incelenmelidir.

Sık Sorulan Sorular

Federated Learning ile Edge AI aynı mı?

Hayır. Edge AI, yapay zekâ işlemlerinin cihazda veya yakındaki sistemlerde yürütülmesini ifade eder. Federated Learning ise katılımcıların birlikte model eğitmesine odaklanır. Bir cihaz, ortak eğitime katılmadan da yerel yapay zekâ çalıştırabilir.

İnternet bağlantısı olmadan kullanılabilir mi?

Yerel eğitim çevrim dışı yapılabilir. Ancak ortak modele katkı göndermek ve yeni model sürümünü almak için koordinasyon sistemiyle bağlantı gerekir.

Merkezi eğitimden her zaman daha başarılı mı?

Hayır. Sonuç; veri dağılımına, katılımcı sayısına, algoritmaya ve kaynaklara bağlıdır. Federated Learning’in uygunluğu gerçek kullanım koşullarında ölçülmelidir.

Federated Learning, verilerin farklı yerlerde kalması gereken durumlarda ortak yapay zekâ geliştirmek için önemli bir seçenektir. Başarılı uygulamalar, model kalitesini gizlilik, güvenlik ve iletişim maliyetiyle birlikte değerlendirir.

Kaynaklar: McMahan ve diğerleri — Communication-Efficient Learning of Deep Networks from Decentralized Data, TensorFlow Federated — Federated Learning for Image Classification, Kairouz ve diğerleri — Advances and Open Problems in Federated Learning, Google Research — Distributed Differential Privacy for Federated Learning.

Editör Notu

Bu içerik, kamuya açık makine öğrenmesi araştırmaları ve resmî teknik dokümantasyonlardan yararlanılarak hazırlanmış bir araştırma ve değerlendirme yazısıdır. İçerikte yer alan değerlendirmeler editoryal yorum niteliğindedir. Federated Learning sistemlerinin başarısı ve gizlilik düzeyi; veri yapısına, eğitim yöntemine ve uygulanan güvenlik önlemlerine göre değişebilir.