zkML Nedir? Yapay Zekâ Hesaplamaları Modeli Açıklamadan Nasıl Doğrulanıyor?

Bir şirketten yapay zekâ hizmeti aldığınızı düşünelim. Şirket size bir sonuç gönderiyor, fakat sözleşmede belirtilen modeli gerçekten çalıştırıp çalıştırmadığını göremiyorsunuz.

Sonuç başka bir modelden üretilmiş, hesaplama eksik yapılmış veya önceden hazırlanmış bir yanıt kullanılmış olabilir. Hizmet sağlayıcının açıklamasına güvenmek dışında bir doğrulama yöntemi istenebilir.

zkML — Zero-Knowledge Machine Learning, bu tür durumlarda belirli makine öğrenmesi hesaplamalarının yürütüldüğünü kanıtlamaya yönelik yaklaşımları kapsar.

Buradaki temel soru “Model doğru karar verdi mi?” değil, “Belirtilen hesaplama, belirlenen girdiler ve kurallarla gerçekleştirildi mi?” sorusudur.

zkML Nedir?

zkML, sıfır bilgi kanıtlarıyla makine öğrenmesi işlemlerini birleştiren yöntemler ve sistemler için kullanılan genel bir terimdir.

Bir çıkarım işlemi basitleştirilmiş biçimde şöyle gösterilebilir:

\[ y = f_W(x) \]

Burada:

• x, modele verilen girdidir.
• W, modelin ağırlıklarıdır.
• f, tanımlanmış hesaplamadır.
• y, elde edilen çıktıdır.

Kanıt sistemi, bu ilişkinin sağlandığını doğrulayabilir. Tasarıma göre girdi, ağırlıklar veya çıktının belirli bölümleri gizli tutulabilir.

Bütün zkML sistemleri aynı gizlilik kapsamını sunmaz. Hangi bilgilerin açık, hangilerinin gizli olacağı uygulamada belirlenir.

Hesaplama Doğruluğu ile Tahmin Doğruluğu Arasındaki Fark

Bu ayrım, zkML’yi anlamanın en önemli noktasıdır.

Bir görüntü modeli, fotoğraftaki nesneyi yanlış sınıflandırabilir. Buna rağmen hesaplama, modelin tanımlı işlemlerine tamamen uygun yapılmış olabilir.

zkML kanıtı böyle bir durumda hesaplamayı doğrulayabilir; yanlış tahmini doğru hâle getirmez.

Doğrulanabilir hesaplama, model değerlendirmesinin yerine geçmez.

zkML Nasıl Çalışır?

Makine öğrenmesi modeli, kanıt sisteminin doğrulayabileceği işlemlere dönüştürülür. Bu temsil bir devre, kısıt sistemi veya kanıtlanabilir program biçiminde olabilir.

Genel süreç şöyledir:

1. Model ve hesaplama tanımlanır. Hangi işlemin kanıtlanacağı belirlenir.
2. Açık ve gizli girdiler seçilir. Model, veri ve sonuç için gizlilik kapsamı oluşturulur.
3. Hesaplama kanıtlanabilir biçime hazırlanır. İşlemler uygun sayısal temsile dönüştürülür.
4. Çıkarım ve kanıt üretimi yapılır. Kanıtlayıcı gerekli verilerle çalışır.
5. Kanıt doğrulanır. Doğrulayıcı, açık bilgiler üzerinden kontrol yapar.

Kanıtın geçerli olması, tanımlanan ilişkinin sağlandığını gösterir. Ancak ilişkinin eksik veya yanlış hazırlanması, uygulamanın beklediği güvenceyi zayıflatabilir.

Aynı Modelin Kullanıldığı Nasıl Gösterilir?

Model ağırlıkları gizli tutuluyorsa doğrulayıcı bunları doğrudan inceleyemez. Bu durumda ağırlıkların belirli bir kriptografik taahhüde bağlanması gibi yöntemler kullanılabilir.

Kanıt, hesaplamanın bu taahhütle ilişkili ağırlıklarla yapıldığını gösterebilir. Böylece hizmet sağlayıcının farklı bir model kullanması sınırlandırılabilir.

Fakat taahhüdün hangi modele ait olduğunun güvenilir biçimde belirlenmesi de gerekir. Bilinmeyen bir modelin tutarlı kullanıldığını kanıtlamak, onun beklenen model olduğunu göstermeyebilir.

Model sürümü, giriş hazırlığı ve çıktı işlemleri de bu ilişkiye dâhil edilmelidir.

Model Gizliyse Hizmet Sağlayıcı Girdiyi Görür mü?

Gizlilik kime karşı sağlanıyor sorusu açıkça sorulmalıdır.

Sıfır bilgi özelliği, kanıtın doğrulayıcıya gizli girdileri açıklamamasını sağlar. Ancak kanıtı üreten taraf, hesaplama sırasında bu girdilere erişiyor olabilir.

Kullanıcı veriyi hizmet sağlayıcıya açık biçimde gönderiyorsa, sonradan ZK kanıtı oluşturulması sağlayıcının veriyi görmesini engellemez.

Sağlayıcıya karşı da gizlilik isteniyorsa şifreli hesaplama veya güvenli çok taraflı hesaplama gibi başka yaklaşımlar gerekebilir.

Doğrulayıcıya karşı gizlilik ile hesaplamayı yapan tarafa karşı gizlilik aynı şey değildir.

Eğitim Verileri Otomatik Olarak Korunur mu?

Bir çıkarım kanıtı, genellikle modelin nasıl eğitildiğini kanıtlamaz. Eğitim verilerinin bu işlem sırasında paylaşılmaması, onların bütün risklerden korunduğu anlamına gelmez.

Model bazı eğitim örneklerini ezberlemiş olabilir. Çıktılar veya tekrarlanan sorgular üzerinden bilgi açığa çıkabilir.

Eğitim sürecini kanıtlamak ise ayrı ve çoğunlukla daha büyük bir hesaplama problemidir. Verilerin kaynağı, kullanım hakları ve modelin eğitim kalitesi de ayrıca değerlendirilmelidir.

zkML, eğitim verisinin kökenini veya mahremiyetini kendiliğinden doğrulamaz.

Sayısal Temsil Neden Önemli?

Makine öğrenmesi modelleri sıkça kayan noktalı hesaplamalar kullanır. Kanıt sistemleri ise farklı aritmetik yapılar üzerinde çalışabilir.

Bu nedenle sabit noktalı temsil, kuantizasyon veya bazı işlemlerin yaklaşık karşılıkları kullanılabilir. Aktivasyon fonksiyonları ve normalizasyon işlemleri de özel düzenlemeler gerektirebilir.

Bu dönüşümler sonucunda kanıtlanan model, orijinal uygulamayla küçük sayısal farklılıklar gösterebilir.

Hangi model sürümünün ve sayısal hesabın kanıtlandığı belirtilmelidir. Kanıt geçerli olsa bile dönüşümün tahmin kalitesine etkisi ayrıca ölçülmelidir.

Blockchain ile Nasıl Kullanılır?

Makine öğrenmesi hesaplaması zincir dışında yapılabilir. Sonuç ve kanıt, blockchain üzerindeki doğrulayıcıya gönderilebilir.

Bir akıllı sözleşme, geçerli kanıta göre belirli işlemleri yürütmek üzere tasarlanabilir. Böylece bütün model hesaplamasının zincir üzerinde yapılması gerekmeyebilir.

Ancak kullanılan verinin güvenilirliği ayrı bir konudur. Model piyasa fiyatı gibi dış bilgi kullanıyorsa, bu bilginin nereden geldiği doğrulanmalıdır.

Yanlış girdiyle doğru yürütülmüş bir hesaplama, yine yanlış ekonomik sonuç doğurabilir.

Ayrıca zkML kullanmak için blockchain zorunlu değildir. Kanıtlar başka uygulamalarda da doğrulanabilir.

Hangi Görevlerde Yararlı Olabilir?

zkML, hesaplamayı yapan tarafın işini kontrol etme ihtiyacının bulunduğu uygulamalarda değerlendirilebilir.

Model hizmeti doğrulama: Belirli modelin kullanıldığını göstermek.

Gizli girdi üzerinde koşul kanıtlama: Veriyi açıklamadan tanımlanmış bir kontrolün sonucunu doğrulamak.

Merkeziyetsiz hesaplama: Farklı sağlayıcıların sonuçlarını kriptografik biçimde denetlemek.

Kurumsal süreçler: Belirli bir değerlendirme kuralının uygulandığını kanıtlamak.

Bu kullanım alanlarının uygunluğu; gizlilik ihtiyacına, kanıt maliyetine ve doğrulanacak ilişkinin kapsamına bağlıdır.

En Büyük Zorluk: Kanıt Üretimi

Kanıt oluşturmak, modelin normal çıkarımını yapmaktan daha fazla işlem ve bellek gerektirebilir.

Model boyutu, giriş uzunluğu ve işlem türleri maliyeti etkiler. Büyük dil modellerinin uzun üretimlerini kanıtlamak, küçük bir sınıflandırıcının hesabını kanıtlamaktan farklı bir problemdir.

Değerlendirmede şu ölçütler önemlidir:

• Normal çıkarım süresi.
• Ek kanıt üretim süresi.
• Kanıt boyutu.
• Doğrulama maliyeti.
• Bellek ihtiyacı.
• Dönüştürülmüş modelin kalitesi.

Kısa bir kanıt, onun ucuz üretildiğini göstermez. Kanıt üretimi ile doğrulama maliyeti ayrı ölçülmelidir.

Güvenilir Bir Uygulama İçin Neler Gerekir?

Kriptografik sistemin yanında modelin kanıtlanabilir temsili de incelenmelidir. Eksik kısıtlar, yanlış giriş bağlama veya atlanan ön işleme adımları güvenceyi etkileyebilir.

Çıktının doğru kullanıcı isteğiyle ilişkilendirilmesi ve eski bir kanıtın uygunsuz biçimde yeniden kullanılmasının önlenmesi de önemlidir.

Bu nedenle güvenilirlik, yalnızca “kanıt doğrulandı” mesajına dayanmaz. Kanıtın neyi, hangi girdilerle ve hangi koşullarda gösterdiği açık olmalıdır.

Sık Sorulan Sorular

zkML, yapay zekânın yanlış bilgi üretmesini engeller mi?

Hayır. Tanımlanan hesaplamanın yürütüldüğünü gösterebilir; modelin bilgi doğruluğunu otomatik olarak sağlamaz.

Model ağırlıkları her zaman gizli kalır mı?

Hayır. Gizlilik kapsamı tasarıma bağlıdır. Bazı sistemlerde model açık, kullanıcı girdisi gizli olabilir.

zkML ile şifreli yapay zekâ aynı şey mi?

Hayır. zkML doğrulanabilir hesaplamaya odaklanır. Şifreli veriler üzerinde hesaplama farklı bir hedefi karşılar; birlikte kullanılmaları mümkün olabilir.

Her model kolayca kanıtlanabilir mi?

Hayır. İşlem desteği, sayısal dönüşüm, model büyüklüğü ve kaynak bütçesi uygulanabilirliği etkiler.

Kaynaklar: Bing-Jyue Chen ve diğerleri — ZKML: An Optimizing System for ML Inference in Zero-Knowledge Proofs; Tianyi Liu ve diğerleri — zkCNN: Zero Knowledge Proofs for Convolutional Neural Network Predictions and Accuracy; Jens Groth — On the Size of Pairing-Based Non-interactive Arguments.

Editör Notu

Bu içerik, zkML’nin çalışma mantığını ve doğrulanabilir makine öğrenmesindeki sınırlarını ele alan bir araştırma ve değerlendirme yazısıdır. İçerikte yer alan değerlendirmeler editoryal yorum niteliğindedir. Gizlilik ve hesaplama güvenceleri; kanıt sistemine, açık girdilere, sayısal temsile ve uygulamanın doğru kurulmasına bağlıdır. Geçerli bir hesaplama kanıtı, modelin tahminlerinin gerçek dünyada doğru, adil veya güvenli olduğunu tek başına göstermez.