-i6a77249e192b0.png)
En güncel haberleri, analizleri ve rehberleri tek bir yerde arayın.
Yapay zekâ sistemlerinin yararlı cevaplar üretmesi kadar güvenli ve tutarlı davranması da önemlidir. Bu davranışları geliştirmek için insan geri bildirimlerinden yararlanılırken, değerlendirme sürecini daha geniş ölçekte uygulayabilecek yöntemler de araştırılıyor.
1 hafta önce
Yapay zekâ modellerinin faydalı yanıtlar üretmesi kadar, zararlı taleplere nasıl karşılık verdiği de önemlidir. Bu davranışları geliştirmek için insan değerlendirmeleri kullanılabilir; ancak büyük miktarda geri bildirim toplamak zaman ve kaynak gerektirir.
1 hafta önce
Constitutional AI, yapay zekâ modellerine belirli ilke ve kuralları temel alarak kendi cevaplarını değerlendirme ve geliştirme yeteneği kazandırmayı amaçlayan bir AI Alignment yaklaşımıdır.
1 ay önce