Bir yapay zekâ sistemi metin yazabilir, kod üretebilir ve görselleri yorumlayabilir. Fakat farklı görevlerde başarılı olması, karşılaşabileceği bütün yeni durumlara güvenilir biçimde uyum sağlayacağını göstermez.

Bazı görevlerde insanı aşan performans gösteren bir sistem, daha basit görünen başka bir görevde hata yapabilir. Bilgi eksikliğini fark edemeyebilir veya uzun bir işi tamamlamak için sürekli yönlendirme isteyebilir.

Yapay Genel Zekâ — Artificial General Intelligence (AGI) tartışması, bu yeteneklerin ne ölçüde geniş, aktarılabilir ve güvenilir olması gerektiğiyle ilgilidir.

AGI Nedir?

AGI, genel olarak çok farklı görev ve alanlarda öğrenme, muhakeme ve problem çözme yeteneği gösterebilen yapay zekâyı anlatır.

Ancak “insan seviyesinde” ifadesi tek başına yeterince açık değildir. Hangi insanın, hangi görevlerdeki ve hangi koşullardaki performansının ölçüt alınacağı belirlenmelidir.

Bazı tanımlar geniş bilişsel yeteneklere, bazıları ekonomik değeri olan işlere, bazıları ise yeni görevleri öğrenebilme kapasitesine odaklanır.

AGI’nin herkes tarafından kabul edilmiş tek bir testi bulunmadığı için, bir sistemin AGI olduğu iddiası kullanılan ölçütlerle birlikte değerlendirilmelidir.

Genellik ile Performans Aynı Şey mi?

Hayır. Bir sistem tek bir alanda çok güçlü olabilir, fakat başka görevleri yerine getiremeyebilir. Başka bir sistem ise geniş bir görev grubunda çalışır, ancak her alanda orta düzey sonuç verir.

Bu ayrım iki soruyla açıklanabilir:

Yetenek genişliği: Sistem kaç farklı türde görevi yapabiliyor?

Performans derinliği: Bu görevleri ne kadar başarılı ve güvenilir yapıyor?

Levels of AGI çalışması, ilerlemeyi bu iki boyut üzerinden değerlendiren bir çerçeve önerir. Aynı çerçeve, yetenek düzeyi ile sistemin ne kadar bağımsız kullanıldığını da ayrı ele alır. 

Bu yaklaşım, “AGI var mı, yok mu?” sorusunu tek bir etiketten daha ayrıntılı biçimde tartışmaya yardımcı olur.

Dar Yapay Zekâdan Farkı Nedir?

Dar yapay zekâ, sınırlı bir görev alanına odaklanan sistemleri ifade eder. Bir görüntü sınıflandırıcısı veya belirli bir oyunda uzmanlaşmış program buna örnek olabilir.

Genel amaçlı modeller ise çok farklı görevlerde kullanılabilir. Bu nedenle bütün modern sistemleri yalnızca “tek işi yapabilen modeller” olarak tanımlamak doğru değildir.

Ancak genel amaçlı olmak ile belirli bir AGI eşiğini karşılamak aynı şey değildir.

Bu kategorilerin sınırları bütün araştırmacılar tarafından aynı biçimde çizilmez. Teknik değerlendirmede etiketlerden çok ölçülen yeteneklere bakmak gerekir.

AGI’den Hangi Yetenekler Bekleniyor?

AGI tartışmalarında sık öne çıkan özellikler şunlardır:

• Yeni görevleri öğrenebilmek.
• Bilgiyi farklı alanlar arasında kullanabilmek.
• Değişen koşullara uyum sağlamak.
• Birden fazla aşamadan oluşan planlar geliştirmek.
• Hataları ve bilgi eksikliğini fark etmek.
• Belirsizlik altında uygun kararlar verebilmek.

Bunların her biri ayrı bir araştırma problemidir. Bir modelin plan yazması, o planı gerçek koşullarda tamamlayabileceğini göstermez. Hatasını açıklaması da aynı hatayı yeniden yapmayacağını garanti etmez.

Genel yetkinlik, başarılı görünen tek bir gösteriden daha fazlasını gerektirir.

Yeni Bilgiyi Kullanmak ile Öğrenmek Arasındaki Fark

Bir modele belge vermek, modelin onu eğitim yoluyla kalıcı olarak öğrendiği anlamına gelmez. Belge mevcut bağlamda kullanılabilir.

Benzer şekilde bir ajan, geçmiş deneyimlerini harici bellekte tutabilir. Sonraki görevde bu kayıtları getirerek kullanması, model ağırlıklarının güncellendiğini göstermez.

AGI değerlendirmelerinde öğrenmenin ne anlama geldiği açıklanmalıdır:

Bağlam içinde uyum: Verilen örnek veya talimatlardan mevcut görevde yararlanmak.

Harici bellek kullanımı: Önceki kayıtları saklayıp gerektiğinde getirmek.

Model güncellemesi: Eğitimle ağırlıkları değiştirmek.

Bu mekanizmalar birlikte kullanılabilir. Ancak sonuçları ve sınırlamaları farklıdır.

AGI Bilinçli Olmak Zorunda mı?

AGI ile bilinç aynı kavram değildir.

AGI çoğunlukla sistemin hangi görevleri yapabildiği üzerinden tartışılır. Bilinç ise öznel deneyim, farkındalık ve benzeri felsefi ve bilimsel sorularla ilişkilidir.

Bir modelin duygular hakkında konuşması veya “kendimi şöyle hissediyorum” demesi, öznel deneyimi bulunduğunu kanıtlamaz.

Yüksek problem çözme yeteneği, bilinç iddiasını kendiliğinden doğrulamaz. Bu iki konu ayrı değerlendirilmelidir.

Bağımsız Hareket Etmek AGI Demek mi?

Hayır. Bir yazılım sınırlı bir görevde oldukça bağımsız çalışabilir, fakat geniş genel yeteneklere sahip olmayabilir.

Tersine güçlü bir model, güvenlik veya ürün tasarımı nedeniyle yalnızca kullanıcı yönlendirmesiyle çalıştırılabilir.

Burada otonomi, sistemin ne kadar bağımsız hareket ettiğini anlatır. Genellik ise yeteneklerinin kapsamıyla ilgilidir.

Bir ajana daha fazla araç ve yetki vermek, onu otomatik olarak daha genel zekâya sahip yapmaz. Yalnızca dış sistemler üzerinde daha fazla işlem yapabilmesini sağlayabilir.

AGI Nasıl Ölçülebilir?

Tek bir sınav veya sohbet gösterisi yeterli olmayabilir. Geniş yetkinliği değerlendirmek için farklı görevlerin ve koşulların birlikte incelenmesi gerekir.

Önemli sorular şunlardır:

• Sistem daha önce karşılaşmadığı görevlerde başarılı mı?
• Başarı, eğitimde görülen örneklere ne kadar bağlı?
• Görevi ne kadar insan yardımıyla tamamlıyor?
• Sonuçlar farklı denemelerde tutarlı mı?
• Uzun iş akışlarında hata birikiyor mu?
• Bilmediğini fark edip uygun yardım isteyebiliyor mu?

Değerlendirme sırasında modelin kullandığı araçlar, hesaplama bütçesi ve dış kaynaklar da belirtilmelidir.

Bir modelin tek başına performansı ile araçlarla desteklenen bütün sistemin performansı aynı ölçüm değildir.

Başlıca Teknik Zorluklar

Daha fazla veri ve hesaplama bazı yetenekleri geliştirebilir. Ancak AGI tartışması yalnızca model boyutunu artırmaya indirgenemez.

Güvenilirlik: Benzer durumlarda tutarlı sonuç üretmek.

Genelleme: Öğrenilen örüntüleri yeni koşullarda kullanmak.

Uzun görev yönetimi: Birden fazla adımı izlemek ve hataları düzeltmek.

Bilgi güncelliği: Yeni veriye erişmek ve kaynakları değerlendirmek.

Belirsizlik: Eksik bilgiyle kesin olmayan sonuçları ayırmak.

Dünya ile etkileşim: Araçlardan gelen sonuçları doğru yorumlamak ve eylemlerin etkilerini izlemek.

Bu alanlardaki başarılar birbirini destekleyebilir, fakat birindeki ilerleme diğerlerinin çözüldüğünü göstermez.

Güvenlik ve Denetim Neden Önemli?

Daha geniş yetenekler, daha geniş kullanım alanları oluşturabilir. Ancak sistemin hangi amaçlarla ve hangi yetkilerle çalıştırılacağı da önem kazanır.

Yanlış hedef tanımları, hatalı araç kullanımı ve kötüye kullanım olasılığı yetenek düzeyinden bağımsız olarak değerlendirilmelidir.

Bir sistemin güçlü olması, insan beklentilerini doğru temsil ettiği anlamına gelmez. Yetkinlik ile hizalama farklı konulardır.

Güvenilir kullanım; değerlendirme, erişim sınırları, izleme ve insan sorumluluğunu birlikte gerektirir. Bu ihtiyaçlar yalnızca gelecekteki AGI sistemleri için değil, mevcut uygulamalar için de geçerlidir.

İnsan Seviyesinde Genel Zekâ Mümkün mü?

Bu sorunun kesin bir yanıtı veya güvenilir bir takvimi bulunmuyor. Araştırmacılar hem AGI’nin tanımı hem de ona ulaşmak için gereken yöntemler konusunda farklı görüşlere sahip.

Bir tahminin değerlendirilmesi için hangi yetenek eşiğini hedeflediği ve hangi varsayımlara dayandığı bilinmelidir.

Bilim, mühendislik ve eğitimde önemli faydalar sağlayan sistemler geliştirmek için de mutlaka AGI etiketine ulaşılması gerekmez. Dar veya genel amaçlı sistemler, iyi tanımlanmış görevlerde değer üretebilir.

Sık Sorulan Sorular

Günümüzde AGI var mı?

Bu soruya kullanılan tanımdan bağımsız kesin bir etiket vermek sağlıklı değildir. İddialar; yetenek kapsamı, güvenilirlik ve bağımsız değerlendirmeler üzerinden incelenmelidir.

AGI ile ASI arasındaki fark nedir?

AGI, genel yetkinlik kavramıdır; birçok tanım insan seviyesini referans alır. ASI ise insan yeteneklerini geniş ölçüde aşan sistemleri anlatır.

AGI mutlaka robot şeklinde mi olur?

Hayır. Fiziksel bedenin gerekli olup olmadığı, benimsenen tanıma ve hedeflenen görevlere bağlıdır.

Bir modelin sınavlarda yüksek puan alması yeterli mi?

Hayır. Yeni görevlere uyum, tutarlılık, uzun süreçlerde başarı ve gereken insan desteği de değerlendirilmelidir.

Kaynaklar: Meredith Ringel Morris ve diğerleri — Levels of AGI for Operationalizing Progress on the Path to AGI; François Chollet — On the Measure of Intelligence; Shane Legg ve Marcus Hutter — Universal Intelligence: A Definition of Machine Intelligence.

Editör Notu

Bu içerik, yapay genel zekâ kavramını ve değerlendirme sorunlarını ele alan bir araştırma ve değerlendirme yazısıdır. İçerikte yer alan değerlendirmeler editoryal yorum niteliğindedir. AGI için tek bir kabul edilmiş tanım, test veya gelişim takvimi bulunmamaktadır. Yetenek gösterileri; kullanılan araçlar, hesaplama bütçesi ve değerlendirme koşullarıyla birlikte incelenmelidir. Genel yetkinlik, bilinç, otonomi ve güvenlik birbirinden farklı kavramlardır.