Bir yapay zeka sistemi metin yazabilir, kod üretebilir ve görselleri yorumlayabilir. Ancak farklı görevlerde başarılı olması, karşılaşabileceği bütün yeni durumlara güvenilir biçimde uyum sağlamasını göstermez.

Bazı görevlerde insanın aşan performansını gösteren bir sistem, daha basit görünen başka bir görevde hata yapabilir. Bilgi eksikliğini fark edemeyebilir veya uzun bir işlemi tamamlamak için sürekli yönlendirme almak.

Yapay Genel Zekâ — Yapay Genel Zeka (AGI) tartışması, bu yeteneğin ne ölçüde geniş, aktarılabilir ve güvenilir olması gerçeğiyle aynıdır.

AGI Nedir?

AGI, genel olarak çok farklı görev ve alanlarda öğrenme, muhakeme ve problem çözme yeteneğini gösterebilen yapay zekâyı anlatır.

Ancak “insan seviyesi” ifadesi tek başına yeterince açık değil. Hangi kişinin, hangi personeldeki ve hangi koşullardaki bilgilerin alınacağı belirlenmelidir.

Bazı değerlerin geniş matematiksel yeteneklere, bazılarının ekonomik olan işlere, bazılarının ise yeni işlemlerin öğrenilebilmesi ayrıntılarına odaklanır.

AGI'nin herkes tarafından kabul edilmiş tek bir testi mevcut olduğu için, bir sistem AGI olduğu iddiası kullanıldığıyla birlikte değerlendirilmeli.

Genellik ile Performans Aynı Şey mi?

Hayır. Bir sistem tek bir alanda çok güçlü olabilir, ancak başka görevlerin yerine getirilemeyebilir. Başka bir sistem ise geniş bir görev türleri çalışır, ancak her alanda orta düzeyde sonuç verir.

Bu iki ayrım sorusuyla açıklanabilir:

Yetenek doğruluğu: Sistemden kaç farklı türde görevi yapabilir misiniz?

Performans derinliği: Bu işlemler ne kadar başarılı ve güvenilir çalışıyor?

AGI çalışmasının seviyeleri, ilerlemeyi bu iki boyutlu üzerinden değerlendiren bir çerçeve önerir. Aynı çerçeve, yetenek düzeyleri ile sistem ne kadar bağımsız olarak da ayrı ele alınır. 

Bu yaklaşım, “AGI var mı, yok mu?” tek bir etiketten daha ayrıntılı biçimde tartışmaya yardımcı olur.

Dar Yapay Zekadan Farkı Nedir?

Dar yapay zekâ, sınırlı bir görev alanına odaklanan sistemler ifade eder. Bir görüntü sınıflandırıcısı veya belirli bir karşılaşmaların programı buna örnek olabilir.

Genel amaçlı modeller ise çok farklı görevlerde mevcuttur. Bu nedenle, bütün modern sistemler yalnızca “tek işi yapabilen modeller” olarak tüketimi doğru değildir.

Ancak genel amaçlanan ile belirli bir AGI derinliğini karşılamak aynı şey değildir.

Bu kategorilerin sınırları bütün araştırmacılar tarafından aynı biçimde çizilmez. Teknik değerlendirmede etiketlerden çok sayıda yeteneklere bakmak gerekir.

AGI'den Hangi Yetenekler Bekleniyor?

AGI tartışmalarında sık öne çıkan özellikler şunlardır:

• Yeni bilgilerin öğrenilebilmesi.
• Bilgiyi farklı alanlar arasında kullanabilmek.
• Değişen bireysel uyum sağlayın.
• Birden fazla aşamadan oluşan planlar genişleme.
• Hataları ve bilgi eksikliğini fark etmek.
• Belirsizlik altında uygun kararları verebilmek.

Bunların arasında her biri ayrı bir araştırma sorunudur. Bir modelin plan yazması, o planın gerçek işlemlerini tamamlayabileceğini göstermez. Hata açıklamasını da aynı hatanın yeniden yapmayacağını garanti etmez.

Genel olarak gerçekleşen, görünen tek bir gösteriden daha fazlasını gerektirir.

Yeni Bilgiyi Kullanmak ile Öğrenmek Arasındaki Fark

Bir modele belge verilmesi, modelin onu eğitim yoluyla kalıcı olarak öğrenilmesi anlamına gelmez. Belge mevcuttur.

Benzer şekilde bir ajan, geçmiş deneyimlerini harici bellekte tutabilir. Sonraki görevlerde bulaştırarak ağırlıklarını, model ağırlıklarının güncelliğini göstermez.

AGI değerlendirmelerinde öğrenmenin ne anlama geldiği açıklanmalıdır:

Bağlam içinde uyum: Verilen örnek veya talimatlardan mevcut kullanımda faydalanılmaktadır.

Harici bellek kullanımı: Önceki kayıtlarını saklayıp listelemek.

Model Geliştirme: Eğitimle ağırlıkların değiştirilmesi.

Bu mekanizmalar birlikte mevcuttur. Ancak şartlar ve sınırlamalar farklıdır.

AGI Bilinçli Olmak Zorunda mı?

AGI ile bilinç aynı kavram değildir.

AGI'nın en çok sayıda hangi işlemleri yaptığı üzerinden tartışılır. Bilinç ise kişisel deneyim, genel ve benzeri ürünler ve açıklamalarla özellikleridir.

Bir modelin duyguları hakkında konuşması veya “kendimi şu şekilde işliyor” demesi, kişisel deneyiminin bulunduğu kanıtlanmaz.

Yüksek problem çözme yeteneği, fikir iddiasını geliştirmez. Bu iki konu ayrı ayrı değerlendirilmelidir.

Bağımsız Hareket Etmek AGI Demek mi?

Hayır. Bir yazılım sınırlı bir görevde oldukça bağımsız çalışabilir, geniş ama genel yeteneklere sahip olmayabilir.

Tersine güçlü bir model, güvenlik veya ürün tasarımı nedeniyle yalnızca kullanıcı yönlendirmesiyle çalıştırılabilir.

Burada otonomi, sistemin ne kadar bağımsız hareket ettiğini anlatır. Genellik ise yeteneklerinin kapsamıyla ilgilidir.

Bir ajana daha fazla araç ve yetki vermek, onu otomatik olarak daha genel zekâya sahip yapmaz. Yalnızca dış sistemler üzerinde daha fazla işlem yapabilmesini sağlayabilir.

AGI Nasıl Ölçülebilir?

Tek bir sınav veya sohbet gösterisi yeterli olmayabilir. Geniş yetkinliği değerlendirmek için farklı görevlerin ve koşulların birlikte incelenmesi gerekir.

Önemli sorular şunlardır:

• Sistem daha önce karşılaşmadığı görevlerde başarılı mı?
• Başarı, eğitimde görülen örneklere ne kadar bağlı?
• Görevi ne kadar insan yardımıyla tamamlıyor?
• Sonuçlar farklı denemelerde tutarlı mı?
• Uzun iş akışlarında hata birikiyor mu?
• Bilmediğini fark edip uygun yardım isteyebiliyor mu?

Değerlendirme sırasında modelin kullandığı araçlar, hesaplama bütçesi ve dış kaynaklar da belirtilmelidir.

Bir modelin tek başına performansı ile araçlarla desteklenen bütün sistemin performansı aynı ölçüm değildir.

Başlıca Teknik Zorluklar

Daha fazla veri ve hesaplama bazı yetenekleri geliştirebilir. Ancak AGI tartışması yalnızca model boyutunu artırmaya indirgenemez.

Güvenilirlik: Benzer durumlarda tutarlı sonuç üretmek.

Genelleme: Öğrenilen örüntüleri yeni koşullarda kullanmak.

Uzun görev yönetimi: Birden fazla adımı izlemek ve hataları düzeltmek.

Bilgi güncelliği: Yeni veriye erişmek ve kaynakları değerlendirmek.

Belirsizlik: Eksik bilgiyle kesin olmayan sonuçları ayırmak.

Dünya ile etkileşim: Araçlardan gelen sonuçları doğru yorumlamak ve eylemlerin etkilerini izlemek.

Bu alanlardaki başarılar birbirini destekleyebilir, fakat birindeki ilerleme diğerlerinin çözüldüğünü göstermez.

Güvenlik ve Denetim Neden Önemli?

Daha geniş yetenekler, daha geniş kullanım alanları oluşturabilir. Ancak sistemin hangi amaçlarla ve hangi yetkilerle çalıştırılacağı da önem kazanır.

Yanlış hedef tanımları, hatalı araç kullanımı ve kötüye kullanım olasılığı yetenek düzeyinden bağımsız olarak değerlendirilmelidir.

Bir sistemin güçlü olması, insan beklentilerini doğru temsil ettiği anlamına gelmez. Yetkinlik ile hizalama farklı konulardır.

Güvenilir kullanım; değerlendirme, erişim sınırları, izleme ve insan sorumluluğunu birlikte gerektirir. Bu ihtiyaçlar yalnızca gelecekteki AGI sistemleri için değil, mevcut uygulamalar için de geçerlidir.

İnsan Seviyesinde Genel Zekâ Mümkün mü?

Bu sorunun kesin bir yanıtı veya güvenilir bir takvimi bulunmuyor. Araştırmacılar hem AGI’nin tanımı hem de ona ulaşmak için gereken yöntemler konusunda farklı görüşlere sahip.

Bir tahminin değerlendirilmesi için hangi yetenek eşiğini hedeflediği ve hangi varsayımlara dayandığı bilinmelidir.

Bilim, mühendislik ve eğitimde önemli faydalar sağlayan sistemlerin yayılması için de mutlaka AGI etiketine ulaşılması gerekmez. Dar veya genel amaçlı sistemler, iyi tanımlanmış görevlerde değer üretilebilir.

Sık Sorulan Sorular

Günümüzde AGI var mı?

Bu parçadan kullanılan tanımdan bağımsız kesin bir etiket vermek sağlıklı değildir. İddialar; Yetenek kapsamı, bağımsız ve bağımsız değerlendirmeler üzerinden incelenmelidir.

AGI ile ASI arasındaki fark nedir?

AGI, genel oluşumlardır; Birçok tanıma insan seviyesi referans alır. ASI ise insanın geniş ölçüdeki aşan sistemleridir.

AGI mutlaka robot şeklinde mi olur?

Hayır. ailenin gerekli olup olmadığı, benimsenen tanınma ve hedeflenen görevlere bağlıdır.

Bir modelin sınavlarında yüksek puan almak yeterli mi?

Hayır. Yeni görevlere uyum, ücretlik, uzun çalışmalarda başarı ve yapılması gereken insan desteği de değerlendirilmelidir.

Kaynaklar: Meredith Ringel Morris ve diğerleri — Levels of AGI for Operationalizing Progress on the Path to AGI; François Chollet — On the Measure of Intelligence; Shane Legg ve Marcus Hutter — Universal Intelligence: A Definition of Machine Intelligence.

Editör Notu

Bu içerik, yapay genel zekâ iyileştirme ve değerlendirme çözümleri ele alan bir araştırma ve değerlendirme yazısıdır. İçerikte yer alan değerlendirmeler editoryal yorum niteliğindedir. AGI için tek bir kabul edilmiş tanım, test veya gelişim takvimi mevcuttur. Yetenek gösterileri; Kullanılan araçlar, programlama bütçesi ve değerlendirme koşullarıyla birlikte incelenmelidir. Genel biyolojik, bilinç, otonomi ve güvenlik birbirinden farklı kavramlardır.