Bilgisayarlar Neden Yalan Söylemez Ama Yanlış Sonuç Verebilir?
Bir insan bilerek yalan söyleyebilir. Gerçeği saklayabilir, bilgiyi çarpıtabilir veya karşısındaki kişiyi kandırmak amacıyla doğru olmayan bir şey söyleyebilir. Bilgisayarlar ve yapay zekâ sistemleri ise zaman zaman yanlış cevaplar verebilir, hatalı sonuçlar üretebilir veya gerçekte olmayan bilgiler oluşturabilir.
Peki bu durum yalan söylemek anlamına gelir mi?
Aslında burada önemli bir ayrım bulunuyor. Yanlış bilgi vermek ile yalan söylemek aynı şey değildir. Çünkü yalan söylemek yalnızca yanlış bir cümle kurmayı değil, bunu belirli bir niyetle yapmayı gerektirir.
Yalan Söylemek İçin Niyet Gerekir
Yalanın temelinde bilinçli bir tercih bulunur. Bir kişi çoğu durumda gerçeğin ne olduğunu bilir veya doğru olduğuna inandığı bilgiden farklı bir şey söylemeyi seçer. Bunu karşısındaki kişiyi yanıltmak, kendisini korumak ya da bir çıkar elde etmek amacıyla yapabilir.
Bu nedenle her yanlış bilgi yalan değildir. Bir insan bilmediği bir konuda yanlış konuştuğunda hata yapmış olabilir. Bilerek yanlış bilgi verip karşısındaki kişiyi kandırmaya çalıştığında ise durum yalan söylemeye dönüşür.
Bilgisayarların Kandırma Niyeti Yoktur
Bilgisayarlar bilgi işleyen sistemlerdir. Bir program belirli girdileri alır, kurallar veya modeller doğrultusunda bunları işler ve bir sonuç üretir.
Geleneksel bilgisayar sistemlerinin kendi istekleri, çıkarları veya kişisel amaçları yoktur. Bu nedenle yanlış bir sonuç üretmeleri, kendi başlarına insanları kandırmaya karar verdikleri anlamına gelmez.
Bir hesaplama hatalıysa sorun çoğu zaman kullanılan veri, yazılım, model veya sistem tasarımındadır.
Yanlış Sonuç Nasıl Ortaya Çıkar?
Bir bilgisayarın ürettiği sonucun doğruluğu birçok faktöre bağlıdır. Sisteme eksik veya hatalı veri girilmesi, yanlış bir formül kullanılması ya da yazılımda bulunan bir hata, sonuçların yanlış çıkmasına neden olabilir.
Örneğin bir hesaplama programına yanlış değerler girildiğinde program matematiksel işlemi doğru şekilde gerçekleştirse bile ortaya çıkan sonuç yanlış olacaktır.
Buradaki problem bilgisayarın gerçeği bilip saklaması değil, kendisine verilen bilgiyi doğru şekilde temsil edememesidir.
Küçük Bir Kod Hatası Büyük Sonuçlar Doğurabilir
Yazılım sistemlerinde tek bir kodlama hatası bile beklenmeyen sonuçlara yol açabilir. Yanlış formül, hatalı koşul, eksik veri veya yanlış yapılandırılmış bir sistem hesaplamaların tamamını etkileyebilir.
Üstelik karmaşık sistemlerde hatanın kaynağını bulmak her zaman kolay değildir. Çünkü bir sonuç, aynı anda çok sayıda yazılım bileşeninin ve veri kaynağının etkisiyle ortaya çıkabilir.
Bu nedenle bilgisayar tarafından üretilen bir sonucun doğru görünmesi, mutlaka doğru olduğu anlamına gelmez.
Yapay Zekâ Neden Bazen Olmayan Bilgileri Üretiyor?
Yapay zekâ sistemlerinde konu biraz daha karmaşık hâle geliyor. Büyük dil modelleri, verilen girdiye uygun bir çıktı üretmek için öğrendikleri örüntülerden yararlanır. Ancak ürettikleri her bilgi gerçek dünyadaki bir doğrulama mekanizmasından geçmiş olmak zorunda değildir.
Bu nedenle bir yapay zekâ sistemi gerçekte bulunmayan bir kaynaktan söz edebilir, yanlış bir tarih verebilir veya oldukça ikna edici görünen ancak hatalı bir açıklama oluşturabilir.
Bu tür durumlar yapay zekâ literatüründe genellikle "halüsinasyon" olarak adlandırılır.
Yapay Zekâ Halüsinasyonları Yalan mı?
Hayır, en azından klasik anlamıyla yalan değildir.
Çünkü ortaya çıkan yanlış bilginin arkasında insanlardaki gibi "gerçeği biliyorum ama seni kandıracağım" şeklinde bilinçli bir niyet bulunduğunu gösteren bir kanıt yoktur.
Model yanlış bir cevap ürettiğinde bunu çoğu zaman bir kişinin yalan söylemesi gibi değerlendirmek yerine, sistemin çalışma biçimi, eğitim verileri, bağlamı ve ürettiği olasılıklarla ilişkili bir hata olarak değerlendirmek gerekir.
Bilgisayarlar Gerçeği Biliyor mu?
Bu soru düşündüğümüzden daha karmaşık.
Bir bilgisayar belirli bir bilginin doğru veya yanlış olduğunu kurallar doğrultusunda sınıflandırabilir. Bir veri tabanındaki iki bilgiyi karşılaştırabilir veya bir matematik probleminin sonucunu hesaplayabilir.
Ancak bunlar bilgisayarın "gerçeği" insan gibi deneyimlediği anlamına gelmez.
Bilgisayar için bilgi, işlenebilen bir veri olabilir. İnsan için ise aynı bilgi deneyim, anlam ve bağlamla ilişkilendirilebilir.
İnsanlar da Yanlış Sonuçlara Ulaşabilir
Hata yapmak yalnızca bilgisayarlara özgü değildir. İnsanlar da eksik bilgi, hatalı hatırlama veya yanlış yorumlama nedeniyle yanlış sonuçlara ulaşabilir.
Bir insanın yanlış konuşması da otomatik olarak yalan anlamına gelmez. Eğer kişi doğru söylediğine inanıyorsa yanılıyor olabilir.
Bu açıdan bilgisayarlarla insanlar arasında ilginç bir benzerlik vardır: Her iki sistem de yanlış sonuç üretebilir, ancak yanlışlığın nedeni farklı olabilir.
Veri Kalitesi Neden Önemli?
Bilgisayar sistemlerinde "çöp veri girerseniz, çöp sonuç alırsınız" şeklinde özetlenen yaklaşım önemli bir gerçeğe işaret eder.
Bir sistemin ürettiği sonuç, kullanılan verilerin kalitesinden bağımsız değildir. Eksik, hatalı, eski veya önyargılı verilerle çalışan bir sistem doğru sonuç üretmekte zorlanabilir.
Yapay zekâ sistemlerinde de benzer bir durum söz konusudur. Modelin eğitim süreci, kullanılan veriler ve sorunun nasıl sorulduğu üretilen cevabın niteliğini etkileyebilir.
Harita ile Gerçeklik Arasındaki Fark
Bir harita şehri temsil eder ancak şehrin kendisi değildir. Harita ne kadar ayrıntılı olursa olsun gerçek dünyanın bütün özelliklerini aynı anda gösteremez.
Bilgisayar modelleri de benzer şekilde çalışır. Gerçek dünyadaki olayları ve ilişkileri belirli kurallar ve veriler üzerinden temsil etmeye çalışırlar.
Bu nedenle bir modelin gerçekliğe oldukça yakın olması, onun gerçekliğin kendisi olduğu anlamına gelmez.
Bir Gün Yalan Söyleyen Makineler Olur mu?
Bu soru yapay zekâ ve bilinç tartışmalarının daha ileri bir noktasına götürüyor.
Eğer gelecekte gerçekten bilinç sahibi olduğu gösterilebilen makineler geliştirilirse, bu sistemlerin niyetleri ve amaçları olup olamayacağı ayrı bir araştırma konusu hâline gelebilir.
Böyle bir durumda "makine yalan söyleyebilir mi?" sorusu yalnızca teknik bir problem olmaktan çıkıp felsefi bir probleme de dönüşebilir.
Ancak bugün kullandığımız bilgisayar ve yapay zekâ sistemlerinin gerçekten bilinçli bir şekilde insanları kandırmak istediğine dair bilimsel bir kanıt bulunmuyor.
Hata ile Yalan Arasındaki Çizgi
Bir insan yanlış bilgi verdiğinde önce bunun nedenine bakmak gerekir. Kişi bilmiyor olabilir, yanlış hatırlıyor olabilir veya yanlış yorumlamış olabilir. Bilerek karşısındaki kişiyi yanıltmaya çalışıyorsa yalan söz konusu olabilir.
Bilgisayar sistemlerinde ise yanlış sonucun arkasında genellikle veri hatası, yazılım hatası, model sınırlaması veya yetersiz bağlam bulunur.
Bu nedenle yanlış cevap ile yalan arasındaki en önemli fark niyettir.
Dijital Dünyada Doğrulama Neden Önemli?
Bilgisayarlar ve yapay zekâ sistemleri milyarlarca veriyi kısa sürede işleyebilir. Bu olağanüstü kapasite onları güçlü araçlar hâline getiriyor.
Ancak hız ve ikna edicilik doğruluğun garantisi değildir. Özellikle yapay zekâ tarafından üretilen bilgilerin önemli olduğu durumlarda kaynakları kontrol etmek ve sonucu bağımsız biçimde doğrulamak hâlâ önemini koruyor.
Çünkü bir sistemin yanlış cevap vermesi, onun yalan söylediği anlamına gelmez. Bazen yalnızca elindeki veriler yetersizdir, bazen model yanılır, bazen de sistem gerçek dünyayı eksik temsil eder.
Belki de bilgisayarlarla ilgili en önemli ayrım burada ortaya çıkıyor:
İnsanlar gerçeği bilip farklı bir şey söyleyebilir. Bilgisayarlar ise gerçeği değiştirmek istemeden de yanlış bir sonuç üretebilir.
Editör Notu
Bu içerik, yapay zekâ, bilgi teorisi, bilişsel bilimler ve bilgisayar sistemleri üzerine yapılan çalışmalar temel alınarak hazırlanmıştır.