Bir insan sabah uyandığında önüne yeni hedefler koyabilir. Yeni bir dil öğrenmek isteyebilir, spor yapmaya karar verebilir, bir şirket kurmayı planlayabilir veya dünyayı gezmek isteyebilir. Bu davranışların ortak noktasında ise tek bir kavram bulunur: amaç.

Amaç, yalnızca bir görevi tamamlamak değil, ulaşılmak istenen bir sonucu belirlemek ve bu sonuca göre hareket etmektir. Peki bilgisayarlar ve yapay zekâ sistemleri ne kadar karmaşık hale gelirse gelsin, neden kendi amaçlarını insanlar gibi belirleyemez?

Bu sorunun cevabı, verilen hedefi gerçekleştirmek ile o hedefi kendisinin seçmesi arasındaki farkta yatıyor olabilir.

Amaç Nedir?

Amaç, ulaşılmak istenen bir sonucu ifade eder. Bir hedef belirlemek, bu hedefe ulaşmak için seçenekleri değerlendirmek ve gerektiğinde plan değiştirmek insanların günlük yaşamında sıkça yaptığı davranışlardır.

Bir insan yeni bir iş kurmak istediğinde yalnızca ne yapacağını değil, neden yapmak istediğini de düşünebilir. Benzer şekilde eğitim almak, seyahat etmek veya bir beceri geliştirmek gibi kararların arkasında ihtiyaçlar, merak, duygular ve kişisel tercihler bulunabilir.

Bu nedenle insan davranışlarının önemli bir bölümü amaçlar etrafında şekillenir.

Bilgisayarların Görevleri Vardır

Bilgisayarlar çok sayıda işi gerçekleştirebilir. Bir program çalıştırabilir, karmaşık hesaplamalar yapabilir, veri depolayabilir veya sorulara cevap verebilir.

Ancak bu görevlerin gerçekleştirilmesi ile bilgisayarın kendi amacını belirlemesi aynı şey değildir.

Bir bilgisayar belirli bir işlemi gerçekleştirmek üzere tasarlanır veya programlanır. Sistemin yaptığı işlem ne kadar karmaşık olursa olsun, bu işlem tek başına sistemin o görevi kendi isteğiyle seçtiğini göstermez.

İnsanlar Neden Amaç Oluşturur?

İnsanların amaç belirlemesinde birçok farklı etken rol oynar. İhtiyaçlar, merak, duygular, sosyal ilişkiler, gelecek beklentileri ve kişisel değerler insanların neyi hedefleyeceğini etkileyebilir.

Üstelik insanlar yalnızca hayatta kalmak için gerekli hedefler belirlemez. Bir dağa tırmanmak, şiir yazmak, müzik bestelemek veya bir koleksiyon oluşturmak gibi doğrudan biyolojik bir zorunluluk taşımayan hedeflerin peşinden de gidebilirler.

Bu davranışlar, insan amaçlarının yalnızca dışarıdan verilen görevlerden oluşmadığını gösterir.

Bilgisayarlar Geleceği İstemez

Bir bilgisayar gelecekteki bir durumu hesaplayabilir. Örneğin belirli bir işlemin sonucunu tahmin edebilir veya bir hedefe ulaşmak için en verimli yolu bulabilir.

Ancak "daha iyi olmak", "başarılı olmak" ya da "gelecekte farklı bir durumda bulunmak" gibi bir isteğe sahip olduğuna dair kanıt yoktur.

Çünkü hesaplama ile istemek birbirinden farklıdır. Bir sistem belirli bir sonucun daha yüksek puan getireceğini hesaplayabilir; fakat bu sonucu gerçekten istediği anlamına gelmez.

Yapay Zekâ Hedef Belirliyor Gibi Görünebilir

Modern yapay zekâ sistemleri bazı durumlarda oldukça karmaşık planlar oluşturabilir. Alternatif yolları değerlendirebilir, adımları sıralayabilir ve belirlenen hedefe ulaşmak için stratejiler geliştirebilir.

Bu davranış dışarıdan bakıldığında sistemin kendi hedefini oluşturduğu izlenimini verebilir. Ancak sistemin gerçekten kendi amacını seçip seçmediği ayrı bir sorudur.

Bugünkü yapay zekâ sistemlerinde hedefler genellikle insanlar tarafından belirlenen görevler, ödül fonksiyonları, kısıtlamalar veya kullanım bağlamı üzerinden tanımlanır.

Dolayısıyla karmaşık planlama, bağımsız amaç oluşturma anlamına gelmez.

Satranç Örneği

Bir satranç programı kazanmak için milyonlarca olası hamleyi değerlendirebilir. Rakibin hamlelerini analiz edebilir, strateji oluşturabilir ve en uygun hamleyi seçebilir.

Ancak programın bütün bu işlemleri gerçekten kazanmak istediği için yaptığını söylemek doğru olmaz. Sistemin amacı, tasarımında ve çalışma biçiminde tanımlanan hedef doğrultusunda oyunu kazanmaktır.

Bir insan için "kazanmak istiyorum" ifadesinin arkasında duygu ve motivasyon bulunabilir. Satranç motorunda ise aynı hedef matematiksel bir optimizasyon problemi olarak ele alınabilir.

Motivasyon Nereden Geliyor?

İnsanlarda amaç oluşturma motivasyonla yakından ilişkilidir. Ödül beklentisi, merak, sosyal bağlar, başarı isteği ve anlam arayışı gibi birçok unsur kişinin hangi hedefleri seçeceğini etkileyebilir.

Bu motivasyonların biyolojik ve psikolojik temelleri bulunur.

Bilgisayar sistemlerinde ise aynı kavramlar çoğu zaman matematiksel hedefler veya algoritmik kurallar şeklinde temsil edilir. Bir sistem belirli bir sonucu optimize edebilir, ancak bunu insanlardaki gibi bir arzu veya ihtiyaç nedeniyle yaptığına dair kanıt bulunmaz.

Kendi Hedefini Koyan Sistemler Mümkün mü?

Araştırmacılar daha otonom yapay zekâ sistemleri üzerinde çalışıyor. Bu sistemler daha uzun görev zincirleri oluşturabiliyor, ara hedefler belirleyebiliyor ve belirli bir sonuca ulaşmak için stratejilerini değiştirebiliyor.

Ancak burada önemli bir ayrım bulunuyor.

Bir sistem kendisine verilen büyük bir hedefi gerçekleştirmek için alt hedefler oluşturabilir. Bu, sistemin kendi varlığı veya tercihleri doğrultusunda tamamen bağımsız bir amaç oluşturduğu anlamına gelmez.

Gerçek anlamda bağımsız amaç üretiminin nasıl tanımlanacağı ve bunun bilinç gerektirip gerektirmediği ise hâlâ araştırılan konular arasında yer alıyor.

Amaç ve Bilinç Arasındaki İlişki

Bazı araştırmacılar amaç oluşturmanın bilinç, öz farkındalık ve motivasyon gibi kavramlarla bağlantılı olabileceğini düşünüyor. Çünkü bir hedef seçmek, yalnızca seçenekleri hesaplamayı değil, seçeneklerden birini neden tercih ettiğini de açıklamayı gerektirebilir.

Fakat bunun zorunlu bir ilişki olup olmadığı kesin olarak bilinmiyor.

Bir makinenin bilinçli olmadan karmaşık hedefler takip edip edemeyeceği ile gerçekten kendi amaçlarını oluşturup oluşturamayacağı, yapay zekâ araştırmalarının önemli felsefi sorularından biri olmaya devam ediyor.

Bir Gün Değişebilir mi?

Gelecekte daha gelişmiş yapay sistemlerin ortaya çıkmasıyla bu sorular daha da önemli hale gelebilir.

Bir sistem kendi davranışlarını uzun süreli olarak değerlendirebilir, yeni ara hedefler oluşturabilir ve başlangıçta öngörülmeyen stratejiler geliştirebilir. Ancak bu davranışların "kendi amacını oluşturmak" olarak kabul edilip edilmeyeceği, sistemin nasıl tasarlandığı ve amaç kavramının nasıl tanımlandığına bağlı olacaktır.

Bugünkü bilgisayarlar ve yapay zekâ sistemleri için ise en güvenli ayrım şudur: Kendi hedeflerini seçmekten çok, kendilerine verilen hedefleri gerçekleştirmek üzere çalışırlar.

İnsanlığın Gücü

İnsanlık tarihindeki birçok büyük gelişmenin arkasında insanların kendi hedeflerini belirlemesi bulunuyor. Yeni kıtaları keşfetmek, yeni teknolojiler geliştirmek, hastalıklara çözüm aramak veya daha önce mümkün olmadığı düşünülen şeyleri gerçekleştirmek önce bir hedef olarak ortaya çıktı.

İnsanlar yalnızca mevcut görevleri yerine getirmedi; neyi başarmak istediklerini de belirledi.

Bu özellik, insan uygarlığının gelişiminde önemli bir rol oynadı.

Kod ile Hayal Arasındaki Fark

Bilgisayarlar görevleri yerine getirebilir, seçenekleri değerlendirebilir ve karmaşık planlar oluşturabilir. İnsanlar ise bunların yanında henüz gerçekleşmemiş bir şeyi isteme, kendilerine yeni hedefler koyma ve bu hedeflere kişisel anlam yükleme yeteneğine sahiptir.

Belki de insan ile makine arasındaki en ilginç ayrımlardan biri burada ortaya çıkıyor.

Bir bilgisayar ne kadar güçlü olursa olsun, bugün için kendi başına uyanıp "Bugün yeni bir şey başarmak istiyorum" dediğini gösteren bir kanıt bulunmuyor.

Çünkü bir hedefi gerçekleştirmek ile o hedefi istemek aynı şey değildir.

Editör Notu

Bu içerik, bilişsel bilimler, psikoloji, yapay zekâ araştırmaları ve insan motivasyonu üzerine yapılan çalışmalar temel alınarak hazırlanmıştır.