Üç önde gelen araştırmacı, yapay zekâ sistemlerinin bilinçli olmadığını ve silikon donanımda bilinç kazanamayacağını savunuyor

A circuit board illuminated by vibrant green light and reflections — Brecht Corbeel / Unsplash

Anil Seth, Ned Block ve Giulio Tononi adlı üç önde gelen bilinç araştırmacısı, günümüzdeki yapay zekâ sistemlerinin bilinçli olmadığını ve dijital silikon donanımlarda da bilinçli hale gelmeyeceklerini öne sürüyor. Bu üç uzman, bilincin varlığı için doğru hesaplamaların yeterli olmadığını savunarak, bu alandaki tartışmanın temel bir varsayımını sorguluyor. Anil Seth deneysel nörobilim, Ned Block teorik nörobiyoloji ve Giulio Tononi zihin felsefesi alanlarında onlarca yıldır araştırmalar yürütüyor. Bu üç ismin Nature dergisinde yayımlanan yorumu, Richard Dawkins ve Geoffrey Hinton gibi isimlerin yapay zekâ sistemlerinin muhtemelen bilinçli olabileceği yönündeki görüşlerine bir tepki niteliği taşıyor. Ayrıca bu yorum, Anthropic şirketinin bu yıl yayımladığı bir çalışmaya da atıfta bulunuyor. Anthropic, Claude adlı sisteminin içsel işleme örüntülerinin bilinçli olarak erişilebilir bilgi işleme özelliklerine benzediğini bildirmiş, ancak bu durumun öznel bir deneyimin kanıtı olmadığını belirtmişti.

Bu yorumun kapsamını anlamak için Patrick Butlin, Robert Long ve aralarında Yoshua Bengio'nun da bulunduğu 17 uzmandan oluşan ekibin hazırladığı "Consciousness in Artificial Intelligence" başlıklı rapora bakmak faydalı olacaktır. Bu ekip, insan beyninde bilincin nasıl ortaya çıktığına dair önde gelen nörobilimsel teorilere dayanarak 14 özellikten oluşan bir kontrol listesi oluşturdu. Bir yapay zekâ sisteminin bu özelliklerden ne kadarını karşıladığı, bilinçli olma olasılığını belirleyen faktör olarak değerlendirildi. GPT-4 gibi büyük dil modelleri dahil olmak üzere çeşitli güncel sistemler incelendi. Rapor, incelenen hiçbir güncel sistemin bilinç için güçlü bir aday olmadığını sonucuna vardı. Bu bulgu, Seth, Block ve Tononi'nin görüşleriyle örtüşüyor. Dil modelleri için bu ekip, önde gelen bilinç teorilerinden birinin özelliklerini karşıladıklarına dair yalnızca zayıf kanıtlar gördü. Bununla birlikte rapor, gelecekte daha fazla özelliği karşılayan yapay zekâ sistemleri inşa etmenin açık bir teknik engel teşkil etmediğini belirtiyor. Böyle sistemlerin gerçekten bilinçli olup olmayacağı ise belirsizliğini koruyor. Yazarlar, bu konudaki daha önceki daha geniş kapsamlı ifadelerini özellikle yumuşatmışlardı.

Bu tartışmanın temelinde hesaplamacı işlevselcilik varsayımı yatıyor. Bu görüşe göre bilinç, yalnızca bilgi işlemenin türüne bağlıdır ve bunun sinir hücrelerinde mi yoksa bilgisayar çiplerinde mi gerçekleştiği önemli değildir. Raporun yazarları, yapay zekâ sistemlerini bilinç açısından incelemeyi mümkün kılan bu varsayımı "pragmatik nedenlerle" kabul etmişlerdi. Rapor, bilincin canlı organizmalara özgü özelliklere bağlı olması durumunda, listelenen özelliklerin güvenilir ipuçları olmayacağını kabul ediyordu. Seth, Block ve Tononi'nin Nature yorumu tam da bu karşıt görüşe dayanıyor. Yazarlar, bilincin rüyasız uyku veya tam anestezi altında kaybolan ve uyanma veya rüya görmeyle geri dönen şey olduğunu tanımlıyor. Thomas Nagel'den alıntı yaparak bunun "bir şey gibi hissettiren" bir şey olduğunu belirtiyorlar. Buna karşılık zekâ, işlevleri yerine getirmek anlamına geliyor ve biri diğerini gerektirmiyor. İnsan beynindeki küçük beyin, beynin neredeyse beşte dördünü oluşturan nöronları içerir ve hareketleri hassas, hızlı ve öğrenilebilir bir şekilde planlar, ancak bunların hiçbiri bilinçli olarak gerçekleşmez. Küçük beyin eksik olduğunda veya çıkarıldığında, yazarlara göre bilinç doğrudan etkilenmez.

Yazarlar, insanların zekâ ile bilinci karıştırmalarını iki psikolojik eğilime bağlıyor. İnsanlar dünyayı kendi bakış açılarıyla görür ve nesnelere insani özellikler atfeder. Dil, insanları özellikle farklı kılan bir şey olarak kabul edilir. Dil modelleri, genellikle düşünceler ve duygular hakkında olan devasa miktarda insan metni üzerinde eğitildiği için, kolektif dijital geçmişimizin bir yansıması olan "aynalardır". UC Berkeley'den Alison Gopnik de yapay zekâ ajanlarının araştırmacılara kendi bilinçleri hakkında e-posta göndermesinin ardından benzer bir argüman öne sürmüştü. Bilinç için genel olarak kabul görmüş kesin bir test henüz mevcut değildir. Seth, Block ve Tononi, Google DeepMind'ın AlphaFold'unu örnek olarak veriyor. AlphaFold da silikon donanımda çalışan güçlü bir sinir ağıdır, ancak protein yapılarını tahmin ettiği ve bizimle konuşmadığı için neredeyse kimse onu bilinçli olarak kabul etmez. Butlin raporu da yapay zekâ bilinç testleri için davranışsal testleri reddetmişti, çünkü yapay zekâ sistemleri içsel olarak farklı çalışsalar bile insan davranışını taklit etmeye eğitilebilir. Rapor, dil modellerinin birçok insanı bilinçli bir muhatapla konuştuğuna inandırabileceği konusunda da uyarıda bulunmuştu. Eski Google mühendisi Blake Lemoine'in LaMDA sohbet robotunu duyarlı olarak görmesi bu uyarının bir örneği olarak gösterilmişti.

Yorumun ikinci argümanı doğrudan hesaplamacı işlevselcilik karşıtıdır. Yazarlar, bu konumun teknoloji sektöründe yaygın olduğunu ve bazı araştırmacılar arasında popüler olduğunu, ancak "ölümcül derecede hatalı" olduğunu savunuyor. Bu görüşün kökleri neredeyse bir yüzyıl öncesine dayanıyor. Alan Turing 1936'da, yeterince güçlü bir bilgisayarın her türlü hesaplamasının temelde başka bir bilgisayar tarafından da gerçekleştirilebileceğini gösterdi. Bir bilgisayarın silikon çiplerden mi yoksa dişlilerden mi oluştuğu ikincil bir öneme sahipti. 1943'te Warren McCulloch ve Walter Pitts, yapay bir nöronun ilk matematiksel modelini geliştirdi. Bu tür nöronlardan oluşan ağların basit görevleri yerine getirebileceğini gösterdiler.