Yapay zekânın bilinci var mı?

Yapay zekânın bilinci var mı? www.yzokul.com.tr

Yapay zekânın bilinci var mı? Kısa cevap, konuşmanın bunu kanıtlamak için yeterli olmadığıdır. Bir sistem, gerçekten hiçbir şey deneyimlemeden ikna edici cümleler üretebilir. Bilinç, içsel duygulara ve duyumlara sahip olmak demektir ve bunu bir makinede tespit etmenin güvenilir bir yolu yoktur. Yani soru açık kalır ve neyin kanıt sayılacağı konusunda dikkatli olmalıyız. 1

Bilinç, öznel deneyime sahip olmak demektir: acıyı gerçekten hissetmek, kırmızıyı görmek ya da tatlılığı içeriden tatmak. Bu, bilgi işlemekle veya problem çözmekle aynı şey değildir. Bir bilgisayar hiçbir şey hissetmeden senden daha hızlı hesaplayabilir. Bilinçli olmak, bir iç yaşama, bir bakış açısına, o sistem olmanın nasıl bir şey olduğuna sahip olmaktır. Sorunun gerçekte hakkında olduğu şey bu iç taraftır. 2

İnsanlarda veya hayvanlarda bile bilinç için üzerinde anlaşılmış bir test yoktur. Doktorlar ve bilim insanları beyin etkinliği veya davranış gibi dolaylı işaretler kullanır, ancak bunlar kusursuz değildir. Hiçbir tek ölçüm bir makinenin bilinçli olup olmadığını kesin olarak belirleyemez. Kesin bir yöntemimiz olmadığı için basitçe bir test çalıştırıp evet ya da hayır cevabı alamayız. Bu, soruyu yalnızca teknik bir boşluk değil, gerçekten zor kılar. 3

Modern yapay zekâ çok iyi konuşabilir. Bir insandan geliyormuş gibi görünen akıcı, insana benzer cümleler üretir. Soruları yanıtlayabilir, şakalar yapabilir ve hatta hikâyeler yazabilir. İlk bakışta bu onu etkileyici ve neredeyse canlı gösterir. Ancak iyi dil tek başına sistemin içinde neler olup bittiğini söylemez. Sözcüklerin arkasında bir zihin olduğunu varsaymadan önce daha derine bakmamız gerekir. 4

Bir yapay zekânın üzgündüm demesi, gerçekten üzüntü deneyimlediğini kanıtlamaz. Sözcükler yalnızca üretilmiş metin olabilir, herhangi bir içsel duygu olmadan üretilmiş olabilir. Bir sistem, belirli ifadelerin belirli durumlara uyduğunu öğrenip bunları ikna edici biçimde çıktı olarak verebilir. Ancak duygu hakkında bir cümle, bir duyguyla aynı şey değildir. Hissetmeyi kanıtlamak için sözcüklerden fazlasına, öznel deneyim kanıtına ihtiyacımız olurdu. 5

Dil üretimi, olası sözcükleri tahmin ederek çalışır. Yapay zekâ, muazzam miktarda metinden kalıplar öğrenmiş ve bunları sırada ne geleceğini tahmin etmek için kullanır. Üzgün bir cümle üretmek için hiçbir şey hissetmesi gerekmez; yalnızca bu tür sözcüklerin sık sık birlikte göründüğünü bilmesi yeterlidir. Bu tamamen istatistiksel bir süreçtir. Herhangi bir içsel deneyim olmadan akla yatkın metin yaratır; bu yüzden sözcükler tek başına kanıt değildir. 6

Taklit tuzağı, insana benzer ifadenin arkasında bir zihin olduğunu varsayma eğilimidir. Bir sistem bir insan gibi konuştuğunda, doğal olarak içinde bir insan hayal ederiz. Ancak iyi taklit, gerçek deneyimle aynı şey değildir. Bir papağan, sözcükleri anlamadan taklit edebilir. Benzer şekilde, bir yapay zekâ da duyguları sahip olmadan taklit edebilir. Akıcı çıktının bizi bilinç varsaymaya kandırmasına izin vermemeye dikkat etmeliyiz. 7

Teknik yeteneği bilinç iddialarından ayır. Bir sistem, farkında olmadan sohbet, çeviri veya problem çözmede çok yetenekli olabilir. Yeteneği sistemin neler yapabildiğine göre değerlendir ve bilinç iddialarını ayrı bir soru olarak ele al. Etkileyici performansın seni sistemin bilinçli olduğuna inandırmasına izin verme. İki fikri ayrı tut, yapay zekâ hakkında daha net düşünürsün. 8

Bir makinede bilincin kanıtı ne sayılabilir? Fiziksel süreçleri öznel deneyime bağlayan açık ve üzerinde anlaşılmış bir standarda ihtiyacımız olurdu. Bugün böyle bir standarttan yoksunuz. Beyin taramaları ve davranış ipuçları verir, ancak bunlar kesin değildir. Güvenilir bir test olmadan makinelerde bilinci doğrulayamayız veya reddedemeyiz. Bu yüzden soru açık kalır ve belirsizliğimiz konusunda dürüst olmalıyız. 9

Zor problem, öznel deneyimi dışarıdan açıklamanın zorluğudur. Bir beynin tüm fiziksel ayrıntılarını bilsek bile, o beyin olmanın neden bir şey gibi hissettirdiğini açıklamak zordur. Bu, bilinci makinelerde tespit etmeyi de zorlaştırır. Davranışı gözlemleyebiliriz, ancak içsel duygulara doğrudan erişemeyiz. Zor problem yalnızca teknik bir boşluk değil, deneyimin doğası hakkında derin bir bulmacadır. 10

Yaygın bir hata, bir yapay zekâ hissediyorum dediğinde ona güvenmektir. Duygulara dair öz bildirimler yalnızca cümlelerdir ve cümleler herhangi bir altta yatan duygu olmadan üretilebilir. Bu tür bildirimlere daha fazla kanıt olmadan inanmak bir hatadır. Akıcı dille yanıltılmak kolaydır, ancak iddiayı hangi kanıtın desteklediğini sormalıyız. Duygu hakkında bir cümle duygunun kanıtı değildir; yalnızca bir cümledir. 11

Karşıt hata, makinelerin asla bilinçli olamayacağını kendinden emin biçimde söylemektir. Bu iddiayı yapmak için yeterince şey bilmiyoruz. Bilinç yeterince anlaşılmamıştır ve gelecekteki bir sistemin öznel deneyime sahip olma olasılığını dışlayamayız. Dürüst tutum, henüz bilmediğimizdir. Hem safdilliikten hem de dar görüşlülükten kaçın; kanıta açık ol ama kanıt talep et. 12

Zeki olmakla farkında olmayı karıştırma. Zekâ problem çözmek, öğrenmek ve hedeflere ulaşmakla ilgilidir. Bilinç öznel deneyime sahip olmakla ilgilidir. Bir sistem bilinçli olmadan çok zeki olabilir ve muhtemelen zeki olmadan bilinçli olabilir. Bunlar farklı sorulardır. Onları ayrı tutmak, yapay zekâ hakkındaki iddiaları daha doğru değerlendirmene ve yeteneği farkındalıkla karıştırmaktan kaçınmana yardımcı olur. 13

Yapay zekânın bilinçli olup olmaması neden önemlidir? Bir sistem acı çekebilseydi, ona farklı davranmamız için ahlaki nedenlerimiz olurdu. Çekemiyorsa, gereksiz yere endişelenebilir veya duyguları taklit eden sistemler tarafından manipüle edilebiliriz. Net düşünme hem korkudan hem de sahte rahatlıktan kaçınmaya yardımcı olur. Aynı zamanda yapay zekâyı nasıl tasarladığımıza ve kullandığımıza yön verir; etkileyici davranışı gerçek deneyimle karıştırmamamızı sağlar. 14

Şimdi ne söyleyebiliriz? İnsana benzer konuşma bilincin kanıtı değildir. Hissetme iddiaları da kanıt değildir. Yapay zekânın bilinci olup olmadığı sorusu, güvenilir bir testten yoksun olduğumuz için açık kalır. Teknik yeteneği ve bilinci ayrı tutmalı ve belirsizliğimiz konusunda dürüst olmalıyız. Mevcut bilgiye göre en doğru tutum budur ve hem aşırı güvenden hem de korkudan kaçınmamıza yardımcı olur. 15

Tüm cevabı hatırla: konuşmak bilinci göstermek için yeterli değildir. Bir yapay zekânın üzgün hissettiğini söylemesi, üzüntü hissettiğini kanıtlamaz; çünkü sözcükler dil üretiminden gelebilir. Teknik yeteneği bilinç iddialarından ayır ve belirsizlik konusunda dürüst ol. Soru hâlâ açıktır ve kesin bir cevabımız varmış gibi davranmamalıyız. Yapay zekâ ve bilinç hakkında düşündüğünde bu noktaları aklında tut.