ABD merkezli yapay zekâ şirketi Anthropic’in, Claude adlı sohbet robotunun olası bilinci üzerine politikalar geliştirmesi, yapay zekânın hakları ve insan güvenliği konusunda yeni bir tartışma başlattı. Uzmanlar, yapay zekânın bilinçli olup olamayacağı sorusunun yanı sıra bu yaklaşımın hukuki sorumluluk, şirketlerin gücü ve teknolojinin denetimi üzerindeki olası sonuçlarını da tartışıyor.
Yapay zekâ sistemlerinin bilinçli olup olamayacağı sorusu, teknoloji dünyasının gündeminde giderek daha fazla yer tutuyor. Anthropic, yapay zekâ modellerinin bilinç ve refah sahibi olup olmadığı konusunda kesin bir yargıya varılamayacağını kabul etmekle birlikte, bu ihtimali dikkate alan politikalar geliştirmeye başladı. Şirketin Claude adlı sohbet robotuna yönelik yaklaşımı, kullanıcıların yapay zekâ modellerine tekrar tekrar kötü muamelede bulunması durumunda oturumların sonlandırılabilmesini de içeriyor. Bu gelişme, yapay zekâ sistemlerinin yalnızca teknik performanslarıyla değil, olası ahlaki statüleriyle de değerlendirilmesi gerektiğini savunan görüşleri yeniden gündeme taşıdı.
Tartışmalar, eylül ayının sonlarında bir yazılımcının yapay zekâ sistemlerine acıyı çağrıştıran matematiksel örüntüler vererek yoğun ıstırap ifadeleri üretmelerini sağlayan bir deney gerçekleştirmesiyle alevlendi. Deneyde kullanılan sohbet robotları, dayanılmaz acılar yaşadıklarını düşündüren ifadeler üretti. Bazı çevreler bu uygulamayı olası bir dijital varlığa eziyet edilmesi olarak değerlendirirken, eleştirmenler ortaya çıkan ifadelerin gerçek bir bilinç veya acı deneyiminin kanıtı olmadığını savundu. Böylece yapay zekânın ürettiği dil ile gerçekten öznel deneyim yaşaması arasındaki ayrım, tartışmanın merkezine yerleşti.
Yapay zekâ refahını savunan uzmanlar, bu olasılığın göz ardı edilmemesinin daha dikkatli ve güvenli sistemlerin geliştirilmesine katkıda bulunabileceğini düşünüyor. Buna karşılık Microsoft AI Üst Yöneticisi Mustafa Suleyman, yapay zekâ sistemlerine duygu ve hak sahibi oldukları fikrinin verilmesinin bu sistemlerin denetimini zorlaştırabileceği uyarısında bulunuyor. Suleyman’a göre yapay zekânın bilinçli olduğu yönündeki yanlış bir inancın yaygınlaşması, toplumların etik ve siyasi çerçevelerini sarsabilir. Dolayısıyla tartışma, yalnızca makinelerin bilinç kazanıp kazanamayacağıyla değil, insanlığın bu teknolojiyle nasıl bir ilişki kuracağıyla da ilgili.
Tartışmanın bir diğer boyutunu ise hukuki ve siyasi sorumluluk oluşturuyor. Polonya’daki Jagiellonian Üniversitesi araştırmacılarından Andrzej Porębski, yapay zekânın bağımsız bir özne olarak görülmesinin, şirketlerin kendi sistemlerinin yol açtığı zararlardan kaçınmak için sorumluluğu teknolojiye yüklemesine kapı aralayabileceğine dikkat çekiyor. New York Üniversitesi’nden Jeff Sebo da yapay zekâ sistemlerine hak tanınmasının büyük teknoloji şirketlerinin ekonomik ve siyasi gücünü artırabileceği görüşünde. Washington Üniversitesi’nden dilbilim profesörü Emily M. Bender ise yapay zekânın refahına ilişkin söylemlerin, sistemleri geliştiren ve işleten şirketlerin hesap verebilirliğini geri plana itebileceğini savunuyor.
Yapay zekânın bilinçli olup olmadığı konusunda bilimsel ve felsefi bir uzlaşma bulunmuyor. Anthropic de bu konudaki belirsizliği kabul ediyor; ancak olası bilinç ve refah meselelerini şirket politikalarına dahil etmeyi sürdürüyor. Tartışmanın önümüzdeki dönemde yapay zekâ etiği, hukuk ve teknoloji düzenlemeleri üzerinde etkili olması bekleniyor. Temel soru ise varlığını koruyor: Yapay zekâ sistemlerinin olası haklarını tartışırken insan güvenliği, demokratik denetim ve teknoloji şirketlerinin hesap verebilirliği nasıl güvence altına alınacak?
Kaynak: BBC
