Papa XIV. Leo, yapay zekânın insan yaşamı üzerindeki etkilerinin yalnızca teknik uzmanlara veya teknoloji şirketlerine bırakılamayacağını belirterek, bu sistemlerin insanlar tarafından yönlendirilmesi ve denetlenmesi gerektiğini vurguladı. Papa’ya göre insanlar, yapay zekâ araçlarının nasıl tasarlanacağına ve kullanılacağına karar verme sorumluluğunu taşıyor; gerektiğinde bu araçların kullanımını değiştirebilmeli ya da reddedebilmelidir. Bu yaklaşım, teknolojinin sunduğu olanaklardan yararlanırken insan iradesini ve sorumluluğunu korumayı amaçlıyor.

Leo’nun Cuma günü yaptığı konuşma, yapay zekânın genel yönetimine ilişkin değerlendirmelerin yanı sıra ölümcül otonom silahlara yönelik uluslararası bir çağrı da içerdi. Papa, önümüzdeki ay Cenevre’de yapılması planlanan toplantıda Birleşmiş Milletler üyesi devletlerin, bu silahların yasaklanmasına yönelik somut adımlar atmasını istedi. İnsan müdahalesi olmaksızın hedef seçebilen ve ölümcül güç kullanabilen sistemler, bu çağrının merkezinde yer alıyor.

İnsan denetimi yapay zekâ kararlarının merkezinde olmalı

Papa’nın mesajının temelinde, teknolojik sistemlerin insan yerine karar veren bağımsız özneler olarak görülmemesi gerektiği düşüncesi bulunuyor. Leo, “Makineler araçtır, kişi değildir” diyerek yapay zekânın bir araç olarak değerlendirilmesi gerektiğini söyledi. Bu ifade, sistemlerin gelişmiş yeteneklerinin onlara insanlarla aynı türden haklar, sorumluluklar veya hukuki kişilik kazandırmaması gerektiğine ilişkin uyarısıyla birlikte ele alınıyor.

Yapay zekâ bazı görevleri hızlı ve büyük ölçekte yerine getirebilir; ancak bu kapasite, kararların ahlaki ve toplumsal sonuçlarından sorumlu tutulabileceği anlamına gelmez. Özellikle insan hayatını, özgürlüğünü veya güç kullanımını etkileyen kararlarda, sorumluluğun bir yazılıma devredilmesi ciddi sorunlar doğurabilir. Bu nedenle Papa, söz konusu kararların etkili, bilgili ve sorumlu bir insan denetimi altında kalması gerektiğini vurguluyor. İnsan denetimi yalnızca sistem çalışırken bir kişinin bulunması değil, karar sürecini anlayabilmesi, müdahale edebilmesi ve sonuçların hesabını verebilmesi anlamına geliyor.

Bu yaklaşım, insanın teknoloji karşısındaki rolünü yalnızca kullanıcı olmakla sınırlamıyor. İnsanlar yapay zekâ sistemlerinin hangi amaçlarla geliştirileceğine, hangi verilerle çalışacağına ve nerelerde kullanılacağına ilişkin seçimlerde de sorumluluk taşıyor. Papa’nın çağrısı, bu seçimlerin insan onurunu ve ortak yararı gözeten kurallarla yapılması gerektiğine işaret ediyor.

Ölümcül otonom silahların yasaklanması için çağrı

Konuşmanın en somut başlıklarından biri, ölümcül otonom silahlar oldu. Bu terim, hedef belirleme veya saldırı gibi ölümcül sonuçlar doğuran işlemleri, doğrudan ve etkili bir insan kararı olmadan gerçekleştirebilen silah sistemlerini ifade ediyor. Sistemlerin teknik özellikleri farklılık gösterebilse de tartışmanın odağındaki temel mesele, bir insanın yaşamına son verme kararının makineye bırakılıp bırakılamayacağıdır.

Papa Leo, Cenevre’de yapılacak BM toplantısında üye devletlerin bu tür silahların yasaklanmasına yönelik somut adımlar atmasını istedi. Bu çağrı, yalnızca genel bir etik kaygıyı dile getirmekle kalmıyor; uluslararası düzeyde ortak kurallar oluşturulması beklentisini de ortaya koyuyor. Devletlerin görüşmeleri, otonom silahların kullanımına ilişkin sınırların belirlenmesi ve uygulanabilir bir yasak üzerinde ilerleme sağlanması açısından önem taşıyor.

Otonom sistemlerin silahlı çatışmalarda kullanılması; hedeflerin nasıl seçildiği, hatalı kararların nasıl önleneceği ve zararın sorumluluğunun kime ait olacağı gibi soruları gündeme getiriyor. İnsan denetiminin yetersiz olduğu bir durumda, bir saldırı kararının sorumluluğunu yazılıma yüklemek mümkün olmayabilir. Bu nedenle Papa’nın vurgusu, ölümcül güç kullanımı konusunda nihai ve hesap verebilir kararın insanda kalması gerektiği yönünde.

Vatikan’ın süregelen tutumu

Otonom silahlarla ilgili bu çağrı, Vatikan’ın daha önce dile getirdiği kaygıların devamı niteliğinde. Papa Francis de 2024 yılında otonom silahların yasaklanmasını istemiş ve “Hiçbir makine, bir insanın hayatını almaya asla karar vermemeli” demişti. Papa Leo’nun Cenevre’deki toplantıya yönelik çağrısı, bu ilkenin uluslararası görüşmelerde somut karşılık bulması gerektiğini gösteriyor.

Leo’nun yapay zekâya yönelik ilgisi, yalnızca silahlarla sınırlı değil. Papa, teknolojinin ilerleyişinin insanlık ve kilise açısından önemli sonuçlar doğuracağını daha önce de gündeme getirdi. Papalık adını seçmesinin nedenini açıklarken yapay zekâ çağının ortaya çıkardığı meselelerle yüzleşme gereğine işaret etti. Bu tercih, teknolojik dönüşümün ekonomik, toplumsal ve etik boyutlarının birlikte değerlendirilmesi gerektiğine dair bir mesaj olarak yorumlanıyor.

Konuşmada anılan XIII. Leo da Sanayi Devrimi döneminde kiliseye liderlik etmişti. Bu tarihsel gönderme, yeni teknolojilerin toplumu dönüştürdüğü dönemlerde insanın ve toplumun korunmasına yönelik tartışmaların önemini hatırlatıyor. Ancak günümüzde yapay zekânın etkisi, üretim ve çalışma hayatının ötesine geçerek bilgiye erişimden güvenliğe, kamu hizmetlerinden silahlı çatışmalara kadar uzanıyor.

Ortak standartlar, bağımsız denetim ve hesap verebilirlik

Papa Leo, konuşmasının sonunda uluslararası kurumlara da çağrıda bulunarak yapay zekâ kaynaklı risklerin ortak yarar gözetilerek ele alınmasını istedi. Bu amaçla ortak standartlar, bağımsız denetim ve açık hesap verebilirlik mekanizmalarının oluşturulmasının önemini vurguladı. Ortak standartlar, farklı ülkelerde ve kuruluşlarda uygulanan kurallar arasında asgari bir uyum sağlayabilir. Bağımsız denetim ise sistemlerin nasıl çalıştığının ve kararlarının ne tür sonuçlar doğurduğunun incelenmesine yardımcı olabilir.

Hesap verebilirlik mekanizmaları da bir sistemin kararından zarar gören kişilerin başvurabileceği yolların açık olmasını gerektiriyor. Yapay zekâ destekli bir kararın incelenebilmesi, gerektiğinde karara itiraz edilebilmesi ve ortaya çıkan zararın giderilmesi bu çerçevenin parçalarıdır. Böylece sorumluluk belirsiz bir biçimde teknolojiye veya yazılıma aktarılmak yerine, sistemleri geliştiren ve kullanan insanlarla kurumların yükümlülükleri tanımlanabilir.

Cenevre’de yapılacak toplantı, bu ilkelerin ölümcül otonom silahlar konusunda nasıl uygulanacağına ilişkin önemli bir diplomatik aşama olacak. Papa Leo’nun beklentisi, devletlerin yalnızca riskleri tartışmakla kalmayıp yasaklama yönünde ilerleme sağlayacak adımlar üzerinde uzlaşması. Daha geniş çerçevede ise mesaj, yapay zekânın geliştirilmesi ve kullanımına ilişkin kararların insan denetimine açık, incelenebilir ve gerektiğinde düzeltilebilir olması gerektiğini hatırlatıyor.

Papa’nın çağrısının merkezindeki ilke açık: Yapay zekâ insanlara yardımcı olan bir araç olabilir, ancak insan hayatını ve özgürlüğünü belirleyen kararların sorumluluğunu üstlenemez. Bu kararların sonuçlarını değerlendirme, müdahale etme ve hesap verme yükümlülüğü insanlarda ve kurumlarda kalmalıdır.