Papa XIV. Leo, yapay zek\u00e2n\u0131n insan ya\u015fam\u0131 \u00fczerindeki etkilerinin yaln\u0131zca teknik uzmanlara veya teknoloji \u015firketlerine b\u0131rak\u0131lamayaca\u011f\u0131n\u0131 belirterek, bu sistemlerin insanlar taraf\u0131ndan y\u00f6nlendirilmesi ve denetlenmesi gerekti\u011fini vurgulad\u0131. Papa\u2019ya g\u00f6re insanlar, yapay zek\u00e2 ara\u00e7lar\u0131n\u0131n nas\u0131l tasarlanaca\u011f\u0131na ve kullan\u0131laca\u011f\u0131na karar verme sorumlulu\u011funu ta\u015f\u0131yor; gerekti\u011finde bu ara\u00e7lar\u0131n kullan\u0131m\u0131n\u0131 de\u011fi\u015ftirebilmeli ya da reddedebilmelidir. Bu yakla\u015f\u0131m, teknolojinin sundu\u011fu olanaklardan yararlan\u0131rken insan iradesini ve sorumlulu\u011funu korumay\u0131 ama\u00e7l\u0131yor.<\/p>\n
Leo\u2019nun Cuma g\u00fcn\u00fc yapt\u0131\u011f\u0131 konu\u015fma, yapay zek\u00e2n\u0131n genel y\u00f6netimine ili\u015fkin de\u011ferlendirmelerin yan\u0131 s\u0131ra \u00f6l\u00fcmc\u00fcl otonom silahlara y\u00f6nelik uluslararas\u0131 bir \u00e7a\u011fr\u0131 da i\u00e7erdi. Papa, \u00f6n\u00fcm\u00fczdeki ay Cenevre\u2019de yap\u0131lmas\u0131 planlanan toplant\u0131da Birle\u015fmi\u015f Milletler \u00fcyesi devletlerin, bu silahlar\u0131n yasaklanmas\u0131na y\u00f6nelik somut ad\u0131mlar atmas\u0131n\u0131 istedi. \u0130nsan m\u00fcdahalesi olmaks\u0131z\u0131n hedef se\u00e7ebilen ve \u00f6l\u00fcmc\u00fcl g\u00fc\u00e7 kullanabilen sistemler, bu \u00e7a\u011fr\u0131n\u0131n merkezinde yer al\u0131yor.<\/p>\n
Papa\u2019n\u0131n mesaj\u0131n\u0131n temelinde, teknolojik sistemlerin insan yerine karar veren ba\u011f\u0131ms\u0131z \u00f6zneler olarak g\u00f6r\u00fclmemesi gerekti\u011fi d\u00fc\u015f\u00fcncesi bulunuyor. Leo, \u201cMakineler ara\u00e7t\u0131r, ki\u015fi de\u011fildir\u201d<\/strong> diyerek yapay zek\u00e2n\u0131n bir ara\u00e7 olarak de\u011ferlendirilmesi gerekti\u011fini s\u00f6yledi. Bu ifade, sistemlerin geli\u015fmi\u015f yeteneklerinin onlara insanlarla ayn\u0131 t\u00fcrden haklar, sorumluluklar veya hukuki ki\u015filik kazand\u0131rmamas\u0131 gerekti\u011fine ili\u015fkin uyar\u0131s\u0131yla birlikte ele al\u0131n\u0131yor.<\/p>\n Yapay zek\u00e2 baz\u0131 g\u00f6revleri h\u0131zl\u0131 ve b\u00fcy\u00fck \u00f6l\u00e7ekte yerine getirebilir; ancak bu kapasite, kararlar\u0131n ahlaki ve toplumsal sonu\u00e7lar\u0131ndan sorumlu tutulabilece\u011fi anlam\u0131na gelmez. \u00d6zellikle insan hayat\u0131n\u0131, \u00f6zg\u00fcrl\u00fc\u011f\u00fcn\u00fc veya g\u00fc\u00e7 kullan\u0131m\u0131n\u0131 etkileyen kararlarda, sorumlulu\u011fun bir yaz\u0131l\u0131ma devredilmesi ciddi sorunlar do\u011furabilir. Bu nedenle Papa, s\u00f6z konusu kararlar\u0131n etkili, bilgili ve sorumlu bir insan denetimi alt\u0131nda<\/strong> kalmas\u0131 gerekti\u011fini vurguluyor. \u0130nsan denetimi yaln\u0131zca sistem \u00e7al\u0131\u015f\u0131rken bir ki\u015finin bulunmas\u0131 de\u011fil, karar s\u00fcrecini anlayabilmesi, m\u00fcdahale edebilmesi ve sonu\u00e7lar\u0131n hesab\u0131n\u0131 verebilmesi anlam\u0131na geliyor.<\/p>\n Bu yakla\u015f\u0131m, insan\u0131n teknoloji kar\u015f\u0131s\u0131ndaki rol\u00fcn\u00fc yaln\u0131zca kullan\u0131c\u0131 olmakla s\u0131n\u0131rlam\u0131yor. \u0130nsanlar yapay zek\u00e2 sistemlerinin hangi ama\u00e7larla geli\u015ftirilece\u011fine, hangi verilerle \u00e7al\u0131\u015faca\u011f\u0131na ve nerelerde kullan\u0131laca\u011f\u0131na ili\u015fkin se\u00e7imlerde de sorumluluk ta\u015f\u0131yor. Papa\u2019n\u0131n \u00e7a\u011fr\u0131s\u0131, bu se\u00e7imlerin insan onurunu ve ortak yarar\u0131 g\u00f6zeten kurallarla yap\u0131lmas\u0131 gerekti\u011fine i\u015faret ediyor.<\/p>\n Konu\u015fman\u0131n en somut ba\u015fl\u0131klar\u0131ndan biri, \u00f6l\u00fcmc\u00fcl otonom silahlar oldu. Bu terim, hedef belirleme veya sald\u0131r\u0131 gibi \u00f6l\u00fcmc\u00fcl sonu\u00e7lar do\u011furan i\u015flemleri, do\u011frudan ve etkili bir insan karar\u0131 olmadan ger\u00e7ekle\u015ftirebilen silah sistemlerini ifade ediyor. Sistemlerin teknik \u00f6zellikleri farkl\u0131l\u0131k g\u00f6sterebilse de tart\u0131\u015fman\u0131n oda\u011f\u0131ndaki temel mesele, bir insan\u0131n ya\u015fam\u0131na son verme karar\u0131n\u0131n makineye b\u0131rak\u0131l\u0131p b\u0131rak\u0131lamayaca\u011f\u0131d\u0131r.<\/p>\n Papa Leo, Cenevre\u2019de yap\u0131lacak BM toplant\u0131s\u0131nda \u00fcye devletlerin bu t\u00fcr silahlar\u0131n yasaklanmas\u0131na y\u00f6nelik somut ad\u0131mlar<\/strong> atmas\u0131n\u0131 istedi. Bu \u00e7a\u011fr\u0131, yaln\u0131zca genel bir etik kayg\u0131y\u0131 dile getirmekle kalm\u0131yor; uluslararas\u0131 d\u00fczeyde ortak kurallar olu\u015fturulmas\u0131 beklentisini de ortaya koyuyor. Devletlerin g\u00f6r\u00fc\u015fmeleri, otonom silahlar\u0131n kullan\u0131m\u0131na ili\u015fkin s\u0131n\u0131rlar\u0131n belirlenmesi ve uygulanabilir bir yasak \u00fczerinde ilerleme sa\u011flanmas\u0131 a\u00e7\u0131s\u0131ndan \u00f6nem ta\u015f\u0131yor.<\/p>\n Otonom sistemlerin silahl\u0131 \u00e7at\u0131\u015fmalarda kullan\u0131lmas\u0131; hedeflerin nas\u0131l se\u00e7ildi\u011fi, hatal\u0131 kararlar\u0131n nas\u0131l \u00f6nlenece\u011fi ve zarar\u0131n sorumlulu\u011funun kime ait olaca\u011f\u0131 gibi sorular\u0131 g\u00fcndeme getiriyor. \u0130nsan denetiminin yetersiz oldu\u011fu bir durumda, bir sald\u0131r\u0131 karar\u0131n\u0131n sorumlulu\u011funu yaz\u0131l\u0131ma y\u00fcklemek m\u00fcmk\u00fcn olmayabilir. Bu nedenle Papa\u2019n\u0131n vurgusu, \u00f6l\u00fcmc\u00fcl g\u00fc\u00e7 kullan\u0131m\u0131 konusunda nihai ve hesap verebilir karar\u0131n insanda kalmas\u0131 gerekti\u011fi y\u00f6n\u00fcnde.<\/p>\n Otonom silahlarla ilgili bu \u00e7a\u011fr\u0131, Vatikan\u2019\u0131n daha \u00f6nce dile getirdi\u011fi kayg\u0131lar\u0131n devam\u0131 niteli\u011finde. Papa Francis de 2024 y\u0131l\u0131nda otonom silahlar\u0131n yasaklanmas\u0131n\u0131 istemi\u015f ve \u201cHi\u00e7bir makine, bir insan\u0131n hayat\u0131n\u0131 almaya asla karar vermemeli\u201d<\/strong> demi\u015fti. Papa Leo\u2019nun Cenevre\u2019deki toplant\u0131ya y\u00f6nelik \u00e7a\u011fr\u0131s\u0131, bu ilkenin uluslararas\u0131 g\u00f6r\u00fc\u015fmelerde somut kar\u015f\u0131l\u0131k bulmas\u0131 gerekti\u011fini g\u00f6steriyor.<\/p>\n Leo\u2019nun yapay zek\u00e2ya y\u00f6nelik ilgisi, yaln\u0131zca silahlarla s\u0131n\u0131rl\u0131 de\u011fil. Papa, teknolojinin ilerleyi\u015finin insanl\u0131k ve kilise a\u00e7\u0131s\u0131ndan \u00f6nemli sonu\u00e7lar do\u011furaca\u011f\u0131n\u0131 daha \u00f6nce de g\u00fcndeme getirdi. Papal\u0131k ad\u0131n\u0131 se\u00e7mesinin nedenini a\u00e7\u0131klarken yapay zek\u00e2 \u00e7a\u011f\u0131n\u0131n ortaya \u00e7\u0131kard\u0131\u011f\u0131 meselelerle y\u00fczle\u015fme gere\u011fine i\u015faret etti. Bu tercih, teknolojik d\u00f6n\u00fc\u015f\u00fcm\u00fcn ekonomik, toplumsal ve etik boyutlar\u0131n\u0131n birlikte de\u011ferlendirilmesi gerekti\u011fine dair bir mesaj olarak yorumlan\u0131yor.<\/p>\n Konu\u015fmada an\u0131lan XIII. Leo da Sanayi Devrimi d\u00f6neminde kiliseye liderlik etmi\u015fti. Bu tarihsel g\u00f6nderme, yeni teknolojilerin toplumu d\u00f6n\u00fc\u015ft\u00fcrd\u00fc\u011f\u00fc d\u00f6nemlerde insan\u0131n ve toplumun korunmas\u0131na y\u00f6nelik tart\u0131\u015fmalar\u0131n \u00f6nemini hat\u0131rlat\u0131yor. Ancak g\u00fcn\u00fcm\u00fczde yapay zek\u00e2n\u0131n etkisi, \u00fcretim ve \u00e7al\u0131\u015fma hayat\u0131n\u0131n \u00f6tesine ge\u00e7erek bilgiye eri\u015fimden g\u00fcvenli\u011fe, kamu hizmetlerinden silahl\u0131 \u00e7at\u0131\u015fmalara kadar uzan\u0131yor.<\/p>\n Papa Leo, konu\u015fmas\u0131n\u0131n sonunda uluslararas\u0131 kurumlara da \u00e7a\u011fr\u0131da bulunarak yapay zek\u00e2 kaynakl\u0131 risklerin ortak yarar g\u00f6zetilerek ele al\u0131nmas\u0131n\u0131 istedi. Bu ama\u00e7la ortak standartlar, ba\u011f\u0131ms\u0131z denetim ve a\u00e7\u0131k hesap verebilirlik mekanizmalar\u0131n\u0131n<\/strong> olu\u015fturulmas\u0131n\u0131n \u00f6nemini vurgulad\u0131. Ortak standartlar, farkl\u0131 \u00fclkelerde ve kurulu\u015flarda uygulanan kurallar aras\u0131nda asgari bir uyum sa\u011flayabilir. Ba\u011f\u0131ms\u0131z denetim ise sistemlerin nas\u0131l \u00e7al\u0131\u015ft\u0131\u011f\u0131n\u0131n ve kararlar\u0131n\u0131n ne t\u00fcr sonu\u00e7lar do\u011furdu\u011funun incelenmesine yard\u0131mc\u0131 olabilir.<\/p>\n Hesap verebilirlik mekanizmalar\u0131 da bir sistemin karar\u0131ndan zarar g\u00f6ren ki\u015filerin ba\u015fvurabilece\u011fi yollar\u0131n a\u00e7\u0131k olmas\u0131n\u0131 gerektiriyor. Yapay zek\u00e2 destekli bir karar\u0131n incelenebilmesi, gerekti\u011finde karara itiraz edilebilmesi ve ortaya \u00e7\u0131kan zarar\u0131n giderilmesi bu \u00e7er\u00e7evenin par\u00e7alar\u0131d\u0131r. B\u00f6ylece sorumluluk belirsiz bir bi\u00e7imde teknolojiye veya yaz\u0131l\u0131ma aktar\u0131lmak yerine, sistemleri geli\u015ftiren ve kullanan insanlarla kurumlar\u0131n y\u00fck\u00fcml\u00fcl\u00fckleri tan\u0131mlanabilir.<\/p>\n Cenevre\u2019de yap\u0131lacak toplant\u0131, bu ilkelerin \u00f6l\u00fcmc\u00fcl otonom silahlar konusunda nas\u0131l uygulanaca\u011f\u0131na ili\u015fkin \u00f6nemli bir diplomatik a\u015fama olacak. Papa Leo\u2019nun beklentisi, devletlerin yaln\u0131zca riskleri tart\u0131\u015fmakla kalmay\u0131p yasaklama y\u00f6n\u00fcnde ilerleme sa\u011flayacak ad\u0131mlar \u00fczerinde uzla\u015fmas\u0131. Daha geni\u015f \u00e7er\u00e7evede ise mesaj, yapay zek\u00e2n\u0131n geli\u015ftirilmesi ve kullan\u0131m\u0131na ili\u015fkin kararlar\u0131n insan denetimine a\u00e7\u0131k, incelenebilir ve gerekti\u011finde d\u00fczeltilebilir olmas\u0131 gerekti\u011fini hat\u0131rlat\u0131yor.<\/p>\n Papa\u2019n\u0131n \u00e7a\u011fr\u0131s\u0131n\u0131n merkezindeki ilke a\u00e7\u0131k: Yapay zek\u00e2 insanlara yard\u0131mc\u0131 olan bir ara\u00e7 olabilir, ancak insan hayat\u0131n\u0131 ve \u00f6zg\u00fcrl\u00fc\u011f\u00fcn\u00fc belirleyen kararlar\u0131n sorumlulu\u011funu \u00fcstlenemez. Bu kararlar\u0131n sonu\u00e7lar\u0131n\u0131 de\u011ferlendirme, m\u00fcdahale etme ve hesap verme y\u00fck\u00fcml\u00fcl\u00fc\u011f\u00fc insanlarda ve kurumlarda kalmal\u0131d\u0131r.<\/p>\n\u00d6l\u00fcmc\u00fcl otonom silahlar\u0131n yasaklanmas\u0131 i\u00e7in \u00e7a\u011fr\u0131<\/h2>\n
Vatikan\u2019\u0131n s\u00fcregelen tutumu<\/h2>\n
Ortak standartlar, ba\u011f\u0131ms\u0131z denetim ve hesap verebilirlik<\/h2>\n