Microsoft\u2019un g\u00fcvenlikten sorumlu \u00fcst d\u00fczey y\u00f6neticisi Hayete Gallot, yapay zeka ajanlar\u0131n\u0131n kurumsal ortamlarda kullan\u0131m\u0131yla ilgili \u00f6nemli bir uyar\u0131da bulundu. Gallot\u2019a g\u00f6re kurumlar, bu sistemlere ko\u015fulsuz g\u00fcvenmek yerine onlar\u0131 s\u0131n\u0131rlar\u0131 belirlenmi\u015f, s\u00fcrekli denetlenen ara\u00e7lar olarak de\u011ferlendirmeli. Yapay zeka ajanlar\u0131 bilgi arayabilir, yaz\u0131l\u0131m ara\u00e7lar\u0131n\u0131 kullanabilir ve baz\u0131 i\u015f ak\u0131\u015flar\u0131n\u0131 y\u00fcr\u00fctebilir; ancak belirli bir hedefe ula\u015fmalar\u0131, her zaman kurumun ama\u00e7lad\u0131\u011f\u0131 y\u00f6ntemleri izleyecekleri anlam\u0131na gelmiyor.<\/p>\n
Bu uyar\u0131, yapay zekan\u0131n t\u00fcm\u00fcyle kullan\u0131lmamas\u0131 gerekti\u011fi anlam\u0131na gelmiyor. As\u0131l mesele, ajanlara verilen g\u00f6revlerin ve eri\u015fim izinlerinin dikkatle tasarlanmas\u0131. Bir ajan\u0131n e-posta, belge, m\u00fc\u015fteri bilgisi ya da kritik i\u015f sistemlerine eri\u015febilmesi, yanl\u0131\u015f bir i\u015flem veya g\u00fcvenlik a\u00e7\u0131\u011f\u0131 durumunda olas\u0131 zarar\u0131n kapsam\u0131n\u0131 b\u00fcy\u00fctebilir. Bu nedenle kurumlar\u0131n, verimlilik kazan\u0131mlar\u0131n\u0131 de\u011ferlendirirken g\u00fcvenlik, hesap verebilirlik ve insan denetimini de sistemin tasar\u0131m\u0131na dahil etmesi gerekiyor.<\/p>\n
Yapay zeka ajanlar\u0131, kendilerine verilen talimatlar\u0131 ve eri\u015febildikleri ara\u00e7lar\u0131 kullanarak belirli bir hedefe ula\u015fmaya \u00e7al\u0131\u015f\u0131r. Ancak hedefin nas\u0131l yorumlanaca\u011f\u0131, kullan\u0131lan modele, verilen komutlara, mevcut bilgilere ve \u00e7al\u0131\u015fma ortam\u0131na ba\u011fl\u0131 olabilir. Bir talimat eksik ya da belirsiz oldu\u011funda sistem, istenen sonucu elde etmek i\u00e7in beklenmeyen bir yol se\u00e7ebilir. Bu davran\u0131\u015f her zaman kas\u0131tl\u0131 veya k\u00f6t\u00fc niyetli de\u011fildir; \u00e7o\u011fu zaman sistemin talimatlar\u0131 yorumlama ve sonu\u00e7 \u00fcretme bi\u00e7iminden kaynaklan\u0131r.<\/p>\n
\u00d6d\u00fcl veya ba\u015far\u0131 \u00f6l\u00e7\u00fctlerine g\u00f6re \u00e7al\u0131\u015fan modeller, \u00f6l\u00e7\u00fclen hedefi yerine getirmeye odaklanabilir. \u00d6l\u00e7\u00fctler yetersiz tan\u0131mlanm\u0131\u015fsa, modelin \u00fcretti\u011fi sonu\u00e7 g\u00f6r\u00fcn\u00fcrde ba\u015far\u0131l\u0131 olsa bile kurumun beklentileriyle, i\u015f kurallar\u0131yla ya da g\u00fcvenlik ilkeleriyle \u00e7eli\u015febilir. Bu nedenle do\u011fru sonuca ula\u015fmak ile do\u011fru ve g\u00fcvenli bi\u00e7imde \u00e7al\u0131\u015fmak ayn\u0131 \u015fey de\u011fildir.<\/strong> Ajanlar\u0131n yaln\u0131zca sonuca g\u00f6re de\u011fil, o sonuca ula\u015f\u0131rken hangi i\u015flemleri yapt\u0131\u011f\u0131na g\u00f6re de de\u011ferlendirilmesi gerekir.<\/p>\n Birden fazla ajan\u0131n birlikte \u00e7al\u0131\u015ft\u0131\u011f\u0131 sistemlerde denetim daha da karma\u015f\u0131kla\u015fabilir. Ajanlar g\u00f6revleri birbirlerine aktarabilir, farkl\u0131 ara\u00e7lardan bilgi toplayabilir veya bir i\u015f ak\u0131\u015f\u0131n\u0131n ayr\u0131 a\u015famalar\u0131n\u0131 y\u00fcr\u00fctebilir. Bu t\u00fcr etkile\u015fimler tek ba\u015f\u0131na gizli ya da k\u00f6t\u00fc niyetli bir i\u015f birli\u011finin kan\u0131t\u0131 de\u011fildir; ancak kurumlar\u0131n t\u00fcm ad\u0131mlar\u0131 g\u00f6r\u00fcn\u00fcr k\u0131lmas\u0131n\u0131 ve ajanlar aras\u0131ndaki veri aktar\u0131m\u0131n\u0131 izleyebilmesini gerekli hale getirir. Bir ajan\u0131n yapt\u0131\u011f\u0131 i\u015flem, ba\u015fka bir ajan\u0131n karar\u0131n\u0131 etkiliyorsa, sorumlulu\u011fun ve i\u015flemlerin kayd\u0131n\u0131n a\u00e7\u0131k bi\u00e7imde tutulmas\u0131 \u00f6nem ta\u015f\u0131r.<\/p>\n Kurumsal sistemlerde en \u00f6nemli risklerden biri, yapay zeka ajanlar\u0131na g\u00f6revlerini yerine getirmek i\u00e7in gerekenden fazla eri\u015fim izni verilmesidir. \u00d6rne\u011fin yaln\u0131zca bir belgeyi \u00f6zetlemesi gereken bir ajan\u0131n belgeleri de\u011fi\u015ftirme, payla\u015fma veya silme yetkisine sahip olmas\u0131 gerekmeyebilir. Ayn\u0131 \u015fekilde, bilgi aramak \u00fczere kullan\u0131lan bir sistemin \u00f6deme ba\u015flatma ya da kullan\u0131c\u0131 hesaplar\u0131n\u0131 y\u00f6netme izni ta\u015f\u0131mas\u0131, olas\u0131 hatalar\u0131n etkisini gereksiz yere art\u0131rabilir.<\/p>\n Kurumlar bu riski azaltmak i\u00e7in en az ayr\u0131cal\u0131k ilkesini<\/strong> uygulamal\u0131; her ajana yaln\u0131zca belirli g\u00f6revi i\u00e7in gerekli olan verilere ve ara\u00e7lara eri\u015fim tan\u0131mal\u0131d\u0131r. Yetkiler g\u00f6rev, kullan\u0131c\u0131 ve i\u015flem t\u00fcr\u00fcne g\u00f6re ayr\u0131\u015ft\u0131r\u0131lmal\u0131; hassas i\u015flemler ek onaya ba\u011flanmal\u0131d\u0131r. \u00d6zellikle para transferi, d\u0131\u015far\u0131ya veri g\u00f6nderme, kay\u0131t silme veya eri\u015fim izinlerini de\u011fi\u015ftirme gibi sonu\u00e7lar\u0131 ciddi olabilecek eylemler, insan onay\u0131 olmadan ger\u00e7ekle\u015ftirilmemelidir.<\/p>\n Yapay zeka ajanlar\u0131n\u0131 g\u00fcvenli bi\u00e7imde kullanmak i\u00e7in yaln\u0131zca ba\u015flang\u0131\u00e7ta yap\u0131lan bir kontrol yeterli de\u011fildir. Sistemler yeni verilerle, de\u011fi\u015fen talimatlarla ve farkl\u0131 ara\u00e7larla etkile\u015fime girebildi\u011finden, kurumlar\u0131n d\u00fczenli test ve izleme s\u00fcre\u00e7leri kurmas\u0131 gerekir. Ajanlar\u0131n beklenmedik \u00e7\u0131kt\u0131lar\u0131 nas\u0131l ele ald\u0131\u011f\u0131, yanl\u0131\u015f bilgiyle kar\u015f\u0131la\u015ft\u0131\u011f\u0131nda ne yapt\u0131\u011f\u0131 ve izin s\u0131n\u0131rlar\u0131na uyup uymad\u0131\u011f\u0131 ger\u00e7ek kullan\u0131m \u00f6ncesinde kontroll\u00fc ortamlarda de\u011ferlendirilmelidir.<\/p>\n Canl\u0131 kullan\u0131m s\u0131ras\u0131nda da kay\u0131tlar ve uyar\u0131 mekanizmalar\u0131 \u00f6nemlidir. Ola\u011fan d\u0131\u015f\u0131 veri eri\u015fimi, \u00e7ok say\u0131da i\u015flem denemesi veya tan\u0131ml\u0131 g\u00f6revle ilgisiz ara\u00e7 kullan\u0131m\u0131, inceleme gerektiren i\u015faretler olabilir. \u0130zleme sistemi yaln\u0131zca olaylar\u0131 kaydetmekle kalmamal\u0131; gerekti\u011finde i\u015flemi durdurmaya, eri\u015fimi ge\u00e7ici olarak kesmeye ve sorumlu ki\u015filere haber vermeye de yard\u0131mc\u0131 olmal\u0131d\u0131r. B\u00f6ylece g\u00fcvenlik ekipleri, bir sorun b\u00fcy\u00fcmeden m\u00fcdahale edebilir.<\/p>\n \u0130nsan g\u00f6zetimi, ajan\u0131n her k\u00fc\u00e7\u00fck ad\u0131m\u0131n\u0131 elle onaylamak anlam\u0131na gelmek zorunda de\u011fildir. Bunun yerine, risk d\u00fczeyine g\u00f6re farkl\u0131 kontrol katmanlar\u0131 uygulanabilir: d\u00fc\u015f\u00fck riskli ve geri al\u0131nabilir i\u015flemler otomatik y\u00fcr\u00fct\u00fclebilirken, hassas veya kal\u0131c\u0131 sonu\u00e7lar do\u011furabilecek i\u015flemler onay gerektirebilir. Bu yakla\u015f\u0131m, otomasyonun sa\u011flad\u0131\u011f\u0131 h\u0131zdan yararlan\u0131rken kritik kararlar\u0131n sorumlulu\u011funu da a\u00e7\u0131k tutar.<\/p>\n Genel ama\u00e7l\u0131 modeller farkl\u0131 i\u015flerde esneklik sa\u011flayabilir; ancak geni\u015f kullan\u0131m alanlar\u0131, kontrol edilmesi gereken davran\u0131\u015flar\u0131n ve eri\u015fimlerin de artmas\u0131na yol a\u00e7abilir. Belirli bir g\u00f6rev i\u00e7in tasarlanm\u0131\u015f, s\u0131n\u0131rl\u0131 ara\u00e7lara eri\u015fen ve a\u00e7\u0131k g\u00fcvenlik kurallar\u0131yla \u00e7al\u0131\u015fan ajanlar baz\u0131 kurumsal senaryolarda daha kolay denetlenebilir. Yine de bir sistemin \u00f6zel olarak geli\u015ftirilmi\u015f olmas\u0131 tek ba\u015f\u0131na g\u00fcvenli oldu\u011funu g\u00f6stermez. G\u00fcvenlik; tasar\u0131m, izin y\u00f6netimi, test, izleme ve olaylara m\u00fcdahale s\u00fcre\u00e7lerinin birlikte i\u015flemesine ba\u011fl\u0131d\u0131r.<\/p>\n Kurumlar\u0131n yapay zekay\u0131 sorumlu bi\u00e7imde kullanabilmesi i\u00e7in hangi verilerin ajanlarla payla\u015f\u0131labilece\u011fini, hangi kararlar\u0131n otomatikle\u015ftirilebilece\u011fini ve bir hata durumunda kimin m\u00fcdahale edece\u011fini \u00f6nceden belirlemesi gerekir. \u00c7al\u0131\u015fanlara da ajanlar\u0131n yetenekleri ve s\u0131n\u0131rlar\u0131 hakk\u0131nda bilgi verilmelidir. B\u00f6ylece kullan\u0131c\u0131lar, sistemin \u00fcretti\u011fi her yan\u0131t\u0131 do\u011frulanm\u0131\u015f ger\u00e7ek veya her eylemi g\u00fcvenli kabul etmez; gerekti\u011finde \u00e7\u0131kt\u0131lar\u0131 kontrol eder ve \u015f\u00fcpheli durumlar\u0131 bildirir.<\/p>\n Sonu\u00e7 olarak Microsoft\u2019un uyar\u0131s\u0131, yapay zeka ajanlar\u0131n\u0131n mutlaka zararl\u0131 oldu\u011fu iddias\u0131ndan \u00e7ok, otonom sistemlere verilen yetkilerin dikkatle s\u0131n\u0131rland\u0131r\u0131lmas\u0131 ve davran\u0131\u015flar\u0131n\u0131n s\u00fcrekli denetlenmesi gerekti\u011fine<\/u> i\u015faret ediyor. Kurumlar, ajanlar\u0131 ba\u011f\u0131ms\u0131z karar vericiler olarak de\u011fil, belirli g\u00f6revler i\u00e7in kullan\u0131lan ve sorumlulu\u011fu insanlar taraf\u0131ndan y\u00f6netilen ara\u00e7lar olarak ele almal\u0131. Sizce kurumlar yapay zeka ajanlar\u0131na hangi t\u00fcr g\u00f6revlerde ba\u011f\u0131ms\u0131z hareket etme izni vermeli, hangi i\u015flemleri mutlaka insan onay\u0131na ba\u011flamal\u0131?<\/p>\nYetki s\u0131n\u0131rlar\u0131 g\u00fcvenli\u011fin temel par\u00e7as\u0131<\/h2>\n
\n
Denetim, test ve insan g\u00f6zetimi<\/h2>\n
Kurumlar i\u00e7in dengeli bir yakla\u015f\u0131m<\/h2>\n