Meta, genç kullanıcıların intihar veya kendine zarar verme riskiyle bağlantılı davranışlarını fark etmeye yardımcı olmak amacıyla ebeveyn uyarı sistemini genişletiyor. Facebook ve Instagram’da belirli arama davranışları gözlemlendiğinde, ebeveyn denetimi etkin olan hesaplarla bağlantılı ebeveynlere bildirim gönderilebilecek. Sistem, Meta AI ile yapılan konuşmalarda risk işaretleri tespit edilmesi durumunda da uyarı verecek.

Şirketin duyurduğu genişleme, ebeveynlere çocuklarının arama geçmişini ya da yapay zekâ konuşmalarının tamamını açmayı amaçlamıyor. Bunun yerine, olası bir risk hakkında dikkat çekmek ve ebeveynlerin çocuklarıyla destekleyici bir konuşma başlatmasına yardımcı olmak hedefleniyor. Bildirimlerde ayrıca uzmanlarca hazırlanmış rehberlere ve destek kaynaklarına yönlendirme sunuluyor.

Uyarılar hangi durumlarda gönderilecek?

Facebook veya Instagram’da intihar ya da kendine zarar verme ile ilişkili ifadeleri kısa zaman aralıklarında tekrar tekrar aramak, sistemin değerlendirdiği davranışlardan biri. Tek bir arama, tek başına otomatik olarak ebeveyn uyarısı oluşturmayacak. Meta, tekrarlanan aramalara dayalı bir eşik kullandığını ve bunun gereksiz ya da yanlış bildirimleri azaltmayı amaçladığını belirtiyor.

Şirket, uyarıyı başlatmak için gereken arama sayısını ve aramaların hangi zaman aralığında yapılması gerektiğini kamuoyuna açıklamadı. Bu nedenle sistemin kesin tetiklenme koşulları kullanıcılar tarafından görülemiyor. Meta, eşiği belirlerken arama davranışlarını incelediğini ve intiharı önleme ile kendine zarar verme alanlarında çalışan uzmanlardan görüş aldığını aktarıyor.

Bu yaklaşım, tek bir aramanın kişinin kendine zarar verme niyetinde olduğunu kanıtlamadığı gerçeğini dikkate alıyor. Aramalar farklı amaçlarla yapılabileceğinden, sistemin tekrar ve zamanlama gibi işaretleri birlikte değerlendirmesi amaçlanıyor. Bununla birlikte, otomatik bir uyarı tek başına klinik değerlendirme veya kesin risk tespiti anlamına gelmiyor.

Meta AI konuşmaları da kapsama alınıyor

Genişletilen sistem, Facebook, Instagram ve Messenger üzerinden Meta AI ile yapılan konuşmalarda da risk işaretlerini arıyor. Genç bir kullanıcının yapay zekâ asistanıyla konuşmasında intihar ya da kendine zarar verme ihtimaliyle bağlantılı ifadeler tespit edilirse ebeveynine bildirim gönderilebiliyor. Sistem, açık ifadelerin yanı sıra risk taşıyabileceği düşünülen dolaylı anlatımları da değerlendirecek şekilde tasarlanmış durumda.

Meta, bu konuşmaları incelemek için özel bir yapay zekâ tespit sistemi geliştirdiğini söylüyor. Yanlış uyarı olasılığını azaltmak amacıyla yapay zekânın işaretlediği konuşmalar, bildirim gönderilmeden önce insan incelemesinden geçiriliyor. Riskin kesin olmadığı, ancak olası bir tehlikenin göz ardı edilmemesi gerektiği durumlarda ise şirket ihtiyatlı davranarak uyarı gönderebiliyor.

Bu süreç, sistemin her konuşmayı ebeveynlere açtığı anlamına gelmiyor. Ebeveynlere konuşmanın tam metni veya aranan ifadelerin tümü verilmiyor; bildirim, risk işareti bulunduğunu genel hatlarıyla bildiriyor. Böylece aileye müdahale etme ve destek arama fırsatı sunulurken genç kullanıcının özel konuşmalarının tamamı paylaşılmıyor.

Bildirimlerin iletilmesi ve ebeveyn denetimi

Uyarılar, ebeveynin hesapta kayıtlı iletişim bilgilerine bağlı olarak SMS, e-posta veya WhatsApp yoluyla gönderilebiliyor. Facebook ve Instagram uygulamalarında da anlık bildirim gösteriliyor. Ebeveyn bildirime dokunduğunda, genç kullanıcının kısa süre içinde kendine zarar verme veya intiharla ilişkili aramaları tekrarladığı ya da Meta AI konuşmasında risk işaretleri bulunduğu hakkında bilgi alıyor.

Bildirim ekranında, ebeveynlerin çocuklarıyla konuyu nasıl açabileceklerine dair uzmanlar tarafından hazırlanmış öneriler ile destek hatlarına ulaşma bilgileri sunuluyor. Bu içerikler, suçlayıcı veya ani bir tepki yerine sakin biçimde dinlemeyi ve gerektiğinde profesyonel yardım aramayı teşvik etmeyi amaçlıyor. Bildirim, acil bir tehlikenin kesinleştiğini değil, dikkat edilmesi gereken bir işaret bulunduğunu ifade ediyor.

Uyarı sisteminden yararlanmak için ebeveyn denetiminin etkinleştirilmiş olması gerekiyor. Denetim araçları Meta’nın Aile Merkezi üzerinden yönetiliyor; ebeveyn ve genç kullanıcının hesaplarının bu sisteme bağlanması gerekiyor. Dolayısıyla özellik, tüm genç hesaplarda otomatik olarak ebeveynlere bildirim gönderdiği şeklinde anlaşılmamalı.

Platform kuralları ve destek yönlendirmeleri

Meta, intiharı veya kendine zarar vermeyi teşvik eden içeriklerin platformlarda gösterilmesini engellemeye yönelik kurallarını sürdürdüğünü belirtiyor. Bu konularla doğrudan ilişkili aramalarda bazı sonuçlar engellenebiliyor ve kullanıcılar profesyonel destek kaynaklarına yönlendirilebiliyor. Kendine zarar verme deneyimlerini anlatan bazı içerikler platformda kalabilse de gençlerin bu tür paylaşımlara erişimi sınırlandırılıyor.

Meta AI da hassas konulardaki konuşmalarda gençleri kriz destek hatlarına, ebeveynlerine veya güvendikleri bir yetişkine başvurmaya yönlendiriyor. Şirket, yapay zekâ yanıtlarını geliştirmek için genç ruh sağlığı alanında çalışan 75’ten fazla klinisyenden görüş aldığını ve uzmanların yüzlerce örnek konuşmaya verilen yanıtları değerlendirdiğini bildiriyor.

Meta ayrıca ciddi ve yakın tehlike işaretlerinin yetkililere aktarılmasına yönelik çalışmalar yürütüyor. Şirketin açıklamasına göre Facebook ve Instagram paylaşımlarından belirlenen ciddi riskler nedeniyle 2025 yılında dünya genelinde 19.000’den fazla acil müdahale yönlendirmesi yapıldı. Meta, Meta AI konuşmalarında tespit edilen yakın ve ciddi intihar risklerinin acil yardım birimlerine bildirilebilmesini sağlayacak bir sistem üzerinde de çalışıyor.

Önemli nokta: Ebeveyn uyarıları, profesyonel değerlendirme veya acil yardımın yerine geçmiyor. Bir ebeveyn bildirimi aldığında gencin güvenliğini doğrudan değerlendirmesi, yargılamadan dinlemesi ve riskin ciddi ya da yakın olduğunu düşünüyorsa yerel acil yardım hizmetlerine veya ruh sağlığı uzmanlarına başvurması gerekiyor. Meta’nın sistemi, olası riskleri fark etmeye destek olan bir araç olarak tanımlanıyor; tek başına tanı koymuyor ve her risk durumunu tespit edeceğini garanti etmiyor.