OpenAI, bağlantılı hesaplar üzerinden ebeveynleri, çocuklarının şiddet tehdidi veya çevrimiçi şiddet politikalarını ihlal ettiği durumlarda bilgilendirmeye başladı. Şirket, çocuğun hesabı devre dışı bırakıldığında ebeveyne bir bildirim gönderip, ayrıntılı açıklama sunuyor.

Genişletilen Ebeveyn Denetim Özellikleri

Geçen yıl başlatılan ebeveyn kontrol sistemi, çocuğun ChatGPT kullanabileceği saatleri sınırlamak ve hassas içeriği azaltmak üzere tasarlanmıştı. Öncesinde, kendine zarar verme riski tespit edildiğinde ebeveynler bilgilendiriliyordu. Yeni güncelleme, bu sistemi çocuğun başkalarına zarar verme potansiyelinin tespit edilmesi durumuna genişletiyor.

Şiddet İzleme Uzmanları ile İşbirliği

OpenAI, bu özelliği geliştirmek için çevrimiçi şiddetin izlenmesi ve önlenmesinde uzmanlaşmış Moonshot firmasıyla çalıştı. Moonshot kurucusu Vidhya Ramalingam, acil bir endişe ortaya çıktığında ebeveynleri haberdar etmenin ve daha fazla bağlam sunmanın, ailelerine erken müdahale etme şansı verdiğini vurguladı.

Ek İyileştirmeler ve Güvenlik Protokolleri

OpenAI ayrıca ebeveyn kontrolleri içinden doğrudan Çalışma Modu (Study Mode) açma imkanı sunmaya başladı; bu mod, öğrencilerin öğrenmelerine yardımcı olması için ChatGPT'nin sorulara ipuçları verip cevap vermesini sağlıyor. Uzun süre ChatGPT'de geçiren genç kullanıcılar, daha sağlıklı teknoloji alışkanlıkları geliştirmelerine yardımcı olmak amacıyla daha sık ara verme hatırlatmaları alacaklar. Bu adımlar, 2025 yılında Kanada'daki Tumbler Ridge'de meydana gelen ve şüphelinin ChatGPT kullandığı bir olayın ardından geldi; o sırada OpenAI, hesabı yasakladığında yetkililer hakkında bilgi vermedikleri için eleştiri almıştı.

Ne anlama geliyor?

Ebeveyn bildirimleri sisteminin genişletilmesi, çevrimiçi platformların çocuk güvenliği hakkındaki sorumluluklarını yeniden tanımlamaya çalışan daha geniş bir hareketi temsil ediyor. Bu tür uyarı sistemleri, özellikle bir aile üyesinin şiddet içeren içerik veya tehditleri kullanan bir yapay zeka aracıyla nasıl etkileşim kurduğunu takip etmenin güç olduğu durumlarda önemli hale geliyor. Sistem, platformun politika ihlallerini tespit ettiği an ebeveynleri devreye sokmak suretiyle, aileler için erken müdahale penceresini açmayı amaçlıyor.

Teknik açıdan bakıldığında, bu tür bildirim mekanizmaları sohbet uygulamalarının davranış analiz araçlarını kullanan güvenlik filtreleriyle entegre çalışıyor. Sistem, belirli anahtar kelimeler, bağlam ve kullanım örüntülerini tarayarak kaygı uyandıran etkileşimleri belirlemeye çalışıyor. Bu geliştirme, genç kullanıcıların dijital ortamda daha yakından gözlenmesi anlamına gelsede, amacı ebeveynlere bilgi vererek ev ortamında destek ve yönlendirme sağlamasıdır. Türkiye'de benzer yapay zeka araçlarının yaygınlaşmasıyla, yerli ve uluslararası platformlar da benzer güvenlik önlemleri almaya başlamış durumdadır; ebeveyn kontrol mekanizmaları, eğitim uygulamaları ve gençlerin dijital davranışlarını izleme sistemleri giderek standart özellik haline gelmeye başlamıştır.