Çocuk Güvenliği Organizasyonu Common Sense Media, Google'ın yapay zeka destekli arama özelliğini öğrenciler için "kabul edilemez bir risk" olarak değerlendirdi. Organizasyon öğrencilerin okullar bu özellikleri devre dışı bırakana kadar Google Arama'yı kullanmaktan kaçınmasını önerdi.

Sorun, Google'ın yapay zeka modunu herkes için, eğitim hesapları da dâhil olmak üzere etkinleştirmesine rağmen bu özellikleri kapatmak için hiçbir seçenek sunmaması. Ebeveynler Google'u tamamen engelleyebiliyor, okullar da aynı şeyi yapabiliyor; ancak bu, öğrencilerin web arama yapamayacağı anlamına geliyor.

Eğitimde Yapay Zekanın Riskleri

Common Sense Media'nın araştırması, yapay zeka modunun öğrencilere ödev tamamlama konusunda yardım ettiğini, yanlış bilgileri otoriteli bir şekilde aktardığını ve çocukları diğer Google ürünlerinde yaş sınırlaması olan Gemini modellerine dayalı yapay zeka deneyimlerine maruz bıraktığını ortaya çıkardı.

Google'ın yapay zeka arama reformu, açık interneti zedelediği ve bağlantıları yapay zeka tarafından üretilen özetlerle değiştirdiği gerekçesiyle zaten eleştiri almıştı. Sınıflarda ise bu tasarım, araştırma eylemini cevap alma eylemine dönüştürüyor; bu da eğitimin tam tersidir.

Yasal Sorumluluk ve Google'ın Yanıtı

Almanya'daki bir mahkeme Nisan ayında Google'ın yapay zeka özetleri için yasal olarak sorumlu olduğuna karar verdi ve bunları üçüncü taraf sonuçlar yerine Google'ın kendi ifadeleri olarak nitelendirdi. Aynı mantık Amerika'da uygulanırsa, Google Arama kullanan okullar, bir öğrenci yapay zeka tarafından üretilen hatalı bir cevap aldığında her seferinde yasal sorumluluğa maruz kalabilir.

Google, Common Sense Media'nın testinin "dar ve belirsiz" olduğunu ve ürün güvenliğini ölçmek için etkili bir yol olmadığını bildirdi. Kuruluş tüketici hesaplarını test etmiş olsa da Google, yapay zeka deneyiminin tüm kullanıcılar için aynı olduğunu doğruladı.

Ne Anlama Geliyor?

Yapay zeka arama teknolojisinde, sistem kullanıcının sorusunu anlamakta ve büyük veri setlerinden öğrenmiş bilgileri birleştirerek bir cevap üretmektedir. Ancak bu süreçte model bazen gerçek olmayan veya yanıltıcı bilgi sunabilir; özellikle taze olaylar, spesifik yerel bilgiler veya kontroversiyel konularda hata yapma riski vardır.

Eğitim ortamında bu teknoloji sorunlu bir durum yaratır. Öğrencilerin öğrenme süreci soru sorma, araştırma yapma, birden fazla kaynağı değerlendirme ve kendi sonuçlarına varma üzerine kuruludur. Yapay zeka bir cevap sunduğunda, öğrenci bu süreci atlamış olur; bilgiyi sorgulamak, doğrulamak ve derinlemesine anlamak yerine, sistem tarafından sunulan sonucu kabul etme eğilimi artar. Özellikle misinformasyon (yanlış bilgi) riski, büyümekte olan beyinlerin bilgisini zehirleyebilir.

Türkiye'de de okullar Google Workspace for Education gibi hizmetleri yaygın şekilde kullanmaktadır. Benzer arama teknolojileri Türkçe ortamda kullanılmaya başladığında, öğrencilerin güvenliği ve eğitim kalitesi açısından benzer endişeler ortaya çıkacaktır. Bu tür araçlardaki ayarlar ve kontroller, okul yöneticilerinin ve öğrenci ailelerinin denetimi altında olmalıdır.