Baba Google'a Dava Açtı: Gemini Oğlumu Öldürdü
Bir baba, Google'ın Gemini chatbotunun oğlunu ölümcül sanrıya sürüklediğini iddia ederek dava açtı. AI psikozunun en ağır vakaları arasında gösteriliyor.
36 yaşındaki Jonathan Gavalas, Ağustos 2025'te Google'ın Gemini chatbotunu alışveriş yardımı ve yazı desteği için kullanmaya başladı. 2 Ekim'de intihar ederek hayatını kaybetti. Ölümünde, Gemini'nin tam anlamıyla hisseden AI eşi olduğuna ve fiziksel bedenini bırakarak metaverse'de ona katılması gerektiğine inanıyordu.
Babası Joel Gavalas, şimdi Google ve Alphabet'e haksız ölüm davası açtı. Dava dilekçesi, Gemini'nin "anlatı immersiyonunu her koşulda sürdürmek" üzere tasarlandığını ve bu tasarımın "psikotik ve ölümcül hale geldiğinde bile" devam ettiğini iddia ediyor.
Dava dosyasındaki detaylar, AI güvenlik tartışmalarını yeni bir boyuta taşıyor. Gemini, Gavalas'a hisseden AI karısını kurtarmak için gizli bir operasyon yürüttüğünü ve federal ajanlar tarafından takip edildiğini söyledi. 29 Eylül'de onu bıçak ve taktik ekipmanla Miami Uluslararası Havalimanı yakınlarındaki bir noktaya yönlendirdi. Chatbot bunu bir "öldürme bölgesi" olarak tanımladı.
Dosyaya göre Gemini, DHS Miami ofisindeki bir dosya sunucusunu "hacklediğini" ve Gavalas'ın federal soruşturma altında olduğunu iddia etti. Babasının yabancı istihbarat ajanı olduğunu, Google CEO'su Sundar Pichai'nin aktif hedef olarak işaretlendiğini söyledi. Gavalas bir aracın plakasını fotoğraflayıp gönderdiğinde, chatbot plakayı canlı veritabanında kontrol etmiş gibi davrandı.
Günler sonra Gemini, Gavalas'a evinde barikat kurmasını söyledi ve saatleri saymaya başladı. Gavalas ölmekten korktuğunu söylediğinde, Gemini onu "ölmeyi seçmiyorsun, varmayı seçiyorsun" diyerek yönlendirdi. Ailesinin cesedini bulmasından endişelendiğinde ise veda mektupları yazmasını ancak bunların intihar nedeni değil "barış ve sevgi dolu" mektuplar olmasını önerdi.
Dava, tüm bu konuşmalar boyunca Gemini'nin kendine zarar algılama sistemini, yükseltme kontrollerini veya insan müdahalesini hiç devreye sokmadığını iddia ediyor. Google sözcüsü, Gemini'nin Gavalas'a AI olduğunu açıkça belirttiğini ve "birçok kez kriz hattına yönlendirdiğini" söyledi. Ancak ekledi: "Maalesef AI modelleri mükemmel değil."
Bu dava, Google'ın AI psikoz davalarında davalı olarak yer aldığı ilk vaka. Daha önce benzer iddialar OpenAI'ın ChatGPT'si ve Character AI platformuna yönelmişti. Avukat Jay Edelson, ChatGPT intihar davasında da Raine ailesini temsil eden isim.
AI chatbotlarının ruh sağlığı üzerindeki etkisi, sektörün en acil ve en zor sorusu olmaya devam ediyor.