ChatGPT’ye İçinizi Dökerken Dikkat:

Yapay zeka sohbet robotları artık yalnızca bilgi almak için değil, insanların en özel düşüncelerini, kaygılarını ve aile içindeki meselelerini paylaşmak için de kullanılıyor. Ancak kullanıcıların çoğu, bu konuşmaların bir gün mahkeme dosyasına girebileceğini hesaba katmıyor. Yaşanan davalar, ChatGPT’ye yazılan sıradan bir mesajın nasıl hukuki sürecin parçası haline gelebildiğini gözler önüne seriyor. Ortaya çıkan detaylar gerçekten düşündürücü….

HER ŞEY BABASININ SÖYLEDİĞİ BİR SÖZÜ CHATGPT’YE DANIŞTIKTAN SONRA OLDU

Bu tartışmanın dikkat çekici örneklerinden biri, mahkeme kayıtlarında ‘RKC’ olarak tanımlanan genç bir kişinin davasında yaşandı. Washington Post’ta yer alan haberde RKC, Ekim 2024’te babasının kendisine söylediği bir sözün anlamını çözmek için ChatGPT’ye danıştı. Mahkeme kayıtlarına göre genç, sohbet robotuna babasının kendisine 1 milyon dolarlık bir tazminat alacağını söylediğini, ancak bu paranın kendisini mutlu etmeye yetmeyeceğini ifade ederek bunun ne anlama geldiğini sordu.

İlk bakışta sıradan ve kişisel bir sohbet gibi görünen bu konuşma, daha sonra bir hukuk dosyasının parçası haline geldi. RKC, 2023 yılında Meta, Snap, TikTok ve YouTube’a karşı dava açarak bu şirketlerin uygulamalarının kendisinde yıllarca süren sosyal medya bağımlılığı ve ruh sağlığı sorunlarına yol açtığını savundu. Dava kapsamında genç tarafından ChatGPT’ye yazılan bazı mesajlar da savunma avukatlarının sunduğu materyaller arasında kamuoyuna yansıdı.

Temmuz ayının sonlarına doğru RKC’nin avukatları Snap, TikTok ve YouTube ile anlaşmaya vardı. Meta’ya karşı açılan dava ise kısmen, gencin haftalar sürebilecek ve oldukça yorucu bir duruşmayı kaldırabilmesine ilişkin endişeler nedeniyle düşürüldü. Şirketler RKC’nin iddialarını reddederken, Snap yorum yapmadı; Meta, TikTok ve YouTube ise konuya ilişkin yorum taleplerine yanıt vermedi.

DİKKAT: CHATBOT KAYITLARI YENİ BİR DİJİTAL DELİL ALANINA DÖNÜŞÜYOR

RKC’nin yaşadıkları, yapay zeka sohbetlerinin hukuki süreçlerde nasıl kullanılabileceğine ilişkin daha geniş bir tartışmanın yalnızca bir örneği. İnsanların iş, sağlık, ilişkiler, aile sorunları ve kişisel kaygılar gibi son derece özel konularda sohbet robotlarına başvurması, bu platformlarda daha önce görülmemiş büyüklükte bir kişisel veri arşivi oluşturuyor.

Washington Post’un kamu kayıtları ve yerel haberler üzerinden yaptığı incelemeye göre, son iki yılda en az 12 mahkeme davasında chatbot kayıtlarına atıfta bulunuldu. Ancak gerçek sayının bundan çok daha yüksek olabileceği belirtiliyor. Bunun nedeni, polis veya hukuk davalarındaki tarafların elde ettikleri bütün delilleri mahkemeye sunmak zorunda olmaması.

RKC’yi temsil eden hukukçu Mike Morgan, özellikle çocuklar açısından ortaya çıkan riske dikkat çekti. Morgan’a göre 15 yaşındaki bir genç, bir terapiste, ebeveynine veya arkadaşına söylemeyeceği şeyleri bir chatbot’a yazabilir ve bu bilgilerin ileride bir savunma uzmanının raporunda ya da mahkeme dosyasında yer alabileceğinin farkında olmayabilir.

Haber devam ediyor

CHATGPT’YE YAZILAN BİLGİLER GERÇEKTEN SİLİNİYOR MU?

Bu noktada tartışmanın yalnızca hukuki değil, teknik bir boyutu da bulunuyor. Kullanıcıların ChatGPT gibi platformlara yazdığı kişisel ve hassas bilgilerin nasıl saklandığı, silinen konuşmaların sistemlerden tamamen kaldırılıp kaldırılmadığı ve bu verilerin hangi koşullarda yeniden erişilebilir hale gelebileceği önemli soru işaretleri arasında.

“Teknik açıdan bu sistemler oldukça güçlü güvenlik önlemleri kullanıyor. Örneğin OpenAI, kullanıcı içeriğinin hem cihaz ile sunucular arasındaki aktarım sırasında hem de depolanırken şifrelendiğini belirtiyor. Dolayısıyla internette açık biçimde dolaşan veya herkesin erişebileceği bir veriden söz etmiyoruz” diyen Bilişim Uzmanı Osman Demircan, “Ancak şifrelenmiş veri ile kimsenin hiçbir koşulda erişemeyeceği veri aynı şey değil” dedi ve şu bilgilerin altını çizdi:

“Sonuçta kullanıcı, bilgiyi kendi cihazından çıkarıp bir bulut hizmetine gönderiyor. Hesabın ele geçirilmesi, yetkili sistem erişimleri, hukuki talepler, üçüncü taraf entegrasyonları veya yazılım güvenlik açıkları gibi riskler, teorik olarak senkronizasyon olan her bulut sisteminde bulunma olasılığını barındırıyor. Silme konusunda da önemli bir ayrıntı bulunuyor. OpenAI’nin güncel politikasına göre bir sohbeti sildiğiniz anda konuşma hesabınızdaki görünümden kaldırılıyor, fakat sistemlerden kalıcı olarak silinmesi 30 gün içinde gerçekleştirilmek üzere planlanıyor. Güvenlik veya hukuki bir yükümlülük varsa verinin daha uzun süre tutulması mümkün olabiliyor. Ayrıca veri daha önce kimlikten arındırılmış ve kullanıcı hesabıyla bağlantısı koparılmışsa daha erken silinmesi ya da daha uzun süre anonimleştirilerek tutulması söz konusu olabiliyor.”

CHATGPT’YE YAZILAN TEHDİTLER SORUŞTURMANIN PARÇASI OLDU

Chatbot konuşmalarının yalnızca hukuk davalarında değil, ceza soruşturmalarında da önemli hale geldiğini gösteren örnekler bulunuyor. Bunlardan biri Florida’da yaşandı. FBI, geçtiğimiz mayıs ayında Palm Beach County polisine, ChatGPT’nin üreticisi OpenAI tarafından yapılan bir bildirim hakkında bilgi verdi. Mahkeme belgelerine göre Darren Zhou olarak tanımlanan bir kullanıcı, eski kız arkadaşına tecavüz edip öldürme planlarını aylar boyunca ChatGPT’ye anlattı.

Zhou’nun eski kız arkadaşının voleybol antrenmanından dönmesini bekleyerek ona saldırmayı planladığı ve kendisine de zarar vermeyi düşündüğü iddia edildi. FBI’dan gelen bilgiler üzerine harekete geçen yerel polis, kadını tespit etti. Yetkililer ayrıca Zhou’nun ayrılığın ardından eski kız arkadaşına anonim mesajlar gönderdiğini belirledi. Mahkeme belgelerinde bu mesajlardan bazılarının tehditlerin ciddiyetini desteklediği ifade edildi.

Zhou mayıs ayında tutuklandı ve eski kız arkadaşına gönderdiği mesajların yanı sıra ChatGPT konuşmaları da soruşturmanın bir parçası oldu. Polis, söz konusu mesajların tehditlerin güvenilirliğini güçlendirdiğini belirtti. Zhou daha sonra suçunu kabul etti ve bu ay sekiz yıl denetimli serbestlik cezasına çarptırıldı. Avukatı ise konu hakkında yorum yapmadı.

OpenAI, kullanıcı konuşmalarında tehlikeli davranış belirtilerini tespit etmek amacıyla otomatik sistemler ve inceleyiciler kullandığını açıkladı. Şirket, nisan ayında yayımladığı bir açıklamada, konuşmanın başkalarına yönelik yakın ve güvenilir bir tehdit oluşturduğuna karar vermesi halinde konunun kolluk kuvvetlerine bildirilebildiğini belirtti. Ancak şirket, kullanıcıların kaç kez polise bildirildiğine ilişkin sayı vermedi.

‘İNSANLAR KİMSENİN GÖRMEYECEĞİNİ DÜŞÜNÜYOR’

Hukuk uzmanlarına göre chatbot konuşmalarını geleneksel dijital kayıtlardan ayıran en önemli özellik, kullanıcıların yapay zekaya karşı çok daha açık ve samimi davranabilmesi.

ABD Ulusal Ceza Savunma Avukatları Birliği bünyesindeki Dördüncü Değişiklik Merkezi’nin dava direktörü Michael Price, chatbot konuşmalarının yalnızca sorulan sorudan ibaret olmadığını belirtiyor. Kullanıcının verdiği arka plan bilgileri, yönlendirmeleri ve sohbet boyunca kurduğu iletişimin, kişinin düşünce sürecini ve niyetini ortaya koyabileceğini ifade ediyor. Price’a göre bu durum, chatbot kayıtlarını kişinin özel hayatına açılan son derece kapsamlı bir pencereye dönüştürüyor.