Arizona’da Yol Verme Tartışmasında Vurulan Chris Pelkey’in Deepfake Videosu Mahkemede

Arizona eyaletinde yaşayan 37 yaşındaki Chris Pelkey, 2021 yılında trafikte yaşanan bir yol verme tartışmasında hayatını kaybetti. Bu hafta başında Pelkey’nin öldürülmesiyle ilgili dava duruşması gerçekleşti. Ve duruşmada tanık sandalyesine oturan kişilerden biri Pelkey’nin ta kendisiydi.

Popular Science’ın aktardığına göre, Pelkey’nin ailesi mahkemeye YZ tarafından oluşturulmuş bir videoyu kanıt olarak sundu. İlk olarak yerel haber kanalı ABC15’de yer alan ve Pelkey’nin “konuşan” bir klonunu içeren bu video, dünyada ilk kez bir kurbanın ifadesinde “deepfake” kullanılması anlamına geliyor.

“BAŞKA BİR HAYATTA ARKADAŞ OLABILİRDİK”

Pelkey’nin ailesi, YZ modelini ellerindeki eski video kayıtlarını kullanarak eğitti. Daha sonra Pelkey’nin bugünkü olası görünümünü yansıtmak için videoya “yaşlandırma filtresi” uygulandı. Pelkey’nin yeşil kapüşonlu bir üst giyip beyzbol şapkası takan dijital kopyası, videoda sanığa, “Beni vuran Gabriel Horcasitas’a… O gün, o şartlarda karşılaşmamamız gerekirdi. Belki başka bir hayatta arkadaş olabilirdik. Bana yaşlanma şansı verilseydi böyle görünecektim. Unutma, yaşlanmak herkese nasip olmaz; bu bir armağandır. Kırışıklıkları kafana takma” diye sesleniyor.

Pelkey’nin kız kardeşi Stacey Wales, “Chris’i tanıyan herkes bu videonun onun ruhunun ve bir cinayet kurbanı olarak kendisini öldürecek kişiye verilecek ceza hakkındaki düşüncelerinin hakiki bir temsili olduğu konusunda hemfikir” dedi. Savcılığın 9,5 yıl istemesine karşın Horcasitas’a 10,5 yıl hapis cezası veren yargıcın, kararında Pelkey’nin ailesinin hazırladığı videonun etkili olduğunu söylemesi şaşkınlığa yol açtı.

NEW YORK’TA SANIK, KENDİNE YZ AVUKAT YAPTI

Arizona’daki bu olayın hemen ardından New York’ta 74 yaşındaki Jerome Dewald, eski işvereniyle yaşadığı bir anlaşmazlık nedeniyle mahkemeye çıkarıldı. Dewald, savunmasını desteklemek için YZ tarafından oluşturulmuş videoyu mahkemeye sundu. Videoda, mavi gömlekli bir adam doğrudan kameraya bakarak konuşuyordu. Yargıç, bu kişinin avukat olup olmadığını sorduğunda Dewald, “Ben oluşturdum. Gerçek biri değil,” yanıtını verdi.

Dewald yaptığı açıklamada, mahkemeyi yanıltma gibi bir niyeti olmadığını, sadece savunmasını daha net ifade edebilmek amacıyla bu yönteme başvurduğunu söyledi. Başlangıçta klonun kendisine benzeyecek şekilde oluşturulmasını planladığını söyleyen Dewald, teknik aksaklıklar nedeniyle bu fikirden vazgeçtiğini belirtti.

“HALÜSİNASYON” DAVA DOSYALARI VE YZ SKANDALLARI

YZ’nin hukuk alanındaki geçmişi, yalnızca bu örneklerle sınırlı değil. Daha önce ABD’de bazı avukatlar, ChatGPT gibi büyük dil modellerini kullanarak yazdıkları dilekçelerde sahte dava örnekleri ve uydurma hukuk kararlarına yer vermişti. Trump’ın eski avukatı Michael Cohen de ChatGPT tarafından üretilen sahte bir dava kararını kendi avukatına göndermiş, bu belge mahkemeye sunulmuştu. Colorado’daki bir başka avukat da benzer nedenle meslekten uzaklaştırılmıştı. Hatta Georgia’da bir radyo sunucusu, ChatGPT’nin kendisini asılsız bir yolsuzluk davasıyla ilişkilendirdiği gerekçesiyle OpenAI’a dava açmıştı.

KURALLAR NET DEĞİL

Tüm bu olaylar, mahkemelerde yapay zekâ kullanımına dair kuralların henüz netleşmediğini gösteriyor. Geçtiğimiz hafta, bir federal yargı kurulu, YZ destekli kanıtların uzman tanıklıklarla aynı standartlara tabi olması gerektiğini belirten yeni bir düzenleme taslağını kamuoyunun görüşüne sundu. ABD Yüksek Mahkemesi Başkanı John Roberts da 2023 yılı raporunda bu konuya değindi. Roberts, YZ’nin hukuki süreci daha erişilebilir kılabileceğini belirtirken, aynı zamanda özel hayatın ihlali ve hukukun “insanlıktan uzaklaşması” gibi tehlikelere karşı da uyardı.

Bir gerçek var ki mahkeme salonlarında YZ ile üretilmiş deepfake’ler artık istisna değil; en azından ABD’de yeni normalin bir parçası olmaya doğru ilerliyor.