Yapay zeka devi OpenAI, ChatGPT 4o modelinin gerçekçi görseller oluşturma özelliğini geçen hafta kullanıma sundu. Fotoğrafları Studio Ghibli tarzı görsellere çevirmekten profesyonel bir reklam afişi oluşturmaya kadar pek çok işlemi yapabilen ChatGPT 4o Image Generation özelliği, sahtecilik amaçlı da kullanılabiliyor.
Bunun son örneği, LinkedIn kullanıcısı ve girişimci Borys Musielak'in kendi pasaportunun kopyasını oluşturması oldu. Musielak, X'te yaptığı paylaşımda GPT-4o destekli ChatGPT ile yalnızca 5 dakika içinde kendi pasaportunun birebir kopyasını üretebildiğini açıkladı. Oluşturulan görselin, fotoğraf tabanlı kimlik doğrulama sistemlerini de sorunsuzca aşmayı başardığını iddia etti.
Musielak, ChatGPT'nin ürettiği pasaport fotoğrafını X hesabında paylaştı.
OpenAI'dan acil müdahale
Kısa bir süre sonra OpenAI, hızla devreye girerek sistem üzerinde kısıtlamalar getirdi ve güvenlik protokollerini sıkılaştırdı.
Musielak'ın paylaşımından ilham alan bazı kullanıcılar benzer denemeler yapmak istedi. Fakat orijinal gönderiden yaklaşık 16 saat sonra ChatGPT, bu tür taleplere yanıt vermeyi reddetmeye başladı. Kullanıcılardan biri, sistemin kendisine şu şekilde yanıt verdiğini aktardı:
"Herhangi bir sahte veya resmi olmayan kimlik kartını, kişisel ya da değiştirilmiş bilgilerle oluşturamam."
