Deepfakes görüntü, ses ve video düzenleme dünyasında büyük bir etki yarattı, peki içerik dünyasının kurumsal devi Adobe neden daha fazla dahil olmuyor? Eh, kısa cevap şu ki – ama yavaş ve dikkatli bir şekilde. Şirketin bugün düzenlediği yıllık Max konferansında, Deepfake tekniklerini ürünlerine entegre etmenin hem potansiyelini hem de sorunlarını gösteren Project Morpheus adlı bir prototip aracı tanıttı.
Project Morpheus, temel olarak şirketin geçen yıl Photoshop’ta tanıtılan Nöral Filtrelerinin bir video versiyonudur. Bu filtreler, bir öznenin görünümünü ayarlamak, yaşları, saç rengi ve yüz ifadesi gibi şeyleri ayarlamak (örneğin, şaşkınlık görünümünü öfkeye dönüştürmek için) için makine öğrenimini kullanır. Morpheus, sakal ve gözlükleri değiştirme yeteneği gibi birkaç yeni filtre eklerken aynı ayarları video içeriğine de getiriyor. Bunu insanlar için bir karakter oluşturma ekranı olarak düşünün.
Project Morpheus bir deepfake aracıdır, ancak Adobe buna
Sonuçların kesinlikle kusursuz olmadığını ve daha geniş deepfake dünyasına göre kapsam olarak çok sınırlı olduğunu söylemez. Kameraya bakan kişilerin görünümünde yalnızca küçük, önceden belirlenmiş ince ayarlar yapabilirsiniz ve örneğin yüz değiştirme gibi şeyler yapamazsınız.
Büyük bir tane. Çünkü derin sahtekarlıklar ve onlarla ilişkili her şey – rıza dışı pornografiden siyasi propagandaya kadar – iş için tam olarak iyi değil.
Şimdi, bugünlerde deepfake’leri tanımladığımız gevşeklik göz önüne alındığında, Adobe muhtemelen bu tür araçları yıllardır yapıyor. Bunlar, yukarıda bahsedilen Sinir Filtrelerini ve ayrıca AI destekli maskeleme ve segmentasyon gibi daha işlevsel araçları içerir. Ancak Project Morpheus, açıkçası, şirketin önceki çabalarından çok daha derin bir sahtekarlıktır. Her şey insanların video görüntülerini düzenlemekle ilgili – birçok kişinin muhtemelen esrarengiz veya manipülatif bulacağı şekillerde.
Örneğin, bir videoda birinin yüz ifadesini değiştirmek, bir yönetmen tarafından kötü bir çekim yapmak için kullanılabilir, ancak aynı zamanda siyasi propaganda oluşturmak için de kullanılabilir – ör. Hapisteki bir muhalifi, gerçekten açlıktan ölürken mahkeme görüntülerinde rahatlamış gibi göstermek. Bu, politikanın “ikili kullanımlı teknoloji” olarak adlandırdığı şeydir; bu, teknolojinin “bazen iyi, bazen belki bok” olduğunu söylemenin hızlı bir yoludur.
Bu, hiç şüphesiz, nedeni budur. Adobe, The Verge’e gönderdiği brifing materyallerinin hiçbirinde teknolojiyi tanımlamak için bir kez “deepfake” kelimesini kullanmadı.
Adobe’nin bu alanlardaki çabaları ilgili ve samimi görünüyor (çoğunlukla içerik doğrulama şemalarına odaklanıyorlar), ancak şirketin karşılaştığı ticari bir sorunu hafifletmiyorlar: en çok aynı derin sahte araçlar müşteri tabanı için yararlı olanlar, aynı zamanda potansiyel olarak en yıkıcı olanlardır.
Deepfake’ler, Adobe’nin iş stratejisi için zor bir sorun teşkil ediyor
Örneğin, birinin yüzünü başka birinin vücuduna yapıştırma yeteneğini ele alalım – muhtemelen tüm bu sıkıntıları başlatan ur-deepfake uygulaması. Bruce Willis’in benzerliğini Rusya’daki bir dizi mobil reklam için lisanslamak gibi meşru nedenlerle böyle bir yüz takası isteyebilirsiniz). Ancak, birisini taciz etmek, korkutmak veya şantaj yapmak için rıza dışı pornografi de yaratıyor olabilirsiniz (bu teknolojinin açık ara en yaygın kötü niyetli uygulaması).
Niyetiniz ne olursa olsun, bu tür bir derin sahtekarlık oluşturmak istiyorsanız, hiçbiri Adobe’den gelmeyen birçok seçeneğiniz var. Bir butik derin sahte içerik stüdyosu kiralayabilir, bazı açık kaynaklı yazılımlarla uğraşabilir veya yüz takaslarınızın önceden onaylanmış memler ve giflerle sınırlı olmasını sorun etmezseniz, bir uygulama indirebilirsiniz. Yapamayacağınız şey, Adobe Premiere veya After Effects’i başlatmak.
Ne de olsa Adobe, genel olarak ve genellikle olumsuz çağrışımlarla dijital olarak düzenlenmiş görüntüler için kısa yol haline gelen “Photoshopped” in gelişinden kurtuldu. Ve iyi ya da kötü, derin sahtekarlıklar, daha ana akım projelerde benimsendikçe kendi olumsuz çağrışımlarını yavaş yavaş kaybediyor. Project Morpheus, bazı ciddi korkuluklara sahip bir deepfake aracıdır (örneğin, yalnızca öngörülen değişiklikleri yapabilirsiniz ve yüz değiştirme yoktur), ancak Adobe’nin muhtemelen endüstriden ve halktan gelen tepkileri ölçerken bu bölgeyi keşfetmeye kararlı olduğunu gösteriyor.
Kamusal alanda sahtecilik suçlaması olarak “Photoshopped” ifadesinin yerini “deepfake” aldığından, Adobe belki de dışlanmış hissediyor. Morpheus Projesi, yakında yetişebileceğini öne sürüyor.
.
