Google Fotoğrafları, “Magic Editor” yapay yapay zeka işlevi aracılığıyla değiştirilen görüntüleri tanımlamak için dijital bir dilli sistemi olan Synthid tanıtacak. Bu yeni özelliğin başlatılması bu hafta için planlanıyor ve manipüle edilmiş görüntülerin Magic Editor tarafından “Reimmagina” aracıyla tanınmasını kolaylaştırmayı amaçlıyor. Google DeepMind ekibi tarafından geliştirilen Synthid, IA araçları kullanılarak oluşturulup oluşturulmadıklarını veya değiştirildiklerini bildirmek için doğrudan görüntülere, videolara, sese ve metne bir dijital meta veri etiketini içeren bir filigran sistemidir. Bu sistem, tamamen Google'ın metin-Emagen görüntüsü aracılığıyla oluşturulan görüntüler için zaten kullanılmaktadır. Ayrıca, Creative Cloud Suite ile oluşturulan veya değiştirilen çalışmalara uygulanan içerik kimlik bilgilerine sahip Adobe gibi diğer şirketler de benzer filigran sistemleri geliştirmiştir.
Daha önce, Google Pixel 9 telefonlarında bulunan ve sadece istenen eklemeyi tanımlayan işlev yoluyla fotoğrafları ikna edici bir şekilde düzenlemenin kolaylığı belgelenmişti. IA tabanlı düzenleme araçları özünde zararlı olmasa da, Magic Editor, manipülasyonların AI tarafından üretildiğine dair belirgin bir gösterge olmadan görüntülerde uygunsuz içerik oluşturdu. Geçen Ekim ayından bu yana Google, IA ile değiştirilen resimler için Google fotoğraflarındaki dosyaların açıklamalarına etiketler eklemeye başladı.
Filigrana ile yapılan yeni güncelleme bu sorunu çözmeye çalışıyor, ancak bazı sınırlamaları var. Synthid, eklendiği görüntüyü gözle görülür bir şekilde değiştirmez ve Google'ın “Bu Görüntü hakkındaki bilgiler” işlevine entegre edilmiş özel bir IA algılama aracı aracılığıyla tanımlanabilir. Google ayrıca, Magic Editor'un “Reimmagina” işleviyle yapılan bazı değişikliklerin Synthid tarafından etiketlenemeyecek ve algılanamayacak kadar küçük olabileceğini açıkladı. Filigran teknolojisi manipülasyonların belirlenmesine yardımcı olsa da, sektördeki bazı uzmanlar, AI tarafından üretilen içeriği güvenilir bir şekilde doğrulamanın yeterli olmayacağını ve sinerjistik olarak çalışan farklı yaklaşımların bir kombinasyonunu gerektireceğini kabul ediyor. .
Daha önce, Google Pixel 9 telefonlarında bulunan ve sadece istenen eklemeyi tanımlayan işlev yoluyla fotoğrafları ikna edici bir şekilde düzenlemenin kolaylığı belgelenmişti. IA tabanlı düzenleme araçları özünde zararlı olmasa da, Magic Editor, manipülasyonların AI tarafından üretildiğine dair belirgin bir gösterge olmadan görüntülerde uygunsuz içerik oluşturdu. Geçen Ekim ayından bu yana Google, IA ile değiştirilen resimler için Google fotoğraflarındaki dosyaların açıklamalarına etiketler eklemeye başladı.
Filigrana ile yapılan yeni güncelleme bu sorunu çözmeye çalışıyor, ancak bazı sınırlamaları var. Synthid, eklendiği görüntüyü gözle görülür bir şekilde değiştirmez ve Google'ın “Bu Görüntü hakkındaki bilgiler” işlevine entegre edilmiş özel bir IA algılama aracı aracılığıyla tanımlanabilir. Google ayrıca, Magic Editor'un “Reimmagina” işleviyle yapılan bazı değişikliklerin Synthid tarafından etiketlenemeyecek ve algılanamayacak kadar küçük olabileceğini açıkladı. Filigran teknolojisi manipülasyonların belirlenmesine yardımcı olsa da, sektördeki bazı uzmanlar, AI tarafından üretilen içeriği güvenilir bir şekilde doğrulamanın yeterli olmayacağını ve sinerjistik olarak çalışan farklı yaklaşımların bir kombinasyonunu gerektireceğini kabul ediyor. .