Yapay zekâ, gerçek kişilere aitmiş gibi görünen ancak aslında algoritmalar tarafından oluşturulan karakterler olan sosyal medya profillerinin oluşturulmasını kolaylaştırdı. Bu durum, kullanıcılar arasında kafa karışıklığı ve hayal kırıklığına neden oldu; kullanıcılar genellikle etkileşimde bulundukları hesabın bir insan tarafından yönetilmediğini çok geç fark ediyorlar. Bu sorunu çözmek için Instagram, bu tür hesapları tanımlama sisteminde bir değişiklik duyurdu.
Meta'ya ait platform, mevcut 'yapay zeka oluşturucu' etiketini yeni ve daha açık bir etiketle değiştirmeye karar verdi: 'Yapay zeka tarafından oluşturulmuş profil'. Amaç, kullanıcıların profilde gösterilen kişinin gerçek hayatta var olmadığını, yapay zeka kullanılarak oluşturulduğunu hemen anlamalarını sağlamaktır. Bu güncelleme, görünüşte gerçek profilleri takip ederek aldatıldıklarını hisseden birçok kullanıcının şikayetlerine yanıt niteliğindedir.
Daha fazla şeffaflık için etiket değişikliği.
Yeni "Yapay Zeka Tarafından Oluşturulan Profil" etiketi, bazıları tarafından belirsiz bulunan önceki etiketin yerini alıyor. "Yapay Zeka Oluşturucu" terimi, birçok durumda profilin tamamı sentetik bir kimliği temsil ederken, yapay zeka araçlarını kullanan bir insan yaratıcıya atıfta bulunuyormuş gibi yorumlanabilirdi. Bu değişiklikle Instagram, profilin öncelikle yapay zeka kullanılarak oluşturulan veya inşa edilen bir karakter olduğunu açıklığa kavuşturmayı amaçlıyor.
Şirkete göre, bu önlem, kullanıcıların gerçek bir kişiyle mi yoksa yapay bir kimlikle mi etkileşim kurduklarını kolayca ayırt etmelerine yardımcı olmayı amaçlayan daha geniş bir çabanın parçasıdır. Meta, insan gibi görünen profilleri takip ettikten sonra bunların tamamen yapay zeka tarafından oluşturulduğunu keşfeden kullanıcılardan gelen geri bildirimler üzerine bu sistemi bu yılın başlarında test etmeye başladı.
Bu etiket, profil ayarları üzerinden isteğe bağlı olarak etkinleştirilecektir. Daha önce bu etiketi kullanan hesap yöneticileri, yeni açıklamanın hala uygun olup olmadığını onaylamak için bir bildirim alacaklardır. Etkinleştirildiğinde, rozet profilde ve ayrıca yapay zeka kullanımına ilişkin özel bir belirti içermeyen gönderilerin yanında görünecektir.
Etiketlenmemiş profiller için erişim kaybı
En önemli değişiklik, önlemin artık yalnızca bilgilendirme amaçlı olmayacak olmasıdır. Instagram, uygun etiket olmadan yapay zeka tarafından oluşturulmuş avatarlar içeren hesapların erişimini sınırlayacağını duyurdu. Bu, profilin artık platformun önerilerinde (örneğin, hesabı henüz takip etmeyen kullanıcılara yönelik Keşfet bölümü veya Reels gibi) görünmeye uygun olmayacağı anlamına geliyor.
Instagram, tanımlanamayan yapay zekâ karakterleri kullandığından şüphelenilen bir hesabı tespit ettiğinde, hesap yöneticilerine bir bildirim gönderir. Bu noktadan itibaren, yöneticilerin iki seçeneği vardır: 'Yapay zekâ tarafından oluşturulmuş profil' etiketini eklemek veya platformun hata yaptığını düşünüyorlarsa itirazda bulunmak. İtiraz başarılı olursa, hesap önerilerde görünme hakkını yeniden kazanır.
Şirket, yapay zeka araçlarını yalnızca fotoğraf rötuşlama, metin düzeltme veya grafik tasarım gibi yaratıcı süreçlerine yardımcı olmak amacıyla kullanan içerik oluşturucuların bu etiketi etkinleştirmelerine gerek olmadığını açıkladı. Bu gereklilik yalnızca hesabın birincil kimliğinin yapay olarak oluşturulmuş bir kişiye ait olması durumunda geçerlidir; örneğin sanal etkileyiciler, kurgusal karakterler veya ana görüntü olarak sentetik bir yüz kullanan hesaplar gibi.
Kısıtlamanın nedenleri: Sık sık yaşanan suistimal vakaları
Bu güncelleme, sentetik içeriklerin artışından faydalanan çeşitli aldatıcı uygulamaları azaltmayı amaçlıyor. Meta'nın engellemeye çalıştığı başlıca sorunlar arasında, para toplamak veya kripto para dolandırıcılığını teşvik etmek amacıyla kurgusal romantik ilişkiler oluşturmak için hiper gerçekçi avatarların yaratıldığı finansal dolandırıcılık ve sahte kimlik oluşturma yer alıyor. Ayrıca, sözde yaşam tarzı etkileyicilerinin, var olmayan karakterlerle etkileşim kurduklarının farkında olmadan markalardan ücretsiz ürünler veya sponsorluklar aldığı aldatıcı reklamcılıktan da bahsediliyor.
Bir diğer yaygın durum ise biyometrik kimlik hırsızlığıdır; bu, gerçek yüzlerin yetkisiz olarak kopyalanarak, içerikten para kazanmak veya orijinal kişinin itibarını zedelemek amacıyla paralel sahte profillerin işletilmesini içerir. Ayrıca, sentetik hesap çiftliklerinin siyasi amaçlara kamuoyu desteğini simüle etmek, öneri algoritmalarını manipüle etmek veya sahte haber yaymak için kullanıldığı tespit edilmiştir; bu uygulama astroturfing olarak bilinir.
Instagram'ın bu kararı, sözde sanal etkileyicilerin çeşitli dijital platformlarda popülerlik kazandığı bir dönemde geldi. Bu profiller, fotoğraflarda, videolarda ve gönderilerde görünen kişilerin gerçekte var olmamasına rağmen, yüz binlerce hatta milyonlarca takipçi toplayabiliyor. Bu hesapların büyümesi, şeffaflık, reklamcılık, kullanıcı güveni ve yapay zekanın sosyal medya üzerindeki etkisi hakkında tartışmaları tetikledi.
Yeni sistem nasıl çalışacak?
Yapay zekâ tarafından oluşturulan profillerden sorumlu olanlar, hesap ayarlarında bu etiketi isteğe bağlı olarak etkinleştirebilirler. Instagram, bir hesapta ilgili kimlik bilgisi olmadan yapay zekâ tarafından oluşturulmuş bir profil bulunduğunu tespit ederse, yöneticilerine bir bildirim gönderir. Yöneticilerin daha sonra iki seçeneği olacaktır: 'Yapay zekâ tarafından oluşturulmuş profil' etiketini eklemek veya platformun hata yaptığını düşünüyorlarsa itirazda bulunmak.
Şirket ayrıca, yapay zeka araçlarını yalnızca fotoğraf rötuşlama, metin düzeltme veya grafik tasarım gibi yaratıcı süreçlerine yardımcı olmak için kullanan içerik üreticilerinin bu etiketi kullanmak zorunda kalmayacaklarını da açıkladı. Bu önlem, içeriklerini geliştirmek için yapay zeka kullananlara değil, aslında algoritmalar tarafından oluşturulan karakterler oldukları halde gerçek insanlarmış gibi davrananlara yöneliktir.
Meta, sistemlerinin her zaman mükemmel olmadığını kabul ediyor ve kullanıcıların hesap durumlarından kısıtlamaları görüntülemelerine olanak tanıyor. Etkilenen kullanıcılar, etiketi ekleyerek veya Instagram'ın hata yaptığını düşünüyorlarsa karara itiraz ederek önerilere tekrar erişim sağlayabilirler. Bu profil düzeyindeki tanımlama, uyumlu teknik göstergeler tespit edildiğinde veya kullanıcı bu araçları kullandığını beyan ettiğinde resimler, videolar ve ses dosyaları için kullanılan, bireysel gönderilere zaten uygulanmış olan etiketleri tamamlıyor.
Yeni kural, Meta'nın Instagram, Facebook ve Threads'te yapay zeka kullanılarak oluşturulan veya değiştirilen içeriklerin tanımlanmasını iyileştirmeye yönelik daha geniş bir stratejisinin parçasıdır. Şirket bu önlemle, üretken araçların büyümesini, kullanıcıların takip ettikleri profillerin arkasında kimin veya neyin olduğunu bilme ihtiyacıyla dengelemeyi amaçlıyor. Bu karar, sentetik kimlikler ve yapay zeka tarafından oluşturulan etkileyicilerle ilgili benzer zorluklarla karşı karşıya kalan diğer dijital platformlar için emsal teşkil edebilir.
Özetle, Instagram, kullanıcıların gerçek profiller ile yapay zeka tarafından oluşturulan profiller arasında net bir ayrım yapmalarına yardımcı olmak için önemli bir adım attı. Yeni "yapay zeka tarafından oluşturulan profil" etiketi, önceki etiketin yerini alıyor ve bunu kullanmayanlar için doğrudan sonuçlar doğuruyor: önerilerde görünürlük kaybı. Bu önlem, yapay zekayı düzenleme aracı olarak kullanan içerik oluşturucuları etkilemiyor, ancak sentetik karakterleri gerçek insanlarmış gibi sunanları etkiliyor. Bu güncellemeyle platform, üretken yapay zekanın sosyal medyada içerik oluşturma ve tüketme biçimini dönüştürdüğü bir dönemde, şeffaflığa ve topluluğunun güvenine olan bağlılığını güçlendiriyor.