Geçtiğimiz Eylül ayında, bir annenin kızıyla arabada şarkı söylediği bir video, Meta platformlarının kullanıcılarını sarsan bir tartışmaya yol açtı. Görünüşte masum olan bu paylaşım, Facebook, Instagram ve WhatsApp'a entegre edilmiş yapay zeka asistanı Meta AI'dan bir dizi otomatik öneriyi tetikleyerek ailenin mahremiyetine müdahale edilmesine neden oldu. Bu olay, bu araçların paylaştığımız kişisel bilgileri nasıl kullandığı konusunda bir tartışma başlattı.
Özellikle GDPR gibi veri koruma düzenlemelerinin çok katı olduğu İspanya ve Avrupa'nın geri kalanında bu olay önemli endişelere yol açtı. Kullanıcılar, konuşmalarının ve paylaşımlarının açık rızaları olmadan ayrıntılı profiller oluşturmak için kullanılıp kullanılamayacağını merak ediyor. Aşağıda, olayı, Meta'nın yanıtını ve bilgilerinizin istenmeyen bir şekilde yapay zekanın eline geçmesini önlemek için önerileri analiz ediyoruz.
Onu ifşa eden dava

İki çocuk annesi Kalie Robins, küçük kızıyla birlikte bir videoyu Facebook'ta paylaştı. Videonun altında Meta AI, "Çocuk yolcu kim?" şeklinde bir soru önerdi . Meraklanan Robins, soruya tıkladı. İşte o zaman, "bir sapık gibi" diye tanımladığı bir dizi otomatik davranış başladı. Yapay zeka, çocuklarının her biri hakkında isimler, doğum tarihleri ve videolar da dahil olmak üzere bilgi toplamaya başladı.
Sistem ayrıca, annesinin yıllar önce paylaştığı yeni doğmuş kızının fotoğrafını ve hatta Robins'in kendi hesabından sildiği bir görüntüyü de gösterdi. Yapay zeka başka bir soru sorduğunda durum daha da kötüleşti: "Kalie Robins nerede yaşıyor?" Tıklama üzerine, asistan tam konumunu belirlemek için eski ve yeni gönderileri analiz etti. Robins Instagram'da ailesi hakkında bir profil oluşturulmasını asla talep etmediğini belirtti: "Facebook'tan çocuklarım hakkında bir dosya oluşturmasını istemedim."
Meta'nın yanıtı

Meta, hasarı azaltmak için hızla harekete geçti. The Verge'e yaptığı açıklamada şirket, "bu özelliğin kullanıcıya bu tür soruları sormaması gerektiğini " kabul etti. Sözcü Dina El-Kassaby, Meta'nın "bir hata yaptığını" ve yapay zekanın "kullanıcıya bu tür soruları asla önermemesi gerektiğini" ekledi. Şirket, kişisel verilere dayalı bu önerilere neden olan sorunu zaten düzelttiğini doğruladı.
Ancak Meta, konunun ciddiyetini küçümsemeye çalışarak, asistanın yalnızca kullanıcının zaten erişebildiği gönderilerden bilgi gösterdiğini açıkladı. Bununla birlikte, bu gerekçe, uzun zaman önce silinmiş bir fotoğrafın neden gösterildiğini veya birkaç aile üyesinin verilerinin nasıl birleştirilerek bu kadar ayrıntılı bir profil oluşturulduğunu açıklığa kavuşturmuyor. Şirket, Meta AI'nin yanıt verdiği içeriğin, kullanıcının zaten yasal olarak erişebildiği içerik olduğunu belirtti.
Gizlilik ihlallerinin tarihi

Meta AI bu tür bir tartışmaya ilk kez karışmıyor. Geçtiğimiz yıl boyunca, şirketin veri yönetimiyle ilgili birçok olay yaşandı. Geçen yılın Haziran ayında, kullanıcılar yanlışlıkla asistanla yaptıkları konuşmaları herkese açık bir şekilde paylaştılar. Bir ay sonra, saldırganların yalnızca kullanıcı adlarını tahmin ederek diğer kullanıcıların özel sohbetlerini görüntülemelerine olanak sağlayabilecek bir güvenlik açığı keşfedildi.
Son zamanlarda Meta, Meta AI ile yapılan konuşmalara dayalı kişiselleştirilmiş reklamlar göstermeye başladı. Bu başarısızlık modeli, güvenlik uzmanlarının bu araçlara tamamen güvenmenin riskleri konusunda uyarıda bulunmasına yol açtı. Eski gönderilerden veri toplayarak ayrıntılı profiller oluşturmak , hizmet şartlarına uygun olsa bile, kullanıcılar arasında meşru bir endişe kaynağıdır.
Çocukları korumaya yönelik ipuçları

Bu olaydan sonra birçok ebeveyn sosyal medyada paylaştıkları şeyleri yeniden gözden geçirdi. Başlıca öneri, çocukların (veya diğer kişilerin) kimliklerini ortaya çıkaracak fotoğraflarını herkese açık platformlarda paylaşmamaktır . Bu, yalnızca karmaşık bir gizlilik ortamında izlenmelerini önlemekle kalmaz, aynı zamanda daha ciddi sonuçların riskini de azaltır. Kalie Robins, çocuklarının yer aldığı tüm fotoğraf ve videoları sileceğini açıkladı ve arkadaşlarından ve ailesinden de aynısını yapmalarını istedi; çünkü aksi takdirde Facebook, bu görüntüleri hesaplarından alıp kendi oluşturduğu profillerde kullanabilir.
Ayrıca, hesap gizlilik ayarlarını düzenli olarak gözden geçirmeniz ve gönderilerin görünürlüğünü yakın çevrenizle sınırlamanız önerilir. Ebeveynler, yapay zekanın farklı kaynaklardan gelen bilgileri çapraz referanslayarak , bir araya getirildiğinde parçalarının toplamından çok daha hassas veriler elde edebileceğinin farkında olmalıdır. İçerik paylaşımını tamamen durdurmak gerekli değildir, ancak temel önlemleri almak şarttır.
Bu olay rahatsız edici bir gerçeği ortaya çıkardı: Yapay zekâ asistanları sadece sorularımıza cevap vermekle kalmıyor, aynı zamanda bizim ve sevdiklerimizin davranışlarına dayanarak önerilerde de bulunabiliyor. Meta söz konusu hatayı düzeltti, ancak bu araçlarda kişisel verilerin kullanımının sınırları hakkındaki tartışma henüz bitmedi. Bir annenin sesi, dünya çapında milyonlarca kullanıcıyı etkileyen bir soruna dikkat çekti ve İspanya'dakilerin de buna yakından dikkat etmesi gerekiyor.
Indeks