Instagram'ın Reels algoritmasının ‘sadece çocukları takip eden hesaplara cinsel içerikler önerdiği’ iddiasıyla karşı karşıya.
Wall Street Journal yalnızca ‘genç jimnastikçileri, amigo kızları, genç ve ergenlik öncesi influencer'ları’ takip eden hesaplar oluşturarak Instagram'ın algoritmasını test etti. Bu hesaplar herhangi bir cinsel çağrışım içermeyen içerikler üretiyordu.
Buna rağmen Wall Street Journal ekibi, Instagram’ın test hesaplarına ‘yetişkin videoları ve çocukların müstehcen görüntüleri’ dahil olmak üzere rahatsız edici düzeyde cinsel içerik önerdiğini tespit etti.
Ayrıca uygulamanın Disney, Walmart, Pizza Hut, Bumble ve Match Group şirketlerin reklamlarını algoritmik olarak iletilen bu cinsel içeriklerle birlikte gösterdiği tespit edildi. Söz konusu haber ardından arkadaşlık uygulaması şirketi Bumble ve Match Group, markalarının uygunsuz içeriklerle yan yana yer almasına itiraz ederek Instagram'daki reklamlarını askıya aldı.
Meta'nın Müşteri İlişkileri Başkan Yardımcısı Samantha Stetson'a göre, Wall Street Journal'ın test sonuçları dünyanın dört bir yanındaki milyarlarca insanın gördüklerini temsil etmeyen ‘üretilmiş’ bir deneyime dayanıyor. Stetson, her ay dört milyondan fazla Reels videosunun Instagram politikalarını ihlal ettiği için kaldırıldığını söyledi.
Ekim ayında ABD'nin 33 eyaleti tarafından Meta'ya dava açıldı. Şirket çocukları sistemde kasıtlı olarak tutmak ve yasak olmasına rağmen 13 yaşından küçük bireyler hakkında veri toplamakla suçlanıyor.
Stetson Mashable'a yaptığı açıklamada, “Platformlarımızda bu tür içerikler istemiyoruz ve markalar da reklamlarının böyle videolarla birlikte görünmesini istemiyor. Bunu durdurmak için agresif bir şekilde yatırım yapmaya devam ediyoruz ve her çeyrekte bu tür içeriklerin yaygınlığı hakkında rapor veriyoruz, ki bunlar çok düşük seviyede kalıyor. Sistemlerimiz zararlı içeriği azaltmada etkili; güvenlik, emniyet ve marka uygunluğu çözümlerine milyarlarca dolar yatırım yaptık” dedi.
Bu yılın başlarında Meta, içeriğin para kazanma koşullarını karşılayıp karşılamadığını belirlemek, uygun kategorilere ayırmak ve bunların dışında kalıyorsa reklamları devre dışı bırakmak için tasarlanmış bir yapay zekâ aracını kullanıma sundu. Bu araç Ekim ayında Reels'ı da kapsayacak şekilde genişletildi.
Görünen o ki sosyal medyada reklam veren markalar için sıkıntılı bir dönem. Bir süre önce yayınlanan bir Media Matters haberinde X’teki Nazi sempatizanı bir paylaşımın yanında reklam gösterildiği aktarılmış ve X, Meta'nın şimdi öne sürdüğü argümanın aynısını, yani uygunsuz içeriğin reklam yanında gösterilmesiyle sonuçlanan bu testlerin ‘üretilmiş’ olduğunu açıklamıştı. Ancak tıpkı X'te olduğu gibi mesele kaç kişinin gördüğü ya da nasıl gerçekleştiğinden ziyade bunun gerçekleşebilmiş olmasıyla ilgili.
Instagram Reels'ın X'ten bir diğer farkı da Media Matters'ın testinde ‘aşırı uç içerikler’ yayınlayan hesaplar takip etmesi. Wall Street Journal ise yalnızca genç sporcuları ve influencer'ları takip ediyordu. Sunulan cinsel içerik tamamen Instagram'ın algoritmasından kaynaklanıyor gibi görünüyor. Ve bu nedenle, söz konusu algoritmada bir an önce bazı önemli düzenlemeler yapılması gerekiyor.