TikTok, kullanıcıların karşısına çıkan içeriklerin algoritma tarafından nasıl seçildiği ve gençleri zararlı içeriklerden korumaya yönelik aldığı önlemlerle ilgili yeni bir soruşturma baskısıyla karşı karşıya.

ABD Senatosu üyeleri Marsha Blackburn ve Richard Blumenthal, TikTok yöneticilerine gönderdiği mektupta, şirketin güvenlik özelliklerini nasıl test ettiğini ve bazı araçları neden milyonlarca kullanıcı için devreye almadığını sordu. Bu açıklamalar, TikTok'un 2021 yılında yürüttüğü bir algoritma deneyiyle ilgili haberleri yeniden gündeme taşıdı.

TikTok, 2021'de "Sizin İçin" akışında kullanıcıların sürekli benzer içeriklerle karşılaşmasını önlemek amacıyla bir algoritmik güvenlik özelliği üzerinde çalıştı. Bu sistem, tek başına zararsız görünen ancak yoğun şekilde karşılaşıldığında sorun yaratabilecek içerik kategorilerine maruziyeti azaltmayı hedefliyordu. Bu tür durum teknoloji alanında "filtre balonu" olarak adlandırılıyor.

Ancak şirket, bu güvenlik özelliğini bilinçli şekilde milyonlarca kullanıcı için devreye almadı ve onları bir test grubu olarak kullanarak özelliğin etkileşim üzerindeki etkisini ölçtü. Bloomberg'in haberine göre, bu test grubunda yer alan ABD'li genç Chase Nasca, kısa süre sonra intihar etti. Şirket içi belgelerde, bu tür içeriklerin gencin intiharına yakın dönemde yoğunlaştığı belirtildi.

Senatörler, TikTok'tan sadece bu deneyle ilgili değil, benzer diğer testlerle ilgili de detaylı bilgi istedi. Ayrıca şirketin, kullanıcı etkileşimi veya gelirleri olumsuz etkileyebileceği gerekçesiyle herhangi bir güvenlik özelliğini kullanıma sunmama kararı alıp almadığı soruldu. TikTok'un sorulara 1 Eylül'e kadar yanıt vermesi bekleniyor.

Blackburn ve Blumenthal, TikTok'un algoritma kaynaklı risklerin farkında olmasına rağmen güvenlik önlemlerini geniş kullanıcı kitlesine sunmama tercihini eleştiriyor. İki senatör, sosyal medya şirketlerinin genç kullanıcılar için daha güçlü güvenlik önlemleri alması gerektiğini vurguluyor. TikTok ise henüz bu konuda resmi bir açıklama yapmadı.