Mart 2019’da, Yeni Zelanda’nın Christchurch kentindeki iki camiye silahlı bir kişi 51 kişiyi öldürmeden önce, saldırısını yayınlamak için Facebook’ta canlı yayına girdi. Aynı yılın Ekim ayında, Almanya’da bir adam, Amazon’a ait, oyuncular arasında popüler olan canlı yayın sitesi Twitch’te kendi toplu çekimlerini canlı olarak yayınladı.
Cumartesi günü, Buffalo, NY’de bir silahlı adam kaskına bir kamera yerleştirdi ve yetkililerin ırkçı bir saldırı olduğunu söylediği bir markette 10 kişiyi öldürüp üç kişiyi yaralarken Twitch’te canlı yayınladı. Yetkililerin tetikçi olarak tanımladığı 18 yaşındaki Payton S. Gendron, internette yayınlanan bir manifestoda, Christchurch silahlı saldırganından ve diğerlerinden ilham aldığını yazdı.
Twitch, Buffalo saldırısının görüntüsünü hızla kaldırmak için hızlı tepki verdiğini ve şiddetin başlamasından sonraki iki dakika içinde akışı kaldırdığını söyledi. Ancak görüntünün başka bir yerde paylaşılması için iki dakika yeterliydi.
Pazar günü, görüntü kayıtları Facebook ve Twitter da dahil olmak üzere diğer sosyal platformlarda geniş çapta yayıldı. Streamable adlı bir sitedeki orijinal görüntüden bir alıntı, kaldırılmadan önce üç milyondan fazla kez görüntülendi.
Kitlesel çekimler – ve canlı yayınlar – şiddet içeren ve nefret dolu içeriğin çoğalmasına izin vermede sosyal medya sitelerinin rolü ve sorumluluğu hakkında soruları gündeme getiriyor. Silahlı saldırganların çoğu, Reddit ve 4chan gibi çevrimiçi forumlarda dolaşarak ırkçı ve antisemitik inançlarını geliştirdiklerini yazdı ve diğer atıcıların saldırılarını canlı yayınlamasını izleyerek teşvik edildi.
Columbia Üniversitesi’nden Knight First’te kıdemli araştırma görevlisi Evelyn Douek, “Bu tür saldırıların olmaya devam edeceği dünyanın üzücü bir gerçeği ve şu anki işleyişinin bir de sosyal medya yönü var” dedi. İçerik moderasyonunu inceleyen Amendment Institute. “Bu günlerde tamamen kaçınılmaz ve öngörülebilir. Bu sadece bir zaman meselesi.”
Sosyal medya sitelerinin sorumluluklarıyla ilgili sorular, platformların içeriklerini ne kadar agresif bir şekilde denetlemesi gerektiği konusundaki daha geniş bir tartışmanın parçasıdır. Tesla’nın CEO’su Elon Musk’ın kısa süre önce Twitter’ı satın almayı kabul etmesi ve sitede sınırsız konuşma yapmak istediğini söylemesinden bu yana bu tartışma tırmandı.
Sosyal medya ve içerik denetleme uzmanları, Twitch’in hızlı yanıtının makul olarak beklenebilecek en iyi yanıt olduğunu söyledi. Ancak yanıtın, saldırının görüntüsünün diğer sitelere yayılmasını engellememesi, canlı yayın yeteneğinin bu kadar kolay erişilebilir olup olmayacağı sorununu da gündeme getiriyor.
Snapchat ve YouTube’da güven ve güvenlik kararlarını yöneten danışman Micah Schaffer, “İki dakikada indirmelerinden çok etkilendim” dedi. “Ama eğer bu bile çok fazla bir duyguysa, o zaman gerçekten bir çıkmazdasınız: Buna sahip olmaya değer mi?”
Twitch’in güven ve güvenlikten sorumlu başkan yardımcısı Angela Hession yaptığı açıklamada, sitenin hızlı eyleminin “canlı içerik denetiminin zorlukları göz önüne alındığında çok güçlü bir yanıt süresi olduğunu ve iyi bir ilerleme gösterdiğini” söyledi. Bayan Hession, sitenin, görüntünün yayılmasını önlemek için sosyal medya sitelerinin yanı sıra diğer sosyal platformlardan oluşan kar amacı gütmeyen bir koalisyon olan Terörle Mücadele için Küresel İnternet Forumu ile birlikte çalıştığını söyledi.
“Sonunda hepimiz tek bir internetin parçasıyız ve artık biliyoruz ki bu içerik veya davranış nadiren – eğer olursa olsun – tek bir platformda yer alacak” dedi.
Saldırıdan önce 4chan forumunda ve mesajlaşma platformu Discord’da yayınlandığı anlaşılan bir belgede, Bay Gendron neden Twitch’te yayın yapmayı seçtiğini açıklayarak, “ücretsiz canlı yayınla ve internete sahip tüm insanlarla uyumlu olduğunu yazdı. izleyebilir ve kaydedebilir.” (Discord, soruşturmak için kolluk kuvvetleriyle birlikte çalıştığını söyledi.)
Twitch ayrıca, YouTube gibi kullanıcıların bunu yapmak için hesaplarını doğrulamasını ve bir mobil cihazdan akış için en az 50 aboneye sahip olmasını gerektiren sitelerin aksine, hesabı olan herkesin canlı yayınlanmasına izin verir.
Bay Gendron, “Sanırım bu saldırıyı canlı yayınlamak, bazı insanların benim için tezahürat yapacağını bildiğim için bana biraz motivasyon veriyor” dedi.
Ayrıca Reddit’ten, The Daily Stormer gibi aşırı sağ sitelerden ve Christchurch tetikçisi Brenton Tarrant’ın yazılarından ilham aldığını söyledi.
New York Valisi Kathy Hochul Cumartesi günü yaptığı açıklamada, sosyal medya platformlarını Bay Gendron’un ırkçı inançlarını etkileme ve saldırısının görüntülenmesine izin vermedeki rolleri nedeniyle eleştirdi.
Hochul, “Bu bir virüs gibi yayılıyor” diyerek, sosyal medya yöneticilerinin politikalarını bu bilgilerin yayılmaması için ellerinden gelen her şeyin yapıldığını garanti altına alacak şekilde değerlendirmelerini talep etti.
Kolay cevaplar olmayabilir. Uzmanlar, şiddet içerikli içerikleri ve videoları daha hızlı kaldırma konusunda Facebook, Twitch ve Twitter gibi platformların son yıllarda ilerleme kaydettiğini söyledi. Yeni Zelanda’daki silahlı saldırının ardından, sosyal platformlar ve dünyanın dört bir yanındaki ülkeler, Christchurch Harekete Geçirme Çağrısı adlı bir girişime katıldı ve terörizm ve şiddet içeren aşırılık içeriğiyle mücadele etmek için yakın bir şekilde çalışmayı kabul etti. Sosyal sitelerin kullandığı araçlardan biri, uygunsuz içeriği işaretleyebilen ve hızlı bir şekilde kaldırabilen, paylaşılan bir karma veri tabanı veya görüntülerin dijital ayak izleridir.
Ancak bu durumda, Bayan Douek, Facebook’un hash sistemine rağmen yetersiz kaldığını söyledi. Bir web analiz aracı olan CrowdTangle’a göre, Streamable’da yayınlanan görüntüye bağlanan Facebook gönderileri 43.000’den fazla etkileşim oluşturdu ve bazı gönderiler dokuz saatten fazla sürdü.
Kullanıcılar, içeriği “şiddeti yücelten” içeriğe izin vermeyen Facebook kurallarını ihlal ediyor olarak işaretlemeye çalıştığında, The New York Times tarafından görüntülenen ekran görüntülerine göre, bazı durumlarda bağlantıların Facebook politikalarına aykırı olmadığı söylendi.
Facebook o zamandan beri görüntü bağlantısı içeren gönderileri kaldırmaya başladı ve bir Facebook sözcüsü, gönderilerin platformun kurallarını ihlal ettiğini söyledi. Neden bazı kullanıcılara görüntüye bağlantı içeren gönderilerin standartlarını ihlal etmediği konusunda bilgi verildiği sorulduğunda, sözcü bir yanıt vermedi.
Twitter, çekim görüntüsüne bağlantı içeren pek çok gönderiyi kaldırmamıştı ve bazı durumlarda görüntü, doğrudan platforma yüklenmişti. Bir şirket sözcüsü, başlangıçta sitenin görüntünün bazı örneklerini kaldırabileceğini veya hassas bir içerik uyarısı ekleyebileceğini, daha sonra The Times’ın açıklama istemesi üzerine Twitter’ın saldırıyla ilgili tüm videoları kaldıracağını söyledi.
Streamable’ın sahibi olan görüntü konferans hizmeti Hopin’deki bir sözcü, platformun görüntüyü kaldırmak ve onu yükleyen kişilerin hesaplarını silmek için çalıştığını söyledi.
Araştırmacı Bayan Douek, şiddet içeren içeriği kaldırmak “bir barajdaki sızıntılara parmaklarınızı sokmaya çalışmak gibidir” dedi. “Bir şeyler bulmak temelde gerçekten zor olacak, özellikle de bu şeylerin şimdi yayılma hızında.”
Cumartesi günü, Buffalo, NY’de bir silahlı adam kaskına bir kamera yerleştirdi ve yetkililerin ırkçı bir saldırı olduğunu söylediği bir markette 10 kişiyi öldürüp üç kişiyi yaralarken Twitch’te canlı yayınladı. Yetkililerin tetikçi olarak tanımladığı 18 yaşındaki Payton S. Gendron, internette yayınlanan bir manifestoda, Christchurch silahlı saldırganından ve diğerlerinden ilham aldığını yazdı.
Twitch, Buffalo saldırısının görüntüsünü hızla kaldırmak için hızlı tepki verdiğini ve şiddetin başlamasından sonraki iki dakika içinde akışı kaldırdığını söyledi. Ancak görüntünün başka bir yerde paylaşılması için iki dakika yeterliydi.
Pazar günü, görüntü kayıtları Facebook ve Twitter da dahil olmak üzere diğer sosyal platformlarda geniş çapta yayıldı. Streamable adlı bir sitedeki orijinal görüntüden bir alıntı, kaldırılmadan önce üç milyondan fazla kez görüntülendi.
Kitlesel çekimler – ve canlı yayınlar – şiddet içeren ve nefret dolu içeriğin çoğalmasına izin vermede sosyal medya sitelerinin rolü ve sorumluluğu hakkında soruları gündeme getiriyor. Silahlı saldırganların çoğu, Reddit ve 4chan gibi çevrimiçi forumlarda dolaşarak ırkçı ve antisemitik inançlarını geliştirdiklerini yazdı ve diğer atıcıların saldırılarını canlı yayınlamasını izleyerek teşvik edildi.
Columbia Üniversitesi’nden Knight First’te kıdemli araştırma görevlisi Evelyn Douek, “Bu tür saldırıların olmaya devam edeceği dünyanın üzücü bir gerçeği ve şu anki işleyişinin bir de sosyal medya yönü var” dedi. İçerik moderasyonunu inceleyen Amendment Institute. “Bu günlerde tamamen kaçınılmaz ve öngörülebilir. Bu sadece bir zaman meselesi.”
Sosyal medya sitelerinin sorumluluklarıyla ilgili sorular, platformların içeriklerini ne kadar agresif bir şekilde denetlemesi gerektiği konusundaki daha geniş bir tartışmanın parçasıdır. Tesla’nın CEO’su Elon Musk’ın kısa süre önce Twitter’ı satın almayı kabul etmesi ve sitede sınırsız konuşma yapmak istediğini söylemesinden bu yana bu tartışma tırmandı.
Sosyal medya ve içerik denetleme uzmanları, Twitch’in hızlı yanıtının makul olarak beklenebilecek en iyi yanıt olduğunu söyledi. Ancak yanıtın, saldırının görüntüsünün diğer sitelere yayılmasını engellememesi, canlı yayın yeteneğinin bu kadar kolay erişilebilir olup olmayacağı sorununu da gündeme getiriyor.
Snapchat ve YouTube’da güven ve güvenlik kararlarını yöneten danışman Micah Schaffer, “İki dakikada indirmelerinden çok etkilendim” dedi. “Ama eğer bu bile çok fazla bir duyguysa, o zaman gerçekten bir çıkmazdasınız: Buna sahip olmaya değer mi?”
Twitch’in güven ve güvenlikten sorumlu başkan yardımcısı Angela Hession yaptığı açıklamada, sitenin hızlı eyleminin “canlı içerik denetiminin zorlukları göz önüne alındığında çok güçlü bir yanıt süresi olduğunu ve iyi bir ilerleme gösterdiğini” söyledi. Bayan Hession, sitenin, görüntünün yayılmasını önlemek için sosyal medya sitelerinin yanı sıra diğer sosyal platformlardan oluşan kar amacı gütmeyen bir koalisyon olan Terörle Mücadele için Küresel İnternet Forumu ile birlikte çalıştığını söyledi.
“Sonunda hepimiz tek bir internetin parçasıyız ve artık biliyoruz ki bu içerik veya davranış nadiren – eğer olursa olsun – tek bir platformda yer alacak” dedi.
Saldırıdan önce 4chan forumunda ve mesajlaşma platformu Discord’da yayınlandığı anlaşılan bir belgede, Bay Gendron neden Twitch’te yayın yapmayı seçtiğini açıklayarak, “ücretsiz canlı yayınla ve internete sahip tüm insanlarla uyumlu olduğunu yazdı. izleyebilir ve kaydedebilir.” (Discord, soruşturmak için kolluk kuvvetleriyle birlikte çalıştığını söyledi.)
Twitch ayrıca, YouTube gibi kullanıcıların bunu yapmak için hesaplarını doğrulamasını ve bir mobil cihazdan akış için en az 50 aboneye sahip olmasını gerektiren sitelerin aksine, hesabı olan herkesin canlı yayınlanmasına izin verir.
Bay Gendron, “Sanırım bu saldırıyı canlı yayınlamak, bazı insanların benim için tezahürat yapacağını bildiğim için bana biraz motivasyon veriyor” dedi.
Ayrıca Reddit’ten, The Daily Stormer gibi aşırı sağ sitelerden ve Christchurch tetikçisi Brenton Tarrant’ın yazılarından ilham aldığını söyledi.
New York Valisi Kathy Hochul Cumartesi günü yaptığı açıklamada, sosyal medya platformlarını Bay Gendron’un ırkçı inançlarını etkileme ve saldırısının görüntülenmesine izin vermedeki rolleri nedeniyle eleştirdi.
Hochul, “Bu bir virüs gibi yayılıyor” diyerek, sosyal medya yöneticilerinin politikalarını bu bilgilerin yayılmaması için ellerinden gelen her şeyin yapıldığını garanti altına alacak şekilde değerlendirmelerini talep etti.
Kolay cevaplar olmayabilir. Uzmanlar, şiddet içerikli içerikleri ve videoları daha hızlı kaldırma konusunda Facebook, Twitch ve Twitter gibi platformların son yıllarda ilerleme kaydettiğini söyledi. Yeni Zelanda’daki silahlı saldırının ardından, sosyal platformlar ve dünyanın dört bir yanındaki ülkeler, Christchurch Harekete Geçirme Çağrısı adlı bir girişime katıldı ve terörizm ve şiddet içeren aşırılık içeriğiyle mücadele etmek için yakın bir şekilde çalışmayı kabul etti. Sosyal sitelerin kullandığı araçlardan biri, uygunsuz içeriği işaretleyebilen ve hızlı bir şekilde kaldırabilen, paylaşılan bir karma veri tabanı veya görüntülerin dijital ayak izleridir.
Ancak bu durumda, Bayan Douek, Facebook’un hash sistemine rağmen yetersiz kaldığını söyledi. Bir web analiz aracı olan CrowdTangle’a göre, Streamable’da yayınlanan görüntüye bağlanan Facebook gönderileri 43.000’den fazla etkileşim oluşturdu ve bazı gönderiler dokuz saatten fazla sürdü.
Kullanıcılar, içeriği “şiddeti yücelten” içeriğe izin vermeyen Facebook kurallarını ihlal ediyor olarak işaretlemeye çalıştığında, The New York Times tarafından görüntülenen ekran görüntülerine göre, bazı durumlarda bağlantıların Facebook politikalarına aykırı olmadığı söylendi.
Facebook o zamandan beri görüntü bağlantısı içeren gönderileri kaldırmaya başladı ve bir Facebook sözcüsü, gönderilerin platformun kurallarını ihlal ettiğini söyledi. Neden bazı kullanıcılara görüntüye bağlantı içeren gönderilerin standartlarını ihlal etmediği konusunda bilgi verildiği sorulduğunda, sözcü bir yanıt vermedi.
Twitter, çekim görüntüsüne bağlantı içeren pek çok gönderiyi kaldırmamıştı ve bazı durumlarda görüntü, doğrudan platforma yüklenmişti. Bir şirket sözcüsü, başlangıçta sitenin görüntünün bazı örneklerini kaldırabileceğini veya hassas bir içerik uyarısı ekleyebileceğini, daha sonra The Times’ın açıklama istemesi üzerine Twitter’ın saldırıyla ilgili tüm videoları kaldıracağını söyledi.
Streamable’ın sahibi olan görüntü konferans hizmeti Hopin’deki bir sözcü, platformun görüntüyü kaldırmak ve onu yükleyen kişilerin hesaplarını silmek için çalıştığını söyledi.
Araştırmacı Bayan Douek, şiddet içeren içeriği kaldırmak “bir barajdaki sızıntılara parmaklarınızı sokmaya çalışmak gibidir” dedi. “Bir şeyler bulmak temelde gerçekten zor olacak, özellikle de bu şeylerin şimdi yayılma hızında.”