İçerik: Sosyal Medya Algoritmaları Nefretin Yayılmasını Mı Sağlıyor?
Sosyal Medya Algoritmaları Nefretin Yayılmasını Mı Sağlıyor? Geçen hafta, Amerika Birleşik Devletleri Senatosu, algoritmik önyargı ve büyütmenin sunduğu potansiyel tehlikelere ilişkin duruşmalar sırasında bir dizi sosyal medya şirketi başkan yardımcısına ev sahipliği yaptı.
Bu toplantı neredeyse anında partizan bir şikayet sirkine dönüşürken, Demokrat senatörler bu öneri algoritmalarının çevrimiçi yanlış bilgilerin ve aşırılık yanlısı ideolojilerin yayılmasına nasıl katkıda bulunabileceğine biraz odaklanmayı başardılar. Sosyal algoritmalar tarafından sunulan sorunlar ve tuzaklar iyi bilinmektedir ve iyi belgelenmiştir. Öyleyse, gerçekten, bu konuda ne yapacağız?
UC Berkeley’deki CITRIS Politika Laboratuvarı Direktörü Dr. Brandie Nonnecke, “Bu yüzden, bu soruyu yanıtlamak için, olması gereken kritik bir şey olduğunu düşünüyorum: platformları ve davranışlarını analiz edebilecek daha bağımsız araştırmacılara ihtiyacımız var,” dedi. Sosyal medya şirketleri “platformlarında olup bitenlerde daha şeffaf olmaları gerektiğini biliyorlar, ancak bu şeffaflığın gerçek olması için platformlar arasında işbirliği ve bağımsız meslektaşların incelemesi gerektiği konusunda kesin bir inancım var. , ampirik araştırma.”
Maalesef gerçekleştirilenden daha kolay hayal edilebilecek bir başarı. “Şu anda, platformların GDPR ve California Tüketici Mahremiyeti Yasası gibi yeni ortaya çıkan veri gizliliği mevzuatının aşırı geniş bir yorumunu üstlendiği bu alanda, aslında bağımsız araştırmacılara koruma iddiası kapsamında verilere erişim sağlamayan küçük bir sorun var. veri gizliliği ve güvenliği ”dedi.
Harvard Hukuk ve Teknoloji Dergisi’nden Yavar Bathaee’ye göre “büyük miktarda veriyi içselleştirmiş bir yapay zekanın kararlarını nasıl aldığını söylemek imkansız olabilir” – temel kara kutu meselesini bile görmezden gelmek – bunların iç işleyişleri algoritmalar genellikle ticari ticaret sırları olarak ele alınır.
Bathaee, “Derin sinir ağları gibi makine öğrenimi algoritmalarına dayanan yapay zekanın anlaşılması insan beyni kadar zor olabilir” diye devam etti. “Bu karmaşık yapay nöron ağlarının karar verme sürecini belirlemenin basit bir yolu yok.”
Örnek olarak 2016’daki Compas vakasını ele alalım. Compas AI, sanığın hayatı ve sabıka geçmişiyle ilgili bir dizi faktöre ve değişkene dayalı olarak ceza davalarında hakimlere ceza süresi önermek için tasarlanmış bir algoritmadır. 2016 yılında, bu yapay zeka bir Wisconsin mahkemesi yargıcına Eric L Loomis’in “bir memurdan kaçmaktan” altı yıllığına tutuklanmasını önerdi … çünkü nedenler. Gizli tescilli ticari nedenler. Loomis daha sonra, Compas AI’nın karar verme sürecinin şeffaf olmayan doğasının, kararlarını gözden geçiremeyeceği veya bunlara itiraz edemeyeceği için anayasal yargı sürecini ihlal ettiğini iddia ederek devlete dava açtı. Wisconsin Yüksek Mahkemesi sonunda, AI’nın yardımı olmasa bile aynı cezayı alacağını belirterek Loomis aleyhine karar verdi.
Ancak Facebook gruplarını öneren algoritmalar, en az hapis cezası öneren algoritmalar kadar tehlikeli olabilir – özellikle modern sosyal medyayı istila eden aşırılık söz konusu olduğunda.
“Sosyal medya platformları, milyarlarca insanın her gün neyi okuduğunu, izlediğini ve düşündüğünü şekillendiren algoritmalar kullanır, ancak bu sistemlerin nasıl çalıştığı ve toplumumuzu nasıl etkilediği hakkında çok az şey biliyoruz,” diyor Senatör Chris Coons (D-Del.) POLITICO’ya duruşmadan önce söyledi. “Giderek artan bir şekilde, bu algoritmaların yanlış bilgileri artırdığını, siyasi kutuplaşmayı beslediğini ve bizi daha fazla dikkatimizin dağınık ve izole hale getirdiğini duyuyoruz.”
Facebook, platformunu kullanarak nefret gruplarının gönderilerini kaldırmaya ve koordinasyonlarını bozmaya yönelik devam eden çabalarını düzenli olarak yayınlarken, şirketin kendi iç raporları bile sitedeki aşırılık dalgasını durdurmak için neredeyse yeterince şey yapmadığını savunuyor.
Gazeteci ve Culture Warlords’un yazarı Talia Lavin’in belirttiği gibi, Facebook platformu, grupların işe alma çabalarından nefret etmek için bir nimet oldu. “Geçmişte, kağıt dergilerle, silah gösterilerinde veya konferanslarda dağıtımla sınırlıydılar, burada insanlarla fiziksel alanlara girmeleri gerekiyordu ve zaten mesajlarıyla ilgilenme olasılığı yüksek olan insan yollarıyla sınırlıydılar.” söyledi.
Öte yandan Facebook’un öneri algoritmalarında, tartışmalı bir başkanlık seçimi sırasında anlatılmamış anarşinin meydana gelmesini önlemek için aktif olarak devre dışı bırakıldıkları durumlar dışında, böyle bir sınırlama yoktur.
Lavin, “Kesinlikle son beş yılda, sosyal medyayla gerçekten çok ilgisi olduğunu düşündüğüm aşırılıkta bu aşırı yükselişi gördük ve algoritmaların önemli olduğunu biliyorum” dedi. “Ama buradaki tek sürücü onlar değil.”
Lavin, Harvard Üniversitesi’nde Kennedy School of Government Araştırma Direktörü Dr.Jan Donovan’ın duruşmada verdiği ifadeye dikkat çekiyor ve yerel bağımsız haber ağlarının hızla dağılmasının yanı sıra Facebook gibi monolitik bir sosyal medya platformunun yükselişine de işaret ediyor. faktör.
“Günlük olarak milyonlara yanlış bilgi verebilen ve gönderen bu platforma, komplo teorilerine ve aşırılık yanlısı retoriğe sahipsiniz” diye devam etti. “Bulunduğumuz yerle çok fazla ilgisi olan, dahil olan katıksız ölçek.”
Bunun örnekleri için, Facebook’un seçim sonrası ortaya çıkan ve Capitol Hill’deki 6 Ocak ayaklanmasını körükleyen çevrimiçi bir hareket olan Stop the Steal’e verdiği acayip yanıta bakmanız yeterli. Dahili bir incelemenin ortaya çıkardığı gibi, şirket tehdidi yeterince tanımadı veya yanıt olarak uygun adımları atamadı. Lavin, Facebook’un kurallarının büyük ölçüde spam gönderme, sahte hesaplar ve benzeri şeyler gibi gerçek olmayan davranışları tespit etmeye yönelik olduğunu açıkladı. “Kendi adları altında aşırılık ve zararlı davranışlar sergileyen insanların otantik faaliyetleri için yürürlükte bir yönergeleri yoktu.”
“Stop the Steal, sosyal medyanın yayılmasından aylar ve aylar süren tırmanışın gerçekten harika bir örneği” diye devam etti. “Bu komplo teorileri yayılıyor, insanları kızdırıyor, ardından yoldan geçenlere ve karşı protestoculara şiddet uyguladığınız birden çok şehirde bu tür öncü olaylar düzenlendi. Ağır silahlı olanlara gelen insanlar vardı ve benzer bir süre zarfında, aynı zamanda ağır silahlı olan kilitlenme karşıtı protestolar yaşadınız. Bu, vaxx karşıtlarından beyaz milliyetçilere kadar farklı aşırılık yanlısı grupların çok gerçek bir çapraz tozlaşmasına yol açtı.
Rolodex’ten daha modern teknoloji söz konusu olduğunda büyük ölçüde yararsız olsa da, Kongre’nin bazı üyeleri en azından bu girişimde bulunmaya kararlı.
Mart ayının sonlarında, önde gelen House Democrats, Temsilciler Anna Eshoo (CA-18) ve Tom Malinowski (NJ-7), “büyük sosyal medya platformlarını sorumlu tutacak olan” Amerikalıları Tehlikeli Algoritmalardan Koruma Yasası’nı yeniden başlattılar. Çevrimdışı şiddete yol açan zararlı, radikalleştirici içeriğin algoritmik olarak güçlendirilmesi için. “
“Sosyal medya şirketleri, platformlarında aşırı ve yanıltıcı içeriği çoğalttığında, sonuçlar ölümcül olabilir. 6 Ocak’ta gördüğümüz gibi. Kongre’nin devreye girip bu platformları sorumlu tutma zamanı geldi. ” Temsilci Eshoo bir basın açıklamasında söyledi. “Bu nedenle Temsilci Malinowski ile, teknoloji şirketlerini kullanıcı tarafından oluşturulan içerikle ilgili yasal sorumluluktan bağışıklayan yasa olan İletişim Düzenleme Yasası’nın 230. Kısmını dar bir şekilde değiştirmekten gurur duyuyorum. çevrimdışı şiddete yol açar. “
Gerçekte Yasa, algoritması “sivil haklara müdahaleyi içeren bir davayla doğrudan alakalı içeriği genişletmek veya tavsiye etmek için kullanılırsa (42 U.S.C. 1985); medeni haklara müdahaleyi önleme ihmali (42 U.S.C. 1986); ve uluslararası terör eylemlerini içeren davalarda (18 U.S.C. 2333). “
Bu Yasa kanun haline getirilirse, inatçı sosyal medya CEO’larını motive etmek için değerli bir sopa olabilir, ancak Dr.Nonnecke, bu belirli ölüleri dövmeye geri dönmeden önce bu algoritmaların gerçek dünyada nasıl işlediğine dair daha fazla araştırmanın gerekli olduğu konusunda ısrar ediyor. atlar. Yasa koyucuların gelecekte daha etkili teknoloji yasaları oluşturmasına bile yardımcı olabilir.
“Şeffaflık ve hesap verebilirliğe sahip olmak sadece halka değil, platforma da fayda sağladığını düşünüyorum” dedi. “Sistemlerinde gerçekte neler olduğuna dair daha fazla araştırma varsa, araştırmanın uygun mevzuat düzenleme platformlarını bilgilendirmek için kullanılabileceği, federal düzeyde önerilen yasaların veya düzenlemelerin işareti tamamen kaçırdığı bir konumda olmak istemiyor.”
Nonnecke, “Bunun gibi işbirliğinin emsali var: Facebook ve araştırmacılar arasında Social Science One,” diye devam etti. Algoritmik büyütmeyle ilgili bu sorunları ele alabilmemiz için daha fazla araştırmaya ihtiyacımız var ve neler olduğunu daha iyi anlamak için bu güvenilir bağımsız araştırmaya ihtiyacımız var. “