Históricamente, las plataformas de redes sociales han administrado su contenido como un padre administra una casa llena de adolescentes: si vives bajo mi techo, debes seguir mis reglas. Pero a medida que las redes sociales se han vuelto cada vez más omnipresentes en nuestras vidas fuera de línea (y más inherentemente políticas), las preguntas se han convertido en: ¿Quién? realmente ¿A quién pertenece el techo, quién establece esas reglas y están en juego nuestras libertades civiles?
Bajo la administración del presidente electo Donald Trump, es probable que este debate se intensifique hasta que la politización de la moderación de contenidos alcance un punto álgido.
¿Cómo llegamos aquí?
La evolución de la moderación de contenidos comenzó lentamente y ha ganado velocidad a medida que crecía la influencia de las redes sociales. Cada vez está más claro qué es necesario hacer y cuándo Facebook, gorjeoy YouTube Yo jugué Roles principales en Primavera árabeuna serie de protestas en el mundo árabe en respuesta a la corrupción gubernamental, en la primera década del siglo XXI. Facebook fue utilizado como Una herramienta para que los activistas se organicenpero rápidamente se volvió controvertido. YouTube Luché con si permitir videos violentos Tenían fines educativos o documentales en respuesta a activistas en Egipto y Libia que exponían la tortura policial. Casi al mismo tiempo, Twitter ha introducido una política de “bloqueo de tweets a nivel nacional”..
La moderación de contenido cambia la forma en que hablamos y determina quién es escuchado
En 2013, Documentos filtrados de las oficinas de supervisión de Facebook Muestra exactamente qué contenido estaba moderando Facebook. Al año siguiente, la cuestión del extremismo en línea surgió en las plataformas de redes sociales. YouTube ha dado marcha atrás en su política de permitir algunos vídeos violentos después de haberlos visto una vez. El periodista James Foley. La decapitación fue generalizada. Twitter enfrentó una reacción violenta El acoso no se controla Sobre la liberación de las mujeres Cazafantasmas La película, resultando en un cambio moderado en el contenido.
entre bastidores, Las personas que moderaron el contenido denunciaron condiciones de trabajo pésimas.. Luego llegó 2016.
Información engañosa y engañosa Las elecciones presidenciales estadounidenses entre Hillary Clinton y Trump han estado plagadas de problemas. A pesar de Facebook lanza programa de verificación de datosLas plataformas han luchado por detener la difusión de información errónea y la interferencia electoral. En Myanmar, el pueblo rohingya enfrentó una violencia étnica masiva Impulsado por el contenido de Facebook. Mientras tanto, Facebook Live se ha convertido en un lugar para retransmitir suicidios y tiroteosincluido El asesinato de Philando Castilla. En 2018, TikTok se lanzó en ChinaEn el mismo año, Twitter ha eliminado 70 millones de bots para limitar la influencia de la desinformación política. Más tarde ese año, YouTube ha publicado su primer informe de transparenciay su formulario de Facebook junta de supervisiónpermitiendo a los usuarios apelar sus decisiones. En 2019 se produjo el atentado terrorista contra la Iglesia de la Iglesia, que Fue transmitido por Facebook Livellevó a Llamado a la acción de Christchurch para eliminar el contenido terrorista y extremista violento en líneaun grupo de países que “trabajan juntos bajo el paraguas de la promoción para evitar que terroristas y extremistas violentos exploten Internet”. Twitter permitió a sus usuarios apelar la eliminación de contenidos Más tarde ese año, TikTok finalmente se lanzó a nivel mundial.
Y todo el tiempo, Trump fue presidente. Inscribirse Orden ejecutiva que previene la censura en Internetque estaba dirigido Sección 230 de la Ley de Decencia en las Comunicaciones Su objetivo es reducir lo que considera un prejuicio contra él y otros conservadores en la forma en que las plataformas moderan el contenido. Esto vino después Varios de los tweets de Trump han sido marcados por Twitter como información errónea.. Él y otros miembros de su partido acusaron a plataformas como Twitter y Facebook Google de sesgo anticonservador, lo que llevó a Audiencias e investigaciones del Congreso sobre contenido moderado – un tipo de influencia que Katie Harbath, fundadora y directora ejecutiva de la firma de políticas tecnológicas Anchor Change y ex ejecutiva de Facebook, llama “reputación”.
“La pandemia del 6 de enero y el pico de politización”
Entonces llegó el COVID-19. Se ha extendido la desinformación sobre la epidemia mundialY como resultado, más personas murieron. Las reglas de moderación de contenido en línea se han expandido a nivel internacional para abordar fenómenos crecientes como el discurso de odio, la desinformación electoral y la desinformación sanitaria. Facebook introdujo políticas de orientación Contenido de negación del HolocaustoGrupos de odio, milicias organizadas y teorías de conspiración Twitter ha lanzado su propio Centro de Transparencia.
pero El 6 de enero de 2021 fue un punto de inflexión. Plataformas como Facebook, Twitter y YouTube. Prohibir o cerrar las cuentas del entonces presidente Trump Acusado de incitación a la violencia durante… Ataque al Capitolio.
Historias principales mezclables
“Yo diría que la destitución de Trump fue el pináculo de la oscilación del péndulo”, dijo a Mashable Katie Harbath, fundadora y directora ejecutiva de la firma de políticas tecnológicas Anchor Change y ex ejecutiva de Facebook. “A partir de entonces, durante los próximos cuatro años, [platforms have] Regresarán un poco más para centrarse en la cantidad de contenido que quieren eliminar. [And] Se están volviendo más silenciosos sobre esto. “No están siendo transparentes al respecto porque no quieren ser blanco de ataques políticos”.
¿Dónde estamos ahora?
Desde entonces, Trump ha sido reinstalado en todas las plataformas de redes sociales. Pero el foco sigue siendo el siguiente: los republicanos afirman que la moderación de contenidos silencia las voces conservadoras. Como dijo Perrin Szuka, presidente de TechFreedom, a Mashable: “La censura es simplemente editar contenido que a alguien no le gusta”.
Elon Musk, A. Quien se definió como una “libertad absoluta de expresión” me metí en twitter A finales de 2022 alimentó esta retórica. En enero de 2023, los republicanos de la Cámara de Representantes crearon un Subcomité sobre “Armar al Gobierno Federal” Apuntando a la supuesta censura de puntos de vista conservadores. En uno de sus primeros actos oficiales enviaron cartas a grupos de investigación Solicite cualquier documento Correspondencia entre estos grupos y el gobierno federal o empresas de redes sociales sobre moderación de contenido. Mientras tanto, una demanda alegaba que la administración del presidente Joe Biden presionó a las plataformas para suprimir la información errónea sobre el coronavirus, que según los fiscales era… Una forma de supresión del habla..
Meta, en un cambio notable, ha Redujo su enfoque en el contenido político.especialmente en su competidor Twitter Temaslo que, según Harbath, “no es necesariamente moderación de contenido, sino una decisión sobre qué tipos de contenido brindan o no a las personas”.
¿Qué veremos en el futuro de la moderación de contenidos?
El presidente electo Trump ha hecho de la moderación de contenidos una cuestión electoral. Brendan Carr, su elección para dirigir la FCC, ya se ha hecho eco de esta agenda. Pide desmantelar Por lo que él llama un “cártel de censura” y un intento de “restaurar los derechos de libertad de expresión de los estadounidenses comunes y corrientes”.
“Para hacer eso, tienen que intimidar a las empresas de tecnología o pedirles que difundan discursos que no quieren transmitir”, dijo Szuka. “Los republicanos están en guerra por la moderación de contenidos”.
Esta “guerra” probablemente se librará en varios frentes diferentes: legislativo y reputacional, dice Harbath. En cuanto a la reputación, veremos más audiencias en el Congreso con ejecutivos de tecnología, más publicaciones de Trump sobre X y más energía cuestionable con respecto a la moderación de contenido en general. Legislativamente tenemos un camino interesante por delante.
Como dice Szuka, Carr probablemente aceptará la oferta de Trump según los criterios de elegibilidad del departamento. 230 CV, que “Otorga inmunidad total a las actividades del editor o del orador, independientemente de si el discurso en cuestión es ilegal”. Esto significa que Facebook no es responsable de la información errónea, el discurso de odio o cualquier otra cosa que llegue a la plataforma que posee y opera con su dinero.
“[Republicans will] “Utilice la Sección 230 porque al hacerlo, pueden decir: 'No estamos pidiendo nada'”, dijo Szoka. “Como empresa privada, eres libre de hacer lo que quieras. Pero si quieres inmunidad bajo la Sección 230, tienes que ser neutral, y nosotros decidimos qué es neutral”.
Harbath ve que se avecina el caos, pero se pregunta si la Sección 230 realmente cambiará: “Probablemente habrá controversia y discusión al respecto, pero soy escéptico sobre si la Sección 230 realmente cambiará o no”.
Mientras tanto, el auge de la inteligencia artificial está remodelando el futuro de la moderación de contenidos. “En los próximos cuatro años, la forma en que la gente consumirá información, lo que hablamos hoy será completamente irrelevante y se verá completamente diferente”, dijo Harbath. “La IA cambiará la forma en que pensamos sobre nuestras fuentes de noticias, los incentivos de las personas, lo que publican, cómo se ve, y abrirá nuevos desafíos para las empresas de tecnología en cuanto a cómo politizan”.
¿Deberíamos tener miedo? Quizás no. Según Harbath, todavía es demasiado pronto para predecir cómo será la moderación de contenidos durante un segundo mandato de Trump. Pero debemos mantener los ojos abiertos. Las reglas para la moderación de contenidos (y quién puede redactarlas) están cada vez más determinadas por el poder político, la percepción pública y el desarrollo tecnológico, lo que prepara el terreno para batallas por la libertad de expresión, la responsabilidad corporativa y el papel del gobierno en la regulación de los espacios en línea.