Racismo algorítmico: inteligencia

artificial y discriminación en las redes

digitales
AGRADECIMIENTOS
A Taís Oliveira, por su continuo apoyo, por leer los originales y por toda su inspiración
intelectual y afectiva; colegas de la comunidad UFABC, LabLivre y Neab; a la organización
Black In AI, sus fundadores y miembros; a los entrevistados y entrevistados, por sus
aprendizajes y amabilidad; y al profesor Sergio Amadeu da Silveira, por su confianza y por los
caminos que ha mostrado durante mi carrera académica.

PRESENTACIÓN
DESDE FINALES DE LA DÉCADA DE 1990, con la expansión de Internet, palabras como
interacción, colaboración, intercambio, recombinación y compartir comenzaron no solo a
organizar la gramática de las redes digitales, sino también a influir en la propia dinámica social.
Es un conjunto de expresiones vinculadas a formas de producción y distribución de información
y conocimiento que revelan nuevos escenarios, exigiendo un esfuerzo reflexivo para
comprender sus efectos, tanto desde las perspectivas de la comunicación y la cultura como
desde los sesgos de la educación, la economía y de la política.
Hoy es evidente el alcance de las redes de conexión digital en un país de dimensiones
continentales como Brasil. Si, por un lado, Internet promueve la dinamización sin precedentes
de las interacciones a distancia y el aumento exponencial del acceso y la producción de
contenidos, por otro lado, se puede ver en sus entornos una feroz competencia por la atención
(y las adhesiones), que van revelando se concentró en una gama limitada de plataformas, sitios
web y aplicaciones.
Con el crecimiento del uso de las redes en el país, temas como la libertad, los derechos
humanos, la igualdad social, la censura, el género y la raza pueblan la cotidianidad de los foros
virtuales, brindando no pocas veces alternativas al tipo de abordaje desarrollado en los medios
tradicionales de comunicación. comunicación, como la radio, la televisión y la prensa escrita.
Esto se debe, entre otros factores, a la relativización de la división entre quienes orientan y
quienes consumen información, a medida que se va borrando esta frontera.
Dado que la expansión de la red apalanca la multiplicación del volumen de datos y su
correlativa difusión en el ámbito público, además de estimular la participación de un número
creciente de personas en discusiones sobre asuntos de interés común, sería oportuno
preguntarnos sobre el impacto real, en el debate público,
esta forma de circulación de información y voces.
En ese sentido, es prometedor constituir una colección que tenga como objetivo reunir a
autores brasileños dedicados a pensar las dinámicas provocadas por las redes de conexión
digital, investigando su influencia en los caminos de la democracia. Organizada por el sociólogo
y doctor en Ciencias Políticas Sergio Amadeu da Silveira, la colección Democracia Digital invita
a investigadores en el campo de la cultura digital a estudiar, desde diferentes enfoques, la
historia reciente de esta relación ambivalente.
En este Racismo algorítmico, sexto título de la colección, el investigador en los campos de la
Comunicación y las Ciencias Sociales Tarcízio Silva presenta una bien documentada
aproximación a las conductas racistas y discriminatorias que los sistemas y protocolos de
programación de los nuevos medios digitales de conexión pueden acabar alimentando. y, en
ciertos casos, compiten para naturalizarse.
Basada en un lenguaje claro y directo, la colección Democracia Digital pretende despertar, en
igual medida, el interés tanto de investigadores en tecnología y comunicación como de un
público más amplio, que en su día a día está involucrado con dispositivos tecnológicos
permanentemente conectados. En formato digital, hace uso de un hábil soporte para ampliar
las posibilidades de acceso a estudios sobre aspectos centrales de la vida contemporánea. De
esta forma, refuerza el papel de la lectura como recurso clave en una educación concebida
sobre bases emancipatorias, utilizando las tecnologías digitales como herramienta propiciadora
de un espacio social crítico, inventivo y renovador.
danilo santos de miranda
Director de Sesc São Paulo

Prefacio
DURANTE MUCHO TIEMPO, EL MUNDO DIGITAL se presentó como un escenario de
superación de desigualdades, asimetrías y desequilibrios. Este libro demuestra que el
panorama sociotécnico actual puede ser más concentrado, menos inclusivo y más
discriminatorio que el que existía en el período anterior a la popularización de Internet. Los
caminos de las tecnologías y sus objetos técnicos deben analizarse de manera crítica, ya que
el futuro se está decidiendo ahora. Por eso, este libro forma parte de la colección Democracia
Digital lanzada por Edições Sesc São Paulo.
Aquí, Tarcízio Silva nos permite decodificar tecnologías opacas, presentadas como mágicas, a
menudo neutras, a veces simples, desarrolladas por corporaciones “benevolentes”,
preocupadas sólo por mejorar la experiencia de sus usuarios. De manera brillante y con
ejemplos contundentes, Tarcízio indica las formas en que el racismo estructural permea las
tecnologías y los procesos comunicacionales engendrados por ellas.
Investigador riguroso y audaz, Tarcízio Silva logra articular los elementos fundamentales, los
actantes decisivos, para mostrarnos cómo la inteligencia artificial, especialmente el aprendizaje
automático basado en datos, puede alimentar sistemas algorítmicos que reproducen prejuicios
y ejecutan discriminación. Es evidente que la raza, el género y la clase no han desaparecido de
los enfrentamientos en las redes digitales y en la maraña de las tecnologías de la información.
¿Puede la democracia vivir con ataques tecnopolíticos a grupos racializados? ¿Pueden los
espacios públicos interconectados aceptar microagresiones racistas y operaciones de bloqueo
algorítmico negro? Los robots pueden aprovechar el impulso
supremacistas sin ser notados? ¿Cómo enfrentar el racismo algorítmico? Estos temas se tratan
aquí en profundidad. Centrando la atención y gran parte de las interacciones sociales, las
plataformas digitales han crecido a partir de su modelo de monetización basado en el
procesamiento de datos, la vigilancia constante y prácticamente ubicua de sus usuarios. El
acopio masivo de información -que se materializó en redes digitales, en espacios urbanos y
rurales, con la difusión de celulares y sensores- tiene efectos devastadores sobre la privacidad
y sobre innumerables derechos de la población. Lo que nos muestra Tarcízio Silva es que la
población negra y los segmentos empobrecidos y frágiles de la sociedad son mucho más
afectados por las operaciones discriminatorias de los sistemas algorítmicos que operan en este
contexto.
Consciente de los procesos de alienación técnica, de las dinámicas de la colonialidad, de los
mecanismos de concentración comunicacional y económica, Silva explica que las tecnologías
son ambivalentes, que cualquier modulación puede engendrar demodulaciones, que las
agresiones racistas, que los ataques a la diversidad pueden producir resistencias y deslindes
de otra estilo de vida. Esta lectura es fundamental para deconstruir la ilusión de que el racismo
está lejos de los sistemas automatizados operados por software, lejos de los algoritmos y sus
estructuras de datos; pero, sobre todo, indica la posibilidad de construir otro camino. Sin
combatir el racismo, no puede existir una sociedad democrática. No hay democracia digital que
acepte el racismo algorítmico. Después de esta lectura, ya no podemos ser ingenuos.
Sergio Amadeu da Silveira

Introducción

DEMOCRACIA RACIAL Y NEUTRALIDAD en tecnología son dos conceptos aparentemente

distantes, pero se unen en el propósito de ocultar relaciones de poder que construyen
interpretaciones del mundo, naturalizan y profundizan explotaciones y desigualdades.
En la convergencia entre la negación del racismo y la negación de la política en la tecnología
reside lo que he llamado “doble opacidad”. Es el encuentro (que va más allá de la simple suma
de las dos partes) de tradiciones de encubrimiento y explotación, tanto en las relaciones
raciales como en las decisiones ideológicas, lo que define qué es la tecnología y qué es la
innovación deseable. Revelar conceptos que solo sirven al poder -especialmente al poder
blanco- ha sido tarea de investigadores negros y antirracistas.
Este libro busca colaborar con el creciente cuerpo de investigaciones intelectuales sobre cómo
el colonialismo y la supremacía blanca han dado forma a los últimos siglos en todas las esferas
de la vida, incluida la definición de los límites imaginativos y productivos de la creación
tecnológica.
En concreto, nos ocupamos del mundo de las innovaciones globales que buscan automatizar
las dinámicas de pedidos y gestión. Con el objetivo de acumular poder –tanto el poder
financiero como el poder de representación del mundo o el poder de la violencia–, los avances
tecnológicos simplificados en términos como “inteligencia artificial” o “algoritmización” tratan en
realidad de solidificar los horrores de la dominación y la necropolítica sobre el mundo.
Internet y los medios digitales, ahora inmersos en la vida cotidiana y en el espacio público, son
el foco de este libro, que se centra en el racismo algorítmico presente desde las plataformas
hasta la vigilancia generalizada.
En el capítulo 1, revisamos las nociones sobre el racismo en línea, en particular sus facetas
que están particularmente presentes en Brasil. Más allá de la noción de racismo en línea como
una materialización explícita del discurso de odio en texto e imágenes, cubrimos modalidades
que también abarcan la desinformación, el manejo de las plataformas de redes sociales y la
moderación, y presentamos la idea de "microagresiones algorítmicas". Entrelazadas en bases
de datos, interfaces y dinámicas de recomendación de contenidos, personalización e
interacción automatizada, las microagresiones manifiestan jerarquías racistas que controlan las
representaciones, entre lo sutil y lo explícito, de manera extensiva.
Para superar el análisis del racismo solo como discurso, en el Capítulo 2 presentamos
concepciones de la inteligencia artificial y observamos cómo la idea de “robots racistas”
esconde muchas capas de decisiones y prioridades creadas en las empresas tecnológicas y en
los medios de comunicación. Al revisar el caso de un sistema de chatbot que se ha convertido
en sinónimo de racismo algorítmico, proponemos una reflexión sobre cómo el dominio
corporativo de los medios nos informa más sobre el tema que la observación de códigos o
software.
Circulando entre la hipervisibilidad y la invisibilidad de los grupos racializados, en el capítulo 3
traemos al debate las tecnologías de visión artificial. Entre imágenes y videos, los errores
explícitos de la inteligencia artificial y los algoritmos que solo pueden “ver” personas y objetos a
través del lente de la blancura nos dicen y nos muestran mucho sobre la algoritmización de las
representaciones históricamente racistas en las culturas occidentales.
Pasando a los impactos inmediatos de las miradas algorítmicas racistas sobre la vida y la
muerte, en el capítulo 4 discutimos la vigilancia, la hipervigilancia y la necropolítica. La
tecnología de reconocimiento facial en seguridad pública es utilizada como herramienta de
violencia estatal, dentro de una historia de ideación en la que las propias instituciones policiales
son instrumentos de segregación racial. Entre los
matar y “dejar morir” de la necropolítica, también discutimos cómo el acceso a recursos vitales,
como el sistema de salud, está mediado por tecnologías algorítmicas.
Sin embargo, antes de analizar las reacciones, en el capítulo 5 volvemos al pasado. Una
digresión sobre artefactos, sistemas y dispositivos que precedieron a lo digital busca recordar
que las tecnologías siempre han sido políticas y racializadas. Entre aparatos de medición
respiratoria, fotografía y puentes, el capítulo rescata polémicas que nos recuerdan que el
debate sobre el racismo algorítmico tiene precedentes.
Las reacciones y remedios presentados en el capítulo 6 ofrecen un repertorio de resistencias
que abarca la promoción de la conciencia pública sobre las tecnologías, movilizaciones físicas
y protestas, reinvenciones tecnológicas, consensos y regulaciones multisectoriales.
Huyendo del fatalismo que se empeña en perseguirnos en un mundo atenazado por la codicia
de las big tech, develar estos mecanismos puede abrir imaginarios posibles y alternativos.

Capítulo 1. Discursos racistas en la web y redes sociales

POR SER UNA MANIFESTACIÓN INEQUÍVOCA del racismo, los insultos y las ofensas
verbales también son el tipo más estudiado por el campo de los estudios de internet, pero no
deben verse como la única agenda antirracista, a riesgo de cegarnos ante el racismo
estructural. . De hecho, a menudo podemos presenciar el intento de delimitar la concepción
misma de “racismo” solo como delitos. Con ello se pretende diluir la lucha contra el racismo
estructural y “sutil” en los ámbitos de la economía, el conocimiento o la política institucional.
Como era de esperar, la mayoría de las primeras formulaciones hegemónicas en los estudios
de internet se caracterizaron por la miopía respecto a la noción de desencarnación en línea.
Los conflictos de opinión sobre el papel de internet en la relación, intensificación o erosión de
los grupos identitarios y sus controversias están presentes desde la década de 1990, cuando
ganó la idea de un yo cambiante que podía ser diferente en cada nueva ventana de los
entornos en línea. popularidad.
Muchos argumentaron que el “ciberespacio” o los entornos “virtuales” y digitales derrocarían las
variables vistas como solo identidad, como la raza, el género, la clase o la nacionalidad. Esto
sucedió principalmente cuando: a) los entornos digitales eran aún escasos informacionalmente,
con pocas modalidades de comunicación, centrándose principalmente en la textualidad; b) los
investigadores de las poblaciones minoritarias en los países de la diáspora africana aún eran
pocos e ignorados; c) ya estaba en vigor la pretensión de neutralidad de plataformas y medios,
derivada de un tecnoliberalismo en consolidación.
Hegemónicamente, entonces, el mito de la desencarnación y superación de las identidades se
fortaleció en la intersección de una serie de
de motivaciones, desde la mirada utópica de quienes veían en internet un posible edén hasta la
ceguera racial, que ya no veía las disparidades estructurales y las brechas digitales.
Un ejemplo impactante e influyente de esto fue la Declaración de Independencia del
Ciberespacio, propuesta por John Perry Barlow en 1996 como reacción de la élite tecnológica
estadounidense a las iniciativas regulatorias estatales. Ofreciendo una concepción determinista
de Internet, se argumentó que los controles estatales no serían deseables ni posibles. En gran
medida, las propuestas de la Declaración presentaban posiciones utópicas sobre el mundo
“virtual” de la época, pero fueron un punto de inspiración para una postura “tecnolibertaria” de
internet, ciega a cuestiones de clase, género, raza y colonialismo, como podemos ver en el
apartado que alega que “todo el mundo podrá entrar sin privilegios ni prejuicios según raza,
poder económico, fuerza militar o lugar de nacimiento”.
Pero la realidad, como podemos imaginar, fue muy diferente. Estas proposiciones fueron
concebidas por grupos hegemónicos en términos de origen, raza y género, que relegaron a una
relativa invisibilidad la multiplicidad de experiencias y perspectivas sobre internet y las
tecnologías digitales. Sin embargo, grupos de científicos, teóricos y activistas de la
comunicación y la tecnología han señalado cuán racializados están los procesos de
construcción tanto de las tecnologías digitales de comunicación como de la ideología de Silicon
Valley, teniendo como punto de partida una lógica de supremacía blanca3.
El racismo algorítmico es alimentado y entrenado por otras prácticas digitales de discriminación
más abiertas, como el racismo discursivo, además de impulsarlo a través de varios recursos.
Antes de llegar a los algoritmos, en las siguientes secciones4 analizaremos una tipología
integral del racismo en línea que abarca las prácticas contemporáneas en las plataformas
digitales.

Racismo en línea en Brasil

Específicamente sobre las manifestaciones explícitas de mensajes racistas en las redes
sociales de Brasil, destacamos el trabajo de Luiz Trindade, quien aporta datos especialmente
relevantes sobre el comportamiento de los agresores y las características de los destinatarios:
el 81% de las víctimas del racismo en Facebook en Brasil son de clase media mujeres negras,
con estudios superiores; El 76,2% de los agresores no tenía relación previa con la víctima; El
66% de los agresores son hombres jóvenes; y, a menudo, las articulaciones de los insultos
racistas son reacciones a eventos positivos expuestos en las redes sociales por mujeres
negras.
En su investigación, Trindade descubrió categorías comunes de eventos que desencadenan la
articulación grupal de acoso racista en las redes sociales. Dichos hechos son principalmente el
resultado de un desacuerdo previo con alguna publicación o comentario de carácter negativo
contra las personas negras y la exhibición de diferentes tipos de prestigio, como la adscripción
a profesiones consideradas más “nobles” (como la medicina, el periodismo, etc.) , puestos de
liderazgo en entornos mediáticos, viajes al extranjero, concursos de belleza y similares.
Los estudios de calidad de casos específicos de racismo en las redes sociales se pueden
vincular a dichas categorías y, por lo general, están motivados por casos que han generado
mucha atención. Veamos dos ejemplos. La visibilidad de la actriz y empresaria Taís Araújo en
un video TEDx sobre familia, raza y clase fue el detonante de la agrupación de racistas en la
producción de memes. Al narrar la mirada criminalizadora que parte de la sociedad impone
sobre su hijo, un niño negro, Taís Araújo evocó algunas “verdades desagradables” sobre las
relaciones raciales en Brasil, que fueron sistemáticamente negadas y ridiculizadas por el uso
de agresiones en forma de “memes”. . Casos como el de ella y el de la periodista Maria Júlia
Coutinho, acosados ​por ganar protagonismo
en los principales noticieros de TV Globo, también desencadenan el refuerzo de activistas
antirracistas en la producción de contenidos y creación de redes de apoyo, afecto y seguridad.
Los estudios sobre marcadores textuales específicos, como hashtags, en torno a cuestiones
raciales apuntan a controversias e intentos de diluir el debate sobre el racismo en Brasil. En un
análisis del #DíaDeLaConcienciaNegra en Twitter, la investigadora Raquel Recuero identificó
que la fecha fue “reducida al tema de la festividad, haciendo irrelevante su asociación con el
debate racial, la cuestión histórica y el develamiento de la dominación”.
Maria Aparecida Moura nos recuerda cómo internet y el consiguiente aumento de la pluralidad
mediática han generado nuevos tipos de “malestar” para los grupos hegemónicos: “La
intensificación de la gestión del mundo de la vida desde un espacio reticular digitalmente
interconectado ha producido un malestar - generalizándose en relación con la circulación de
narrativas ajenas a las marcas del despojo neocolonial de bienes y culturas en los últimos
treinta años”.
Popular como intento de explicar la polarización política en las plataformas digitales, el
concepto de “burbujas” en línea puede ser cuestionado frente a estos conflictos digitales, ya
que el uso de internet y las redes sociales para la circulación de discursos antirracistas
contrahegemónicos es en positivo, aunque se acompañe de movimientos de deslegitimación y
reacciones conservadoras.
Las manifestaciones racistas en línea contra la negritud son temas brasileños y globales,
vinculados a diferentes niveles de formación estratégica de grupos de odio, en foros como
Stormfront (lanzado en 1996), 4chan (lanzado en 2003) o en plataformas de redes sociales
hegemónicas como Facebook y Gorjeo. En 2007, el supremacista blanco David Duke, líder del
Ku Klux Klan, opinaba que “Internet brinda a millones acceso a la verdad que muchos ni
siquiera sabían que existía. Nunca en la historia del hombre una información poderosa ha
viajado tan rápido y tan lejos. Creo que Internet generará una reacción en cadena de ilustración
racial que sacudirá al mundo por la velocidad de su logro intelectual”.
Hasta hace poco tiempo, la historia de la intensa apropiación de internet por parte de los
supremacistas blancos, que veían el nuevo medio de comunicación como una herramienta para
descentralizar el acercamiento y reclutamiento de grupos susceptibles al extremismo, fue
considerablemente subestimada.
Entre las excepciones notables se encuentra el trabajo de Jessie Daniels, quien ha estudiado la
supremacía blanca durante décadas y ha observado foros y sitios web que promueven ideales
extremistas y violentos en torno a grupos como el Ku Klux Klan en los Estados Unidos, un país
donde la legislación es especialmente indulgente debido a a la forma en que allí se trata la
prerrogativa de la libertad de expresión. Pero más allá de la promoción de ideas racistas y el
reclutamiento explícito, estos grupos también fueron innovadores desde el punto de vista de las
tácticas de desinformación.
Uno de los fundadores del foro nazi Stormfront registró el dominio [Link], y
mantuvo un sitio web con información ofensiva sobre el activista, diluida entre fotografías
oficiales e información fáctica sobre el personaje histórico. Por el nombre en la URL, el sufijo
“.org” y el tiempo de registro y contenido, además de la controversia legal en torno al uso del
nombre de la activista, el sitio se mantuvo destacado durante años y, posteriormente, en
excelentes posiciones en la páginas de resultados del motor de búsqueda.
Pero si mecanismos como la ley digital se han adaptado a algunas controversias, como el uso
de dominios para la difamación, no ocurre lo mismo con las disputas algorítmicas en la difusión
de mensajes y construcción de representaciones en línea. El aparente surgimiento de la
categoría extremista de la “derecha alternativa” (de la derecha alternativa) como una nueva
iteración del extremismo racista es totalmente consistente con las manifestaciones anteriores
de la supremacía blanca, con solo algunos cambios en estilo y énfasis. La derecha alternativa
estaría menos ligada al simbolismo cristiano y la islamofobia, pero sí fuertemente ligada a la
racialización genocida, en busca de un “etnoestado” en Estados Unidos, y con influencia global
apoyando movimientos racistas en otros países.
Paul Gilroy abordó las características de la conceptualización “alt-right” (categoría filiativa que
no fue creada por los antifascistas, sino por los propios miembros, y abrazada sin mucha
reflexión por parte de la prensa y la crítica). Para Gilroy, es una “alianza internacional bien
financiada o una coalición informal que tiene acceso a los más altos niveles de poder. El
agrupamiento es tecnológicamente sofisticado y tiene un desconcertante dominio de la
comunicación política y psicológica, a través de los aspectos libidinales y afectivos de las
nuevas tecnologías, en general, y de las redes sociales, en particular”14. Por lo tanto, la
observación de cualquier movimiento colectivo de racismo,
La reacción violenta a las manifestaciones antirracistas en los Estados Unidos y Brasil es un
ejemplo muy esclarecedor de cómo Internet actual es un campo de disputa y también un
laboratorio para las tácticas de la supremacía blanca. Veamos las capas de activismo en línea
en torno a #BlackLivesMatter en los Estados Unidos, que ha inspirado a los medios en otros
países. Iniciado en 2014, el movimiento Black Lives Matter buscaba asociar activistas contra
los asesinatos, perpetrados por la policía, de personas negras desarmadas en los Estados
Unidos. Las redes sociales se han utilizado mucho para marcar protestas, cubrir la violencia y
como una forma de generar aprendizaje informal sobre el racismo y la violencia policial.
Deen Freelon, Charlton McIlwain y Meredith Clark estudiaron el movimiento en 2014 y 2015
para comprender cómo los entornos digitales como Twitter, blogs y sitios web son campos de
disputa sobre significados y visibilidad entre activistas y prensa progresista o reaccionaria en
en torno al activismo negro. Parte de los resultados y las entrevistas mostraron que, “al elevar
el tema a la prominencia nacional, los activistas instaron a los conservadores a informarse
sobre los hechos que rodearon varios casos de brutalidad policial”15. Sin embargo, los
contramovimientos son frecuentes, utilizando recursos lingüísticos como el encuadre
#AllLivesMatter para defender a los policías y atacar la defensa de los grupos víctimas de la
seguridad pública en una estrategia de “nosotros contra ellos”, que incluye el secuestro de
hashtags para socavar la confianza de los participantes. debate publico.
La última década en Brasil también ha estado llena de ejemplos de desinformación estratégica
y distribuida contra figuras negras, especialmente cuando un evento trágico los coloca en el
centro de atención política. El único condenado de las Jornadas de junio de 2013, Rafael Braga
Vieira, fue utilizado por la policía y el aparato judicial brasileños como advertencia sobre quién
puede y quién no puede manifestarse políticamente. Detenido por presuntamente portar
material explosivo -botellas de plástico de productos de limpieza-, la violencia contra Rafael
Braga, utilizada para recordar a los jóvenes activistas negros quién es efectivamente el blanco
del aparato policial, fue un ejercicio de consenso racista sobre qué y quién debe ser
considerado declaración de hechos Además de la impactante ecuación de productos de
limpieza con artefactos explosivos, Se realizó una segunda detención de Rafael Braga en base
a un supuesto delito flagrante falsificado -práctica común de la policía brasileña- de tráfico de
marihuana y cocaína. Las redes de solidaridad e indignación en torno al caso fueron
movilizadas por organizaciones activas y creativas “en relación con los medios de
comunicación disponibles para la circulación de información y entretenimiento”18, pero en
constante disputa con gran parte de la población punitiva, por lo que inmediatamente dio por
ciertas las afirmaciones de los policías de las cárceles de Rafael Braga.
Los ataques racistas organizados como desinformación en línea se basan en la cultura y las
imágenes de los medios hegemónicos. Así fue con la concejala Marielle Franco, elegida en
2016 en Río
de Janeiro a partir de su trabajo en políticas públicas en defensa de la mejora de las
condiciones de vida de la población negra y periférica, especialmente en la favela de Maré.
Con un historial combativo en la legislatura y en comisiones de defensa de los derechos
humanos, Marielle Franco criticó tanto a las milicias como al narcotráfico y los impactos nocivos
de la implementación de las nefastas UPP (Unidad de Policía Pacificadora), tema de su
disertación publicada póstumamente. en un libro. El día de su asesinato, el 14 de marzo de
2018, en un crimen en el que también murió Anderson Gomes, el conductor, a las pocas horas
el hecho había alcanzado medio millón de tuits, dando visibilidad internacional al caso.
Rápidamente también comenzaron a circular fake news y montajes que buscaban relacionar a
la regidora con el narcotráfico, generando una “disputa narrativa que se estableció entre grupos
que repudian el crimen y grupos que buscan descalificar a la regidora”.
Aún sin una solución definitiva para mayo de 2021, período en el que se produjo este libro, las
investigaciones y las reacciones al asesinato apuntan a una motivación política derivada de la
relación entre los grupos de milicianos de Río de Janeiro y miembros de grupos extremistas
que ganaron visibilidad en el 2018. Además de las tácticas de las “oficinas del odio”, como han
sido llamados en los últimos años los grupos que articulan la desinformación estratégica, la
cultura brasileña es un campo fértil para “manifestaciones discursivas racistas [que] se han
naturalizado y expresado de diversas maneras” .
Pero si el crecimiento en la proporción de usuarios no blancos en la web y su coordinación a
favor de la justicia social ponen en tela de juicio los conceptos erróneos de los teóricos
hegemónicos del ciberespacio de las décadas de 1990 y 2000 sobre una internet incorpórea,
léase si está “comprometida con la blancura”, , no ocurre lo mismo en relación a los titulares de
la producción de software y sistemas algorítmicos en una internet cada vez más amurallada y
plataformada por pocas corporaciones.
Es necesario ser conscientes de que el racismo discursivo y explícito en textos e imágenes
producidos por actores individuales, ya sea a través de perfiles “reales” o mediante el uso de
“fakes”, es solo parte de las prácticas y dinámicas anti-negritud en un mundo supremacista
blanco. Pensar y discutir sobre tecnologías digitales, como plataformas, redes sociales y
algoritmos, requiere ir más allá del lenguaje textual. Si durante décadas las manifestaciones
coordinadas o espontáneas de racismo explícito en internet han sido una constante y siguen
intensificándose de forma virulenta, en los últimos años la abundancia de sistemas algorítmicos
que reproducen y normalizan las agresiones presenta una nueva faceta omnipresente en la
ordenación de los datos. y representaciones racializadas en línea.

Racismo en línea y microagresiones

Coincidimos con Brendesha Tynes y colaboradores cuando afirman que, a pesar del enfoque
frecuente de la investigación digital en acciones específicas, individuales o colectivas, el
racismo en línea es un “sistema de prácticas contra minorías racializadas que privilegian y
mantienen el poder político, cultural y económico en blancos en el espacio digital”22. Estas
prácticas, por lo tanto, no se limitan a delitos explícitos en formato textual o de imágenes.
Técnicas como el análisis de textos y la circulación del discurso abordan solo una parte del
problema.
En entornos digitales, tenemos un desafío más profundo. Necesitamos comprender las formas
en que el racismo está integrado en las tecnologías digitales a través de procesos "invisibles"
en recursos automatizados y/o definidos por plataformas, como la recomendación de
contenido, la moderación, el reconocimiento facial y el procesamiento de imágenes. Por lo
tanto, también es necesario comprender las manifestaciones de racismo “construidas y
expresadas en la infraestructura o back end23 (por ejemplo, en algoritmos) o a través de la
interfaz (como símbolos, imágenes, voz, textos y representaciones gráficas)”24.
Una cuestión clave para que reflexionemos sobre las particularidades del racismo en los
medios digitales es la relación entre la omnipresencia, por un lado, y su carácter
aparentemente sutil y difuso, por el otro. Después de todo, ¿cómo abordar las formas en que
las prácticas racistas se materializan en las bases de datos y el conocimiento digital? ¿Puede
un motor de búsqueda ser racista? ¿Y cómo hablar de estos casos de manera diferente,
tratando de manera diferente las lesiones explícitamente racistas y las que se dan en niveles
directamente necropolíticos?
Aunque controvertido, uno de los constructos teóricos más importantes para el antirracismo en
áreas como la educación y la psicología es el concepto de "microagresiones", que será útil para
comprender todo, desde el racismo verbal hasta el racismo algorítmico. Las microagresiones
son “insultos verbales, conductuales y ambientales comunes, ya sean intencionales o no, que
comunican falta de respeto e insultos hostiles, despectivos o negativos”25 contra minorías
vulnerables, como personas de color, mujeres, migrantes, entre otros, así como las
intersecciones de estas variables.
El concepto de microagresiones fue creado por el psiquiatra Chester Pierce26, quien desarrolló
un trabajo propositivo sobre la necesidad de estudiar también los “mecanismos ofensivos” de
los grupos opresores en una medida similar a lo que las prácticas psiquiátricas ya realizaban
sobre los “mecanismos defensivos”27 para gente negra. . Después de todo, el racismo es algo
que debe entenderse no solo en sus efectos, sino también en sus motivaciones, de modo que
la defensa y la reacción de los grupos objetivo pueden idealizarse en diferentes niveles: legal,
económico, educativo y psicológico.
Pierce explica que los aparatos de educación y los medios son herramientas de la supremacía
blanca para crear entornos en los que “la mayoría de las acciones ofensivas no son brutales ni
físicamente violentas. Son sutiles y paralizantes. La enormidad de las complicaciones que
la causa sólo puede entenderse cuando se considera que los golpes se dan
incesantemente”28. Si tenemos en cuenta la forma en que, hoy, el exceso de información se
articula con la hipervisibilidad de las representaciones y constricciones racistas en la vida
cotidiana, podemos reafirmar la pertinencia de mirar las microagresiones.
Las representaciones negativas de las poblaciones minoritarias en la prensa, el cine, la
literatura y el humor son las manifestaciones más investigadas por los interesados ​en el
racismo mediático. El tema fue estudiado por Pierce, y sus obras identificaron que los
estereotipos “no son meras percepciones inadecuadas sobre ciertos grupos de individuos.
Tienen una dimensión claramente política porque son medios de legitimación de arreglos
sociales tendientes a mantener estructuras que benefician a ciertos grupos de la marginación
cultural de otros”29.
A las situaciones cotidianas de microagresiones racistas presentadas en la obra seminal de
Pierce se sumaron otras en las décadas siguientes, tanto en la bibliografía de psicología social
como en el análisis de los medios, documentadas a partir de experimentos y luego organizadas
en tipologías. La reproducción de culturas hegemónicas en la producción de artefactos
mediáticos ficcionales, así como en la mediatización de la sociedad, se disfraza de “libertad de
expresión, estándares de belleza, gustos personales, humor y una infinidad de microagresiones
que subyugan, ofenden, menoscaban, maltratan”. , excluir y someter a la violencia a la
población negra”30.
Pierce también llamó, en su obra, a apoyar la iniciativa que llamó “terapeutas de la calle”: para
él, el acercamiento de los profesionales para apoyar la salud mental de las poblaciones negras
marginadas sería fundamental para la lucha contra el racismo. Pero, en contraste con la
introspección y el enfoque indirecto entonces en boga, Pierce fomentaba la confrontación y la
reflexión directa sobre las acciones. En este escenario, lenguaje adaptativo – informal cuando
sea necesario
– del hipotético “terapeuta de la calle” sería adecuado para una construcción de la acción social
y política en la lectura de la realidad31 encontrada tanto en las interacciones cara a cara como
en la producción mediada de representaciones.
Comprender muchas manifestaciones del racismo en forma de microagresiones en las
prácticas cotidianas es especialmente difícil cuando se trata de tecnologías algorítmicas de
comunicación, que aportan nuevas capas de opacidad a su funcionamiento. Si la tecnología es
mal enmarcada y percibida como neutra, a este concepto erróneo se suma la negación del
racismo como fundamento de las relaciones sociales y las jerarquías en países como Brasil.
De esta forma, se presenta una carga extra de dificultad a las víctimas de microagresiones, que
necesitan lidiar con la ausencia de “recursos epistémicos compartidos que socavan la
capacidad, por parte de la víctima, de generar afirmaciones de conocimiento sobre su
experiencia de microagresión” 32 a otras personas. La reflexión y las taxonomías sobre las
microagresiones, dentro de las gradaciones cambiantes de las manifestaciones del racismo,
pueden entonces ayudar a las poblaciones racializadas “a 'nombrar sus dolores', como lo
describe Paulo Freire, y a involucrarse en estrategias anti-opresivas para la liberación”33.