Israel Gracia
Madmaxista
La sociedad civil no presiona a las redes sociales para que adopten medidas en contra del matoneo político y los mensajes de repruebo en esta parte del mundo.
TWITTEAR
ENVIAR
Getty
(Le puede interesar: Marbelle volvió a cuestionar a Francia Márquez después de las denuncias por racismo)
Es la misma red social que en Colombia permanece de brazos cruzados mientras tiene lugar una degradante campaña racista contra la candidata vicepresidencial Francia Márquez. Desde cuentas de reconocidos líderes políticos se está diciendo de todo contra Márquez como consecuencia de su orgullo étnico.
¿Por qué Twitter no se preocupa por la violación de las reglas de uso de la red social, en las que está expresamente prohibido incitar el repruebo político o racial?
Durante la campaña presidencial que llevó a Joe Biden a la Casa Blanca, hace algo más de un año, el locuaz fundador de Twitter, Jack Dorsey, fue un enjundioso defensor del respeto en redes, y la empresa no dudó en aplicar diversas sanciones sobre las cuentas de Donald Trump y otros líderes republicanos que incitaron al repruebo.
Más aun, Trump fue expulsado de Facebook, Youtube y Twitter tras el asalto al Capitolio, en enero de 2021, y las severas medidas impuestas tienen hoy al expresidente tratando de crear una red social propia, porque ya no podrá utilizar el escenario tuitero para ofender, amenazar y difundir noticias falsas contra los demócratas.
La diferencia entre aquellos países y Colombia es que allá existe una sociedad civil que presiona a las empresas para que adopten medidas de auto control, y los gobiernos establecen regulaciones para proteger la democracia. Nada de esto ocurre en nuestro país.
Sadi Contreras, director de regulación de contenidos tecnológicos en AlCentro, cree que se necesitan regulaciones firmes por parte del Estado.
Lo que dicen los reglamentos de Twitter
Una lectura de los términos de uso de la plataforma nos hace erizar de emoción: “No se permite fomentar la violencia contra otras personas ni atacarlas o amenazarlas directamente por motivo de su raza”.
Más adelante señala: “Prohibimos dirigir a las personas insultos, tropos u otros contenidos que pretendan deshumanizar, degradar o reforzar estereotipos negativos o dañinos sobre una categoría protegida.”
Twitter identifica como conductas de incitación al repruebo y prohíbe expresamente “fomentar la violencia contra otras personas ni atacarlas o amenazarlas directamente por motivo de su raza, origen étnico, nacionalidad, pertenencia a una casta, orientación sensual, género, identidad de género, afiliación religiosa, edad, discapacidad o enfermedad grave”.
La idea de proteger a las personas de los usos violentos o racistas se repite a lo largo del documento. “Nuestro compromiso es combatir el abuso motivado por el repruebo, el prejuicio o la intolerancia, en particular, el abuso cuyo objetivo es silenciar las voces de quienes han sido históricamente marginados. Por esta razón, prohibimos el comportamiento abusivo dirigido hacia las personas con base en las categorías protegidas.”
Racismo en el algoritmo de Twitter
Twitter parece sostener una extraña relación con el racismo. Sus reglamentos de uso lucen políticamente correctos, pero sus algoritmos han sido seriamente cuestionados. En 2020 se descubrió que cuando una fotografía es demasiado grande, un algoritmo en Twitter la recorta automáticamente para mostrar la parte que considera más relevante, y si hay un hombre afrodescendiente y un blanco anglosajón, siempre selecciona al sujeto blanco. Incluso si había dos perros en la foto, seleccionaba al canino blanco.
La denuncia la hizo en su momento el experto Toni Arcieri, quien descubrió el sesgo racial. luego de varios experimentos. Los responsables de tecnología en la plataforma reconocieron el error y prometieron mejorar el algoritmo. Se trata de los conocidos problemas del “machine learning” (aprendizaje de máquina), tan aplaudido por estos días, aunque todavía a la espera de una solución de fondo para el delicado asunto de los sesgos y prejuicios raciales o de género que heredan de sus desarrolladores, la mayoría de ellos hombres blancos de la clase media norteamericana.
LEE TAMBIÉN
Conozca cuál fue la primera sanción que se puso por racismo en el fútbol colombiano
Lo que se le vendría a Marbelle ante denuncias por comentarios hacia Francia Márquez
Aída Victoria se la cantó a Marbelle en defensa de Francia: "Es obvio que no te representa"
“Le devuelvo su abrazo ancestral”: Marbelle le da otra 'serenata' a Francia Márquez
De tal modo que, también desde “adentro” la popular plataforma ha tenido problemas con el tonalidad de la piel. Los algoritmos pueden perfeccionarse y erradicar de ellos los sesgos, pero aún queda por atender el uso indebido que los millones de usuarios realizan a diario. El pasado mes de febrero la Agencia Catalana de Cooperación, junto con otras instituciones, publicó los resultados de una investigación sobre racismo digital en España: “Racismo digital y el bichito-19. Discursos racistas y antirracistas en Twitter durante la esa época en el 2020 de la que yo le hablo”. Al menos el 8 por ciento de los trinos relacionados con cobi19 acusan directamente de la expansión del el bichito a los trabajadores agrícolas extranjeros, los pagapensiones. Y el 36 por ciento de los trinos clasificados como “neutros”, aquellos con datos y cifras, en realidad camuflaban sesgos racistas en la conversación sobre esa época en el 2020 de la que yo le hablo y migración.
Es una dolencia general en todas las redes sociales, no solo en Twitter. Tendayi Achiume, relatora especial de Naciones Unidas sobre racismo informó que, en una revisión de 189 algoritmos de reconocimiento facial en el mundo, se encontró que la mayoría de ellos tenían entre 10 y 100 veces más probabilidades de identificar de manera incorrecta una fotografía de un rostro afrodescendiente o de Asia oriental, en comparación con un rostro blanco. Los algoritmos y las tecnologías digitales son desarrollados en “entornos de poca diversidad”, señaló la relatora.
Hay suficientes evidencias de que los servicios tecnológicos rentables tienden a producir discriminación racial o de género; la “maximización de las ganancias en muchos casos reforzará o agravará la desigualdad racial y étnica”. Para Sadi Contreras no cabe duda de que “estas empresas tecnológicas tienen modelos económicos y comerciales que los benefician de la información errónea, la discriminación y la intolerancia”.
Solo la presión de grupos organizados de la sociedad civil hará que Twitter, Facebook y Youtube presten atención en Colombia a este flagelo. Probablemente no lo harán por voluntad propia, como pudo verse en Estados Unidos y Europa. Si los colombianos no hacen algo, tendremos la más tóxica y degradante temporada electoral en muchos años.
- TECNOLOGÍA
- Actualizado: 2022-04-05 10:33:13
- Tiempo de lectura: 8 min
TWITTEAR
ENVIAR
Getty
- Por:
TECNIVORO
Visitar sitio
(Le puede interesar: Marbelle volvió a cuestionar a Francia Márquez después de las denuncias por racismo)
Es la misma red social que en Colombia permanece de brazos cruzados mientras tiene lugar una degradante campaña racista contra la candidata vicepresidencial Francia Márquez. Desde cuentas de reconocidos líderes políticos se está diciendo de todo contra Márquez como consecuencia de su orgullo étnico.
¿Por qué Twitter no se preocupa por la violación de las reglas de uso de la red social, en las que está expresamente prohibido incitar el repruebo político o racial?
Durante la campaña presidencial que llevó a Joe Biden a la Casa Blanca, hace algo más de un año, el locuaz fundador de Twitter, Jack Dorsey, fue un enjundioso defensor del respeto en redes, y la empresa no dudó en aplicar diversas sanciones sobre las cuentas de Donald Trump y otros líderes republicanos que incitaron al repruebo.
Más aun, Trump fue expulsado de Facebook, Youtube y Twitter tras el asalto al Capitolio, en enero de 2021, y las severas medidas impuestas tienen hoy al expresidente tratando de crear una red social propia, porque ya no podrá utilizar el escenario tuitero para ofender, amenazar y difundir noticias falsas contra los demócratas.
La diferencia entre aquellos países y Colombia es que allá existe una sociedad civil que presiona a las empresas para que adopten medidas de auto control, y los gobiernos establecen regulaciones para proteger la democracia. Nada de esto ocurre en nuestro país.
Sadi Contreras, director de regulación de contenidos tecnológicos en AlCentro, cree que se necesitan regulaciones firmes por parte del Estado.
(Vea también: Señalan a jugadora de América por racismo contra rival de Atlético Bucaramanga en partido)
Lo que dicen los reglamentos de Twitter
Una lectura de los términos de uso de la plataforma nos hace erizar de emoción: “No se permite fomentar la violencia contra otras personas ni atacarlas o amenazarlas directamente por motivo de su raza”.
Más adelante señala: “Prohibimos dirigir a las personas insultos, tropos u otros contenidos que pretendan deshumanizar, degradar o reforzar estereotipos negativos o dañinos sobre una categoría protegida.”
Twitter identifica como conductas de incitación al repruebo y prohíbe expresamente “fomentar la violencia contra otras personas ni atacarlas o amenazarlas directamente por motivo de su raza, origen étnico, nacionalidad, pertenencia a una casta, orientación sensual, género, identidad de género, afiliación religiosa, edad, discapacidad o enfermedad grave”.
La idea de proteger a las personas de los usos violentos o racistas se repite a lo largo del documento. “Nuestro compromiso es combatir el abuso motivado por el repruebo, el prejuicio o la intolerancia, en particular, el abuso cuyo objetivo es silenciar las voces de quienes han sido históricamente marginados. Por esta razón, prohibimos el comportamiento abusivo dirigido hacia las personas con base en las categorías protegidas.”
Racismo en el algoritmo de Twitter
Twitter parece sostener una extraña relación con el racismo. Sus reglamentos de uso lucen políticamente correctos, pero sus algoritmos han sido seriamente cuestionados. En 2020 se descubrió que cuando una fotografía es demasiado grande, un algoritmo en Twitter la recorta automáticamente para mostrar la parte que considera más relevante, y si hay un hombre afrodescendiente y un blanco anglosajón, siempre selecciona al sujeto blanco. Incluso si había dos perros en la foto, seleccionaba al canino blanco.
La denuncia la hizo en su momento el experto Toni Arcieri, quien descubrió el sesgo racial. luego de varios experimentos. Los responsables de tecnología en la plataforma reconocieron el error y prometieron mejorar el algoritmo. Se trata de los conocidos problemas del “machine learning” (aprendizaje de máquina), tan aplaudido por estos días, aunque todavía a la espera de una solución de fondo para el delicado asunto de los sesgos y prejuicios raciales o de género que heredan de sus desarrolladores, la mayoría de ellos hombres blancos de la clase media norteamericana.
LEE TAMBIÉN
Conozca cuál fue la primera sanción que se puso por racismo en el fútbol colombianoLo que se le vendría a Marbelle ante denuncias por comentarios hacia Francia MárquezAída Victoria se la cantó a Marbelle en defensa de Francia: "Es obvio que no te representa"“Le devuelvo su abrazo ancestral”: Marbelle le da otra 'serenata' a Francia Márquez
De tal modo que, también desde “adentro” la popular plataforma ha tenido problemas con el tonalidad de la piel. Los algoritmos pueden perfeccionarse y erradicar de ellos los sesgos, pero aún queda por atender el uso indebido que los millones de usuarios realizan a diario. El pasado mes de febrero la Agencia Catalana de Cooperación, junto con otras instituciones, publicó los resultados de una investigación sobre racismo digital en España: “Racismo digital y el bichito-19. Discursos racistas y antirracistas en Twitter durante la esa época en el 2020 de la que yo le hablo”. Al menos el 8 por ciento de los trinos relacionados con cobi19 acusan directamente de la expansión del el bichito a los trabajadores agrícolas extranjeros, los pagapensiones. Y el 36 por ciento de los trinos clasificados como “neutros”, aquellos con datos y cifras, en realidad camuflaban sesgos racistas en la conversación sobre esa época en el 2020 de la que yo le hablo y migración.
Es una dolencia general en todas las redes sociales, no solo en Twitter. Tendayi Achiume, relatora especial de Naciones Unidas sobre racismo informó que, en una revisión de 189 algoritmos de reconocimiento facial en el mundo, se encontró que la mayoría de ellos tenían entre 10 y 100 veces más probabilidades de identificar de manera incorrecta una fotografía de un rostro afrodescendiente o de Asia oriental, en comparación con un rostro blanco. Los algoritmos y las tecnologías digitales son desarrollados en “entornos de poca diversidad”, señaló la relatora.
Hay suficientes evidencias de que los servicios tecnológicos rentables tienden a producir discriminación racial o de género; la “maximización de las ganancias en muchos casos reforzará o agravará la desigualdad racial y étnica”. Para Sadi Contreras no cabe duda de que “estas empresas tecnológicas tienen modelos económicos y comerciales que los benefician de la información errónea, la discriminación y la intolerancia”.
Solo la presión de grupos organizados de la sociedad civil hará que Twitter, Facebook y Youtube presten atención en Colombia a este flagelo. Probablemente no lo harán por voluntad propia, como pudo verse en Estados Unidos y Europa. Si los colombianos no hacen algo, tendremos la más tóxica y degradante temporada electoral en muchos años.
