Ni siquiera una demanda de 2.4 millones de dólares detendrá el odio en línea: Silicon Valley fue creado específicamente para ampliarlo.

En octubre de 2021, el profesor Meareg Amare fue doxxed en Facebook. Semanas después, fue brutalmente asesinado en su propia casa, escribe Courteney Mukoyi Ahora, Meta, la empresa matriz de Facebook, se enfrenta a un Demanda de $ 2.4 mil millones, acusado de incitar a la violencia en Etiopía, su país natal. La divulgación de información personal de Amare no fue accidental. Su información no cayó en manos equivocadas, sino que se difundió deliberadamente como un llamado a la justicia por mano propia. 

En el mundo actual, el papel del Estado en la investigación de las malas acciones y la protección de los inocentes ha sido reemplazado por turbas en línea que actúan como juez, jurado y verdugo.

Y no sólo en Etiopía. 

En la India, 20 personas fueron asesinados en el espacio de dos meses tras ser acusado de secuestro de un niño a través de WhatsApp en 2018. 

Poco después, Alemania fue testigo de disturbios xenófobos después de... rumores en las redes sociales Afirmó que un alemán fue asesinado por solicitantes de asilo. Y justo el año pasado, estallaron disturbios históricos en el Reino Unido tras el trágico asesinato de tres niñas en Southport, alimentados por una ola de... desinformación sobre la identidad del presunto asesino.

En cada uno de estos casos, la desinformación se dirigió a comunidades minoritarias o musulmanas, que ya enfrentan niveles récord de crimen de odio. 

Desde el momento en que nace un algoritmo, empieza a mutar, aprendiendo cómo —y a quién— odiar según los datos y patrones que aprende. Como el efecto mariposa, incluso el más mínimo rastro de sesgo o discriminación se amplifica al instante. 

A partir de entonces, rápidamente se vuelve irreconocible. Incontrolable. Incluso para su creador. 

Pero, incluso si quisiera, Mark Zuckerberg no podría desconectarlo. 

No se trata solo de que la máquina haya superado a su creador, sino también de que ninguno de los actores relevantes cuenta con todas las herramientas necesarias para contenerla. Los gigantes tecnológicos poseen la experiencia técnica, pero carecen de la voluntad o la libertad legal para actuar. Los gobiernos nacionales tienen poder legislativo, pero actúan con demasiada lentitud para seguir el ritmo de la innovación. Y las organizaciones de la sociedad civil pueden comprender los daños mejor que nadie, pero carecen de la infraestructura o la influencia para imponer el cambio.

Tomemos como ejemplo la UE Ley de servicios digitales – propuesto por primera vez a fines de 2020, pero no implementado hasta 2024. En el largo período de su desarrollo – ChatGPT se lanzó recién en 2022 – el panorama digital cambió drásticamente, dejando sus reglas obsoletas incluso antes de que fueran introducidas. 

Desde la introducción de la ley, su aplicación, que incluye medidas Frenar el discurso de odio en línea y la amplificación algorítmica de contenido extremista ha resultado difícil. Los ataques contra minorías, incluidos musulmanes y judíos, están en su punto más alto. La extrema derecha incluso ha... usado el acto como justificación por su propia retórica deshumanizante. 

En la ONU el mes pasado, Mohammad Al-Issa, secretario general de la Liga Mundial Musulmana, afirmó que la islamofobia es una crisis creciente. Al-Issa ha reiterado prevenido Que la IA podría convertir las redes sociales en armas, difundir desinformación y reclutar extremistas, razón por la cual argumenta que los líderes religiosos deben ser incluidos en el desarrollo de marcos éticos. Sus advertencias se hacen eco de las del Papa Francisco y el Vaticano, quienes afirman que la IA es un...'sombra del mal'.

Los esfuerzos de Al-Issa para contrarrestar el odio son muy anteriores al debate actual sobre IA. En enero de 2020, él... encabezó una delegación La visita de líderes musulmanes al memorial de Auschwitz-Birkenau —una de las visitas islámicas de mayor jerarquía al lugar— subraya un compromiso más amplio para afrontar el legado de odio y violencia. Hoy, mientras la guerra azota Oriente Medio, ese compromiso de fomentar el entendimiento interreligioso es más urgente que nunca.

“Si los líderes religiosos no tienen un lugar en los eventos [de AI]”, advirtió Al-Issa en un artículo reciente“…el debate en evolución sobre la IA carecería de importantes expertos en la materia que son necesarios para evitar cualquier posibilidad de una nueva era de extremismo impulsado por la IA”.

Para lograr algún progreso, la tecnología, la política y la comunidad deben dejar de trabajar de forma aislada y empezar a construir una respuesta compartida y coordinada. 

En primer lugar, debemos invertir en investigación y desarrollo más allá de la burbuja de Silicon Valley, reduciendo al mismo tiempo nuestra dependencia del gobierno cada vez más errático del presidente Trump. A continuación, debemos introducir nuevas normas que exijan a las empresas y organizaciones consultar a las partes interesadas de la comunidad en todas sus operaciones y garantizar que los algoritmos se entrenen con conjuntos de datos inclusivos.

Al mismo tiempo, la UE debe explorar nuevas herramientas para detectar y mitigar el inevitable sesgo de los sistemas de IA. También deberíamos implementar programas universales de alfabetización en IA y plataformas de rendición de cuentas, educando a la ciudadanía sobre las posibles amenazas y empoderándola para que informe sobre cualquier queja. 

Lo ocurrido en Etiopía o Southport no es una anomalía, sino una advertencia de que las plataformas actuales ya no son espacios neutrales. Son agentes activos que moldean el sentimiento y el comportamiento del público, con demasiada frecuencia de maneras que incitan a la violencia y polarizan las sociedades.

En definitiva, esta demanda contra Meta no se trata solo de rendición de cuentas, sino de prevención. Las normas regulatorias sin duda ayudarán, pero las restricciones deben equilibrarse con dPhoto by Timothy Hales Bennett on Unsplashmultiplicidad

Sólo entonces podremos conservar los beneficios de estas tecnologías sin entregar la idea misma de justicia a una turba algorítmica incontrolable.

Sobre el autor:

Courteney Mukoyi es el fundador y director de la Fundación Código de Justicia, que aprovecha las tecnologías existentes y emergentes para promover los derechos humanos en las comunidades zimbabuenses. Es un entusiasta de CivicTech y posee una Maestría en Derecho en Comercio Internacional por la Universidad de Ciudad del Cabo.

Muyoki ha recibido múltiples premios, entre ellos el Premio a la Innovación en Democracia de 2022 y el Premio Wangari Maathai al Impacto en IA de 2023. En 2023, fue seleccionado para la Beca Mandela Washington. Actualmente forma parte del Consejo Asesor Juvenil del Consejo de Derechos Humanos de las Naciones Unidas y del Consejo de Sondeo Juvenil de la Unión Europea. Ha colaborado con diversas organizaciones, como el Laboratorio de Responsabilidad y la Unión Africana, para impulsar el uso de la tecnología y la inteligencia artificial en el ámbito de los derechos humanos y la participación cívica. Es un emprendedor en serie que también fundó TopSure, una startup de InsurTech, con la que inició su trayectoria para crear startups unicornio en África.

Foto por Timothy Hales Bennett on Unsplash

Comparte este artículo: