Algunas reflexiones sobre la IA y algoritmos

🔊 Escucha este artículo

Estamos asistiendo a una vorágine producida por un mundo hiperconectado, dominado por la superabundancia de información y datos, y el advenimiento de un nuevo modelo de capitalismo, en donde el principal producto de venta son las futuras decisiones humanas.

Por: Andrés Felipe Vargas

Shoshana Zuboff (2019) ha denominado esta época como el Capitalismo de Vigilancia. Su principal característica es un giro en las formas y objetivos de la producción capitalista, en el que la materia prima son nuestros comportamientos. Estos son extraídos, minados, mediante mecanismos de vigilancia intrínsecos a nuestras tecnologías de la información, por inteligencias artificiales, quienes también les transforman en mecanismos de control cognitivo que buscan modificar, de manera paulatina y casi imperceptible, nuestros comportamientos futuros. Para Zuboff, entonces, las Big Tech venden la capacidad de controlar la agencia humana. Esta corta reflexión es una invitación a pensar sobre estas tecnologías.

Así, más allá de los cuestionamientos de la ciencia ficción sobre conciencias artificiales, debemos pensar primero en como las IA que desarrollan Google, Open AI, Microsoft y otras compañías, son producto de una geometría de poder que las mismas reproducen. En otras palabras, la inteligencia artificial que conocemos puede existir solamente en un contexto social, cultural y político en el que las mismas se convierten en los vehículos para ejercer un control biopolítico de nuestras sociedades. Así, y parafraseando al clásico postulado de Langdon Winner, estos artefactos tienen política.

Teniendo en cuenta lo anterior, el revisar el efecto que tienen estas tecnologías sobre la vida social debe centrarse en examinar cuál es el impacto que estas tecnologías tienen sobre las subjetividades humanas relacionadas casi que de manera inevitable a las acciones de la IA, en un proceso inconspicuo ante nuestro obsesivo y poco reflexivo uso de los medios sociales.

Los aportes de Shoshana Zuboff, entre otras pensadoras, son relevantes para entender como la IA y la minería de datos está impactando en diferentes niveles: desde la geopolítica y la democracia, hasta el hiperconsumo y la sostenibilidad de este planeta. Sin embargo, estos aportes no parecen considerar como el advenimiento del capitalismo de vigilancia es una continuación del proyecto colonial, que da origen a la ilustración occidental, y desde el cual se viene traficando con los futuros y las subjetividades humanas, y que reposa en la destrucción sistemática de sistemas de pensamiento no-occidentales.  

Desde esta perspectiva, es importante cuestionar la infraestructura de producción de conocimiento que emerge en esta etapa del capitalismo, en la que las emociones humanas son instrumentalizadas para reproducir entendimientos del mundo uniformes y universalizantes, por lo general bastante dicotómicos, que pareciesen homogeneizar la diversidad epistémica de nuestras sociedades. Pareciera que asistimos a nueva metodología para el epistemicidio. Solo que ahora, el imperio no está representado por un monarca y sus lacayos, sino por un puñado de desarrolladores de software en Silicon Valley y los evangelizadores que ven en la digitalización de nuestras vidas una manera de trascender: la cruz ha remplazado el microchip, el espacio público es remplazado por las mal llamadas redes sociales, y Mark Zuckerberg remplaza a Jiménez de Quesada.

Ahora, un lado que siempre parece olvidarse en estas cavilaciones tiene que ver con los trabajadores humanos que alimentan a estas inteligencias artificiales y que hace posible la estructura en la que estas existen. No estoy hablando solo del trabajador precarizado y tercerizado para el cual la plataforma se convierte en su jefe, y los rankings en el capataz con un fuete simbólico. De acuerdo con Julián Posada (2021), quien se ha dedicado a estudiar este fenómeno, Venezuela es el segundo país del mundo con más trabajadores tercerizados por las grandes tecnológicas. Allí, profesionales proletarizados se concentran en entrenar las inteligencias artificiales de compañías como Google. Estas personas trabajan usualmente bajo la supervisión de sistemas de software instalados en sus computadores personales, que hacen seguimiento a cada una de sus acciones en el computador a cada segundo. Sistemas como Hubstaff, por ejemplo, monitorean cuantas pulsaciones de teclas hacen las personas contratadas por cada segundo, que programas usan he incluso qué páginas web visitan. Así mismo, su trabajo consiste en reproducir las maneras en que Silicon Valley el mundo, mediante la aplicación de categorías que muchas veces deshumanizan a las personas que escapan a dicha categorización. En otras palabras, su trabajo reproduce una dominación epistémica dentro de las tecnologías que determinaran nuestros futuros cercanos.  Debido a lo precario de sus trabajos, estas personas difícilmente pueden decir algo al respecto. Según posada, el cliente –las Big Tech- deciden que es cierto y valido.

A pesar de estos grandes peligros, tal vez las respuestas a entender estos mundos se encuentran –de nuevo- fuera del pensamiento occidental.  Como lo describen Carlson y Frazer (2021), los pueblos indígenas siempre han estado involucrados con las tecnologías de la información. Siempre han actuado como agentes sumamente activos subvertir y desligar los avances tecnológicos de las estructuras sociopolíticas que posibilitan la existencia de estos últimos. En el caso de la AI, algunas comunidades indígenas en Hawaii y Canada han desarrollado el Indigenous Protocol and Artificial Intelligence Working Group. Desde allí han propuesto una descolonización de las IA, que implica sacarlsa de Silicon Valley, pensarlas desde una ontología relacional, para democratizarlas y pluralizarlas. Desde esta perspectiva, se puede pensar y desarrollar IA que no instrumentalicen nuestras emociones para ejercer control sobre nuestras agencias, que admitan una pluralidad de los conocimientos y no reproduzcan una visión universalizante, eurocéntrica y tecnocéntrica de nuestros futuros.

Referencias:

Carlson, B., & Frazer, R. (2021). Indigenous Digital Life. Springer International Publishing. https://doi.org/10.1007/978-3-030-84796-8

Lewis, J., Abdilla, A., Arista, N., Baker, K., Benesiinaabandan, S., Brown, M. B., Cheung, M., Coleman, M., Cordes, A., Davison, J., Duncan, K., Garzon, S., Harrell, D. F., Jones, P., Kealiikanakaoleohaililani, K., Kelleher, M., Kite, S., Lagon, O., Leigh, J., … Whaanga, H. (2020). Indigenous Protocol and Artificial Intelligence Position Paper. https://doi.org/10.11573/spectrum.library.concordia.ca.00986506

Posada, J. (2021). The Coloniality of Data Work in Latin America. AIES 2021 – Proceedings of the 2021 AAAI/ACM Conference on AI, Ethics, and Society, 277–278. https://doi.org/10.1145/3461702.3462471

Zuboff , Shoshana. (2019). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. In Journal of Digital Media & Policy (Issue 2). Public Affairs.