Que la ciencia te acompañe

La inteligencia artificial no previene la estupidez natural

Cómo se define esta disciplina, cuáles son sus límites y por qué pueden relacionarse con el colonialismo.

Holis, ¿cómo andás? Yo acá, contemplando una hoja de Excel llamada “Proyectos 2022”. Compruebo con bastante satisfacción que cumplí en tiempo y forma con cosas que me resultaban sumamente desafiantes, que creí que no iba a poder hacer, que no tenía la capacidad para llevar a cabo. Pero en vez de energizada porque puedo hacer lo que quiero me siento drenada. Creí que esto iba a ser un entrenamiento que me diera confianza para la segunda tabla, la de la última parte del año. En cambio, me siento tonta, lo contrario a lo que debería sentir si, justamente, pude hacer cosas que me resultan difíciles. Es como si lo que quedó atrás en términos de obligaciones y metas me hubiera dejado atrás de mí misma.

Yo pienso luego existo, amor y temperamento

Miro de nuevo el Excel. Me acuerdo del capítulo de los Simpsons: ¿no podría hacerlo otro? Un lugar de mí quiere creer que no y cree que no. Otro dice que tal vez no ahora pero probablemente falte poco. Si ya pensé tanto, si ya dije lo que pensé, ¿no sería relativamente sencillo saber qué va a ser lo próximo que voy a pensar para una máquina entrenada en ver patrones? A una le gusta pensar que el trabajo del cognitariado tiene el valor irreemplazable del contacto sensible con el objeto de estudio. Y probablemente sea cierto, pero tal vez lo sea para un comienzo. Por ahí cuando ya hiciste un par de cosas el resto es predecible. O quizás simplemente esté muy vaga y quiero que llegue la promesa de la automatización total. Sea como sea, me parece buena idea que en esta edición hablemos de algo de lo que hemos hablado poco en nuestras cartas: la inteligencia artificial.

Prefiero ser poeta a ser un bruto

¿Sabés cómo se financia Cenital? El principal sostén de nuestro medio son sus lectoras y lectores. Eso nos pone orgullosos y nos da la tranquilidad necesaria para hacer el periodismo en que creemos. Si te gusta lo que hacemos, sumate vos también a nuestra comunidad.

Primero lo primero. Antes de hablar del futuro hablemos del presente que nos permite imaginarlo. Gran parte del material que será utilizado en esta edición lo saqué de los newsletters #diezpalabras de Marcela Basch y Siempre cyborg nunca diosa de Ivana Mondelo, porque la escritura es algo que llevamos a cabo solas pero no de forma solitaria. Segundo de lo primero: definiciones, pisos de acuerdo, puntos de partida. Este artículo de Toni Navarro y Alejandra López Gabrielidis está buenísimo para saber dónde estamos paradas para hablar de inteligencia artificial (IA). Va un resumen.

¿Qué es la inteligencia artificial?

  • Hay una definición tradicional que sostiene que es la disciplina que posibilita que las computadoras hagan cosas que si fueran hechas por humanos serían consideradas inteligentes.
  • Algunos problemas de esta definición: las computadoras son muy buenas en cosas que para nosotros son muy difíciles, como hacer ecuaciones muy complejas en muy poco tiempo y muy malas en cosas que para nosotros son muy fáciles, como charlar. Al centrar la definición en la comparación con “lo humano” se visibilizan de más aplicaciones de la IA con componentes que reproducen habilidades humanas y se invisibilizan otras que exceden ampliamente nuestras capacidades.
  • Otra definición: “La capacidad de hacer generalizaciones apropiadas de manera oportuna a partir de datos limitados. Cuanto más amplio sea el ámbito de aplicación y más rápido se extraigan conclusiones con un mínimo de información más inteligente será este comportamiento”. La amplitud que plantea esta definición me gusta especialmente porque puede incluir comportamientos muy flasheros de otras formas de vida como las plantas o los hongos.
  • Aplicando esta última definición, se puede hablar de 3 tipos de IA: débil o estrecha (la actual, que solo puede hacer la tarea para la que fue producida), la fuerte o general (que puede hacer tareas en muchos contextos e incluso en situaciones sorpresivas) y la superinteligencia artificial (una que nos pasaría el trapo).
  • La débil, única existente hasta ahora, se basa en distintos modelos. El más conocido es el machine learning (aprendizaje automático), que reconoce patrones recopilando datos, encontrando correlaciones entre esos datos y luego haciendo predicciones con base en esas correlaciones. Para construir los patrones, los datos que analiza pueden estar etiquetados por humanos en distintas categorías. Esas categorías pueden formarse en el mismo sistema al identificar correlaciones o pueden agrupar los datos al azar y que de alguna manera se le señale cuáles asociaciones están bien y cuáles mal.

¿Qué problemas presenta la idea de Inteligencia Artificial?

  • El primero, un favorito total de este news: el dualismo cuerpo-mente o la idea de que lo racional y lo sensible son dos cosas separadas y que son las habilidades racionales las que constituyen la inteligencia. Si nos atenemos a lo que la IA efectivamente hace hoy por hoy y la idea de IA se instala en nuestras cabezas como algo análogo a la inteligencia humana, de alguna manera estamos reduciendo la última a un sistema de procesamiento de información.
  • Hoy es cada vez más fuerte la idea de que los estados mentales no son independientes de su sustrato material. Se habla de conciencia encarnada para reforzar que la mente y el cuerpo no pueden separarse.
  • Hay seres vivos no humanos que tienen comportamientos que pueden considerarse inteligentes. Las interacciones con el ambiente modifican la estructura de los organismos y sus comportamientos.
  • Si bien con este criterio podríamos decir que los objetos técnicos son inteligentes, la palabra cognición parece más adecuada que inteligencia. La inteligencia suele estar asociada a una cualidad, mientras que la cognición remite más a un proceso que modifica el entorno en el que se lleva a cabo y no tiene que ver necesariamente con desarrollos mentales o conscientes.

Ya no están de moda los modales, se perdieron los valores primordiales

Ahora que establecimos de qué hablamos cuándo nos referimos a Inteligencia Artificial y algunos problemas sobre el concepto, podemos adentrarnos un poco en lo que más concentra titulares al respecto: las controversias sobre sus usos. En Burofax, el newsletter de Jimena Valdez sobre internet y tecnología, vas a poder encontrar análisis piolas y mucha data sobre escándalos digitales. Confieso que es uno de mis favoritos de la casa, así que si no estás suscripto te recomiendo hacerlo.

Volviendo a nuestro humilde espacio de improvisación reflexiva, creo que esta entrevista a Laura Ación, directora del Laboratorio de Uso Responsable de Datos del Instituto de Cálculo de la UBA, tiene el mismo efecto ordenador que el artículo que te cité en el apartado anterior, esta vez no sobre qué es la IA y sus dificultades de conceptualización, sino sobre cuáles son los principales problemas éticos de su aplicación.

Lo primero que dice Laura es que los mismos principios que permiten crear algoritmos para seleccionar la próxima canción que vamos a escuchar de acuerdo a nuestras preferencias puede usarse para manipular una elección y que, lógicamente, eso nos pone en alerta y sesga la balanza a la hora de evaluar potenciales beneficios. Según ella, el principal problema es que hoy no hay regulaciones que pongan límites a esos usos y cita a Moshe Vardi, quien dice que estamos en una situación similar a cuando surgió el auto y todavía no existían ni los cinturones de seguridad ni los semáforos.

Para Ación, los grandes relatos sobre las predicciones de las que es capaz la IA (si tenés o no COVID, si te vas a suicidar, si tenés cáncer) están impulsados más por el mercado que por la realidad, y no necesariamente por el segmento específico de consumo de cada algoritmo particular. Hay muchos algoritmos que se pueden vender por mucha plata y entonces es necesario generar un imaginario popular al respecto que los proponga como algo bueno en sí mismo, infalible, al contrario que los humanos. Además de que a veces no predicen lo que dicen que están prediciendo (Laura cuenta que un algoritmo afirmaba poder predecir la severidad de COVID pero en realidad predecía si la persona estaba parada o acostada), hay una cultura que jerarquiza la matemática, la tecnología y la técnica por sobre la medicina, las ciencias sociales y la filosofía. O sea que en general se tiende a creer que si un algoritmo puede cumplir una función que actualmente cumple un humano lo hará mejor.

Por último, habla del proyecto ARPHAI, que es un programa de gestión epidemiológica basado en IA y ciencia de datos que estudia cómo se podría usar información suministrada en historias clínicas electrónicas para mejorar, por ejemplo, la prevención de enfermedades o pandemias. El tema, claro, es que el insumo principal es información confidencial. En relación a cómo empezar a manejar esta controversia, Laura dice: “Estamos trabajando en ver cómo desidentificar esos registros. Hay algoritmos que podrían permitirte dejar de identificar los datos o manejarlos en forma anónima. Pero ahí surge otro problema: las herramientas más avanzadas para procesar texto están diseñadas para el idioma inglés, por lo hay que volver a entrenar esos algoritmos para desidentificar los registros en español. Las preguntas que se hacen estos profesionales de salud (respecto a los problemas que podría traer el uso de IA) son muy válidas. Un comienzo de respuesta es que todo el proceso de recolección y uso de datos tiene que estar a cargo de profesionales que entiendan los riesgos de compartir esos datos, esto no puede ser delegado a algoritmos automáticos. Porque las personas son inteligentes, los algoritmos no lo son”.

La ciudad nunca duerme y siempre muerde

Cuando hablamos de cosas nuevas, tendemos concentrarnos en los problemas nuevos que traen consigo, pero en los apartados anteriores vimos que para pensar en la IA tenemos que volver a cuestiones como la definición de inteligencia y los límites de la confidencialidad médico-paciente, así que vamos con otro clásico de clásicos: el colonialismo.

Este año, Karen Hao publicó en el MIT Technology Review una serie de artículos sobre inteligencia artificial y orden colonial mundial. ¿La tesis principal? Aunque la industria de la IA no quiera controlar territorios de la misma forma que los viejos imperios, sí produce ganancias para los países centrales a costa de la explotación de la mano de obra y los recursos de países de bajos ingresos, así como de ideas implícitas acerca de que las poblaciones del sur global no necesitan salarios dignos y estabilidad económica.

El primer artículo de la serie habla de cómo en Sudáfrica se está estableciendo un apartheid digital. Particularmente en la ciudad de Johannesburgo ya está en marcha un sistema de vigilancia por cámara centralizado en el que las imágenes se envían a salas de seguridad distribuidas por todo el país. Una vez allí, se utilizan herramientas de IA que permiten reconocer, por ejemplo, patentes de autos para seguir a la gente y encontrarla. En vez de la clásica multipantalla que muestra todos los puntos a la vez, lo que los empleados ven son aquellas imágenes que activan las alertas de seguridad: por ejemplo aquellas en las que aparece la patente de un auto fichado en alguna causa o en las que se detecta actividad “inusual”. “El software se entrena con 100 horas de vídeos para que cada cámara pueda aprender qué es un comportamiento ‘normal’ y distinguir a partir de ello cualquier cosa que se considere fuera de lo común. Cada cámara también se puede configurar con otras reglas adicionales. Por ejemplo, se pueden programar las barreras que los transeúntes nunca deberían cruzar y las zonas donde los coches nunca se deberían detener”.

Toda la infraestructura está en manos privadas y por ahora funciona en las zonas más ricas de la ciudad, donde las cámaras se ven por todos lados. El modelo es de suscripción: cualquier empresa registrada en el organismo que regula la seguridad privada puede pagar para acceder a las imágenes. En Sudáfrica hay 564.540 vigilantes de seguridad (más que la Policía y el Ejército juntos), cuyas competencias constituyen en los hechos una especie de régimen mixto con el Estado a la hora de controlar los delitos en el espacio público. Los inicios de esta modalidad se remontan al apartheid, cuando el gobierno destinó a casi todos los efectivos policiales a reprimir los levantamientos en su contra, creando oportunidades para que las agencias privadas cumplieran todas las otras funciones policiales.

Los altísimos índices de delincuencia en Sudáfrica son reales. También que es el país más desigual del mundo y que la desigualdad es racial. En 2015, el 93% de las personas pobres del país eran negras. Los delitos que apunta a prevenir y sancionar este tipo de vigilancia no son los que incluyen a los ricos y poderosos, como la evasión de impuestos, sino los asociados a la pobreza, como los robos y la venta de drogas a pequeña escala. Son las personas blancas, entonces, las que están interesadas en ello y tienen los medios para pagar la videovigilancia. No es una política de racismo explícito, pero lo que ocurre es que hay personas blancas vigilando a las negras.

La segunda entrega de la serie, dedicada a Venezuela, habla de las empresas que categorizan los datos de la IA y cómo encontraron trabajadores desesperados, innovando en la vieja tecnología de la explotación laboral. La tercera, versa sobre choferes de autos compartidos en Indonesia que están armando formas de resistencia contra las apps de viajes. La cuarta y última cuenta la historia de una pareja de Nueva Zelanda que está usando IA para centralizar los datos de su comunidad y recuperar la lengua maorí.

La intención de las piezas es mostrar detalladamente algunos modos en los que la IA está vulnerando a comunidades a través de pactos con las grandes estructuras institucionales, reforzando el empobrecimiento histórico y el extractivismo de los grandes imperios coloniales. Al describir minuciosamente estos mecanismos, también se revelan oportunidades de intervención, momentos y procesos que podrían modificarse para tener resultados diferentes.

Bonus track: no vivo del cuento, vivo de lo que cuento

¿Te acordás que la semana pasada te dije que te iba a resumir los 3 episodios de “Atenete a la ciencia”, el podcast de ciencia y política de Nature? Bueno, acá va un punteo del segundo, “Políticas de la vida científica”

  • Hacer ciencia depende del financiamiento. Y el financiamiento, de la política. En las crisis económicas muchas veces se incluyen recortes al sistema científico-tecnológico por no considerar que la investigación es un área prioritaria para el destino de recursos estatales.
  • Además del grado de importancia que tiene la ciencia a la hora de recibir fondos nacionales o federales en los planes generales de gobierno, como sucedió por ejemplo con el Proyecto Genoma Humano, cuya importancia se estableció desde el gobierno nacional estadounidense, también hay prioridades internas. Los institutos independientes tienen su propia agenda y administran los fondos de acuerdo a ella. Otras veces, los fondos no se destinan a un lugar u a otro dependiendo de criterios científicos o académicos respecto a un área de conocimiento de la que se ocupa una institución en particular y son determinados por la estrategia política.
  • Por ejemplo, puede suceder que en un conglomerado como la Unión Europea, que tiene grandes planes de financiamiento que incluyen a todos los países, se decida destinar mayores fondos a naciones que al momento del diseño del plan tienen gobiernos que no se alinean con los de los países centrales para fomentar la industria tecnológica y con ello generar mayor adhesión a partidos más afines con la ideología dominante, que serán vistos como aliados del progreso y facilitadores de sus beneficios.
  • Cuando los fondos provienen del Estado, los gobernantes son quienes definen las partidas. Si lo que uno quiere investigar no se alinea con sus intereses, ¿qué posibilidades reales tiene de poder investigar?
  • Frente a esto, algunos adoptan la postura “si no puedes contra ellos, úneteles”. “Durante bastante tiempo, la gente no utilizó la palabra ‘cambio climático’. En su lugar decían ‘ciclo geoquímico’ o ‘ciclo biogeoquímico’. Básicamente hablaban de todas las cosas que ocurren relacionadas con el cambio climático sin esa palabra tan parteaguas. Y empezaron a hacerlo porque un congresista (estadounidense) empezó a investigar cualquier subvención que dijera cambio climático. Así que el encuadre puede darte la posibilidad de investigar temas polémicos sin mostrar que eso es lo que estás haciendo. Por otro lado, algunas personas han discutido ideas con funcionarios y literalmente les han dicho que es una gran idea pero que no podían financiarla en la coyuntura actual”.
  • Las palabras con las que se aplica a una beca o se titula una investigación importan porque justamente la investigación es una cuestión política. Una frase puede ser un titular amarillista contra un gobierno. Una vez, en EEUU, se viralizó un estudio que hablaba de “camarones en una cinta de correr” y por supuesto no hay en el imaginario popular ninguna razón válida por la que el gobierno debería girar fondos para poner camarones en una cinta de correr. El estudio, claro, era sobre otra cosa. Quería ver la respuesta de los camarones a distintas aguas, lo que es importante para la acuicultura, por ejemplo. Pero bueno, una vez que un político opositor leyó el resumen y dijo “el gobierno está gastando plata para poner a correr camarones”, el daño ya estaba hecho.
  • Tampoco todo se trata de una discusión sobre cuál es el mejor destino para los fondos públicos, también existe la competencia entre científicos que puede ser sumamente desleal. A veces los laboratorios mejor financiados son los que escriben mejor sus aplicaciones, que maquillan y acomodan sus presentaciones para no ofender a nadie, o para satisfacer a los que tienen que poner la plata, aunque en realidad sean inexactos en sus descripciones o hasta casi mentirosos.

Dejé el legado en adopción

Ahora que estoy terminando, creo que no sé si una IA que escribiera el news basada en predicciones sobre mi escritura pasada sería una otredad que lo hiciera. ¿No podría considerar que soy yo misma en otro soporte?

Pienso en ese dogma de la ciencia, lo de poder ver más lejos porque una se trepa en hombros de gigantes y pienso en qué vería si me trepara a mis propios hombros. ¿Si me apilo sobre mí soy en efecto más alta o por algún tipo de ley de simultaneidad pasaría a ocupar mi lugar y mi vista sería la de ahora pero vista por una yo de otro tiempo? ¿Hay una diferencia entre continuar a otros para ser una misma y continuarse? ¿Hacer ciencia no es, al fin y al cabo, adquirir la habilidad de escribir lo que otros podrían estar escribiendo?


Te mando un beso enorme,

Agostina

p/d: las refes de este news son sobre la inteligencia auténtica del rap en español

p/d2: Que la ciencia te acompañe se encontrará cerrado por vacaciones, así que nos vamos a saltear una carta. La próxima edición será la del 15 de septiembre y las respuestas de los mails pueden demorar en llegar.

Escuchá nuestros podcasts
Este es el newsletter Que la ciencia te acompañe de Cenital.
Podés suscribirte para recibirlo completo en tu correo. Es gratis.
Soy comunicadora científica. Desde hace tres años formo parte del colectivo Economía Femini(s)ta, donde edito la sección de ciencia y coordino la campaña #MenstruAcción. Vivo en el Abasto con mis dos gatos y mi tortuga. A la tardecita me siento en algún bar del barrio a tomar vermú y discutir lecturas con amigas.
@Bcientifica

Apoya nuestro periodismo

Si te gusta lo que hacemos, ayudanos a seguir haciéndolo.