Las inocentadas y relaciones tóxicas de este gobierno corporativo espantan. Tras el ghosting que dejó la subasta del espectro, Uber decidió tomarse un tiempo. Tóxicos, con esos Partners: ¿para qué enemigos? Una vez más, el mercado demostró su temeridad, y el gobierno tiende a parecerse a una empresa de telecomunicaciones, pues su señal permanece caída e ignora nuestras PQR. Sesgo de automatización, tramitó esas cartas al Niño Dios mediante Apps (conversacionnacional.gov.co), anunciando “Un Mensaje Imperial” (Kafka): descendientes de la tecnocracia, todo mejorará con la “algo-cracia”.
Fantasma de la Navidad Futura, hackeando cerebros, la parásita IA se realimentará y heredará presunciones y decisiones relevantes, que nos mantendrán como “dependientes”. Amenaza del Estereotipo, esas punzantes armas “blancas” condicionaron la administración de justicia (The accuracy, fairness, and limits of predicting recidivism, 2018) y seguridad social (Dissecting racial bias in an algorithm, 2019).
Oops, moderna inquisición, exhibiendo vicios de forma y fondo, son cuestionables el propósito y la veracidad de la ciencia, infusa durante el régimen neoliberal; la causalidad dato-algoritmo, versión moderna del huevo-gallina, trianguló aquella frase de Pitágoras: “educa al ciudadano y no castigues al Bot” (¿o viceversa?).
Cacería de brujas, la complicidad de la ciencia parece condición necesaria pero insuficiente para el progreso, y nuestra salvación es la filosofía del bien común. Pero nuestros dilemas, prisioneros, se reducen a ciertos artificios, connaturales o aprendidos, como el predominio del gen egoísta, y la impotencia del Estado para editar el genoma del mercado; su empatía, independiente de la cardiología, se resiste a reconocer los escasos avances del mapeo cerebral (Brain Initiative, 2013).
Sin embargo, los sesgos son una enfermedad autoinmune de los lenguajes, datos y heurísticas, con los que simulamos realidades. Por eso, al igual que el capitalismo, la ciencia parece predestinada a la crisis: considere su modelo de negocio y la auto-referenciación; la irrepetibilidad de los experimentos sicosociales (Estimating the reproducibility of psychological science, 2015), y los “falsos positivos”, p-hacking, con los que manipulan evidencias para aparentar resultados significativos y divulgar titulares resonantes.
Note que ese amarillismo ilumina nuestras creencias, y configura las tecnologías que se apropian de nuestra rutina. Por eso recomiendo la investigación sobre los dilemas morales para automatizar la ética, The Moral Machine (Nature, 2018), o la personalización del totalitarismo según Moral Narrative Analyzer (MoNA, Media Neuroscience Lab). Considerando precedentes, no creo que sea eficaz la supervisión de algoritmos –cajas negras de Pandora–, e ignoro si la IA, creada a imagen y semejanza de la tecnocracia, podrá vencer la porfía de sus sesgos. Al respecto, invoco al Quijote y el Nobel Lange: “Dios lo remedie; que todo este mundo es máquina y trazas, contrarias unas de otras” (Quijote. II, XXIX); “la tecnología es útil sirvienta, y peligrosa patrona” (Nobel Lecture, 1921).
Por decreto (y defecto), en el futuro un Bot chateará con los ciudadanos y gobernará el statu-quo, sustituyendo al títere de turno.
Germán E. Vargas
Catedrático
german.vargas@uniandes.edu.co.