Limitaciones democráticas de la gobernanza algorítmica
En contra de la idea de ordenador como «máquina universal», —que preconizaba Alan Turing—, es erróneo pensar que «las tecnologías digitales pueden encargarse de todos los problemas políticos y sociales». La gobernanza algorítmica está para lo que está. Es sumamente útil para tareas como la asignación de recursos o la predicción de escenarios. Pero luego hay que decidir y eso solo es facultad del ser humano. De hecho, subraya Innerarity, «las cuestiones políticas son aquellas que solo se pueden resolver con juicios de valor. […] Hay política allí donde, pese a todas las sofisticaciones de los cálculos, nos vemos obligados a tomar una decisión que no está precedida por razones abrumadoras ni conducida por unas tecnologías infalibles».
Al funcionar con un código 0/1, todo lo que sea indefinido o impreciso tiene difícil encaje en esa lógica binaria. Los algoritmos son apropiados para «desenvolverse en circunstancias cuantificables pero incapaces de preguntarse por el sentido o la validez. […] Y la política consiste en decidir en medio de condiciones en las que no hay una evidencia incontrovertible, donde los objetivos suelen ser cuestionables, ambiguos y necesitados de concreción».
Además, los algoritmos hacen predicciones que reflejan patrones pasados, «lo cual resulta especialmente inadecuado para aquellas actividades que tienen el propósito de intervenir en el mundo con el objetivo de cambiarlo». Por ejemplo, «un algoritmo no podría haber generado movimientos como el #MeToo que implica una ruptura deliberada con las prácticas machistas del pasado». En este sentido, la gobernanza algorítmica puede ser muy útil «para una concepción agregativa de la democracia, pero parece limitada para una idea más deliberativa de la vida política».