La secretaria de Estado del gobierno de España, María Gonzáles Veracruz, visitó esta semana la ciudad de Montevideo para la 11.ª Cumbre Ministerial del Programa Regional para América Latina y el Caribe (PRALC) de la OCDE, centrada en la innovación inclusiva y la revolución de lA. Viajó en su carácter de Secretaria de Digitalización e IA, dentro de la órbita del Ministerio para la Transformación Digital y de la Función Pública.

Es licenciada en bioquímica y en 2011 fue elegida diputada nacional del PSOE en la circunscripción de Murcia, especializándose en ciencia y nuevas tecnologías. En octubre de 2022 se incorporó al equipo de la vicepresidenta Nadia Calviño en el Ministerio de Asuntos Económicos y Transformación Digital como Secretaria de Estado de Telecomunicaciones e Infraestructuras Digitales, responsabilidad en la que continuó con la creación en 2023 del Ministerio para la Transformación Digital y de la Función Pública. Durante este mandato vienen aumentando la inversión pública en digitalización aplicada a la creación de la Sociedad Española para la Transformación Tecnológica (SETT), ente público-empresarial que ella presidió hasta ser nombrada Secretaria de Estado de Digitalización e Inteligencia Artificial con la entrada en 2024 de Óscar López al frente del Ministerio, responsabilidad que le convierte, además, en presidenta del ente público Red.es y de la Agencia Española de Supervisión de Inteligencia Artificial (AESIA).

–Europa se caracteriza por tener una regulación más desarrollada de la IA y el mundo digital en general, comparado con EE.UU. ¿Qué es lo característico de Europa respecto a la regulación y en España en particular?

Lo más característico es la apuesta por el equilibrio entre innovación y regulación. En este sentido, en España hemos dado un nuevo paso con el Plan IA 360, presentado recientemente por el presidente Pedro Sánchez, una hoja de ruta con acciones inmediatas para profundizar en un despliegue responsable, humanista y seguro de la inteligencia artificial en nuestro país. Queremos aprovechar todo el potencial económico de esta tecnología, al tiempo que reforzar la seguridad de las empresas y la protección de los derechos de la ciudadanía. Ponemos el foco en las oportunidades y en el valor económico de la seguridad. Dentro del modelo de regulación europeo basado en la transparencia algorítmica, en la supervisión humana y en ser capaces de desarrollar una IA más ética, una de nuestras medidas más significativas es la creación de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA). Esta agencia nació en 2023, mientras se estaba gestando la ley de IA europea. Y ahora, con el plan IA 360 se le ha dotado a la agencia de más capacidades en la línea de la seguridad de la IA, que es la misma idea del instituto que tiene el Reino Unido.

–Ese organismo, el AI Security Institute del Estado inglés, le solicitó a Anthropic acceder a testear Claude Mythos 5.1 antes de su lanzamiento a mediados de este año. Pero el pedido fue denegado. Y no pudieron obligarlos porque no tienen poder legal para exigirlo. ¿Cómo harán para evitar eso en España?

–Es uno de los retos mundiales que tenemos, donde tendríamos que encontrar alianzas globales que nos hagan más fuertes. Porque para nosotros, el tener acceso a la última tecnología y ser capaces de evaluarla a través de nuestro instituto, es crucial para seguir reforzando nuestros sistemas. Pero evidentemente, la resolución tiene que ser diplomática. Y ahí es importante para nosotros la fuerza de la región europea y la intensa colaboración iberoamericana. Aunque evidentemente, eso no está resuelto.

–Es difícil regular localmente cuando todo esto se desarrolla globalmente.

–Absolutamente, nosotros siempre hemos defendido que Europa y España particularmente, sean un espacio de IA ética y humanista. Pero necesitamos esos acuerdos multilaterales y esa mirada global para que sean efectivos realmente. De hecho, en el marco de las Naciones Unidas promovimos la idea de tener un diálogo global emulando todo lo que se había realizado en el marco de la emergencia climática. Y la verdad es que en la Asamblea de las Naciones Unidas del año pasado se aprobó este diálogo global: el panel internacional de expertos fue liderado por Costa Rica y España. Esto fue algo que es absolutamente sorpresivo, porque ya estábamos en la era Trump. El primer diálogo fue en Ginebra. Y hace unos meses el primer panel internacional de expertos fue en Madrid y ya están produciendo trabajos muy interesantes que nos ayudan a tomar decisiones desde las políticas públicas.

–Los CEO de la IA norteamericana acaban de decir “vengan, regúlenos”. Es extraño y sospechoso. ¿Cómo se planea desde España o la UE evitar que las regulaciones estén de alguna manera tuteladas por las mismas empresas? ¿Y que como resultado, sean unas regulaciones que gigantes como ellos se las ingenien para poder cumplir, mientras que empresas más pequeñas y alternativas puedan quedar fuera de competencia al no poder adaptarse? Esto más bien podría consolidar monopolios.

–Sí: en esos días, cuando empezamos a escuchar estas declaraciones tan sorprendentes, lo primero que me venía a la cabeza era: “teníamos razón”. Detrás del hecho de que los mismos que están promoviendo esta tecnología, sean los que pidan que regulen, evidencia que tiene que haber algún truco. Y para nosotros es una oportunidad para decirle al mundo que teníamos razón cuando defendíamos la necesidad de que la regulación era imprescindible y compatible con la innovación. Yo creo que la ciudadanía del mundo necesita entornos digitales seguros y garantías de la protección de sus datos. Desde luego, nosotros somos grandes defensores de que la regulación y las decisiones dependen de los Estados, de las regiones y de los mecanismos multilaterales. Es inaceptable que unos pocos –los que se están lucrando mayoritariamente de todo este avance tecnológico– nos vayan a decir a todos los demás, qué hacer o no, o cómo hacerlo. Creemos que este es el momento de la política y de consolidar las democracias. Y en ese aspecto de la regulación, no podemos permitirnos ni un paso atrás porque, en el fondo, estamos decidiendo sobre los derechos de nuestros menores y de las mujeres en Internet o en las redes. Creo que tenemos como civilización el gran reto de ser capaces de tomar las decisiones de forma global en base a los intereses de la ciudadanía y nuestros Estados, y no de unos pocos oligarcas.

–Cecilia Rikap, autora de Teoría de la Dependencia Digital (Caja Negra) plantea la necesidad de que los Estados creen sus propias infraestructuras y tecnologías de IA alternativas, no basadas en el lucro. ¿Europa apunta a crear infraestructuras propias, ya sean privadas o públicas, respecto de IA?

–Sí, es uno de los objetivos que tienen la UE y España. Recientemente aprobamos la hoja de ruta de soberanía digital y es algo evidente: necesitamos tener menos dependencia y ser más fuertes y soberanos. Y eso es todo un proceso porque no es posible hacerlo de forma inmediata ni completamente. Al respecto hay varios proyectos interesantes en Europa: uno liderado por la Comisión Europea donde España tiene gran implicación, es el proyecto de Gigafactoria de IA. La idea es encontrar colaboraciones público-privadas y movilizar mucha inversión para tener la suficiente capacidad de cómputo. Hay elementos clave que van a definir quién va a tener determinadas capacidades o no. Y la capacidad de cómputo es una de ellas, absolutamente clave. Luego, si hablamos de industria, podríamos entrar en el diseño y desarrollo de los chips, donde también la UE y España están haciendo muchos esfuerzos para garantizar, no sólo que tenemos la infraestructura necesaria, sino también la innovación para contribuir con diseños propios de próximas tecnologías disruptivas. España ha hecho un cambio de política y estamos atrayendo muchas inversiones para tener mayor fortaleza y soberanía. Pero para mí, la clave es el talento y efectivamente, generar capacidades propias. Nosotros hemos emprendido una especie de ensayo de laboratorio, que es nuestro modelo de lenguaje promovido desde lo público y de código abierto llamado ALIA. Creo que es un gran ejemplo de cómo ciertos proyectos nos ayudan a mejorar nuestras capacidades de investigación, promover el talento en todo este tipo de tecnología y tener nuevas capacidades que son clave, con las alianzas que queremos tejer en el espacio iberoamericano. Y al final, llegar a tener modelos de lenguaje en nuestras lenguas, que además sean ricos en lenguas oficiales, en la diversidad cultural que tienen nuestras lenguas: son caminos que hay que emprender y liderar, porque no podemos resignarnos a que la IA piense solo en inglés y solo con los datos de la cultura anglosajona. Hay muchos proyectos para tener más soberanía. Para mí la clave es la promoción del talento y las capacidades con la academia y con los centros de investigación, en favor del empoderamiento de la ciudadanía para el reto civilizatorio en el que estamos.

–El 29 de septiembre hubo una reunión entre Donald Trump y los CEO de las big tech norteamericanas. Concluyeron que las empresas se van a “autorregular” para no “frenar” su desarrollo y “no perder” la carrera con China. Es decir: nadie los va a regular. Y cuando uno analiza China, es un modelo muy regulado: esto demostraría que la regulación no detiene el desarrollo. Otros países tigreasiáticos también tienen sus regulaciones en la economía.

–Absolutamente: nosotros somos grandes defensores de que la regulación y la innovación son compatibles. Y el modelo chino es un gran ejemplo de ello. El desarrollo viene de la inversión, de generar sinergias, de cambiar formas de trabajar, de procesos para conseguir tener buenas ideas que nacen de nuestras universidades, de una mayor transferencia de conocimiento hacia la empresa y de tener las herramientas para que esas empresas tengan el escalado suficiente. En España hemos hecho un esfuerzo en esta dirección porque tradicionalmente, hemos sido una potencia científica. Pero teníamos el reto de que esto llegara al mercado y es con la política pública y con algunas medidas de regulación, como estamos consiguiendo tener más capacidades, más unicornios y más posibilidades de un futuro con tecnología propia.

–Usted habla de una IA humanista.

–Es una IA donde se respetan los derechos: creo que esa es la clave. Los derechos digitales han sido una de las grandes apuestas del gobierno de España desde la Carta de Derechos Digitales. Tenemos un observatorio que está funcionando muy bien. Organizamos un encuentro de derechos digitales en Barcelona en mayo pasado, donde estuvieron todos los referentes mundiales de derechos digitales. Estamos adaptando los derechos de siempre al mundo digital, pero también generando nuevos espacios como la Agencia Española de Supervisión de IA. La defensa de los derechos digitales es un camino en el que trabaja desde los parlamentos español y europeo, y desde la ONU. Algunos defienden “la ley de la selva”, lo cual es volver a la Edad Media. Pero hay otra cara de la moneda; una IA humanista que es la promoción desde las políticas públicas de la IA con propósito. Estamos promoviendo una salud digital más eficiente que nos ayude a que los médicos puedan atender mejor a los pacientes. Estamos invirtiendo cientos de millones de euros en adelantarnos a los diagnósticos médicos gracias a la IA. Esa parte de la IA para el bien es fundamental. Y también en el sector agroalimentario y el turístico. Se trata de que la IA nos facilite la vida y sea un elemento al servicio de la humanidad y nunca lo contrario.