Hay una pregunta que se repite en todos los foros sobre inteligencia artificial y que nadie contesta del todo: ¿se puede regular una tecnología sin matarla, y se puede innovar sin cargarse cosas que importan? En el campus del IE se reunió gente que lleva tiempo intentando responderla.
Evento: AI4Democracy · IE University · abril de 2024
Respuesta directa
El Reglamento Europeo de Inteligencia Artificial (AI Act) es el primer marco normativo integral sobre IA aprobado en el mundo. Clasifica los sistemas por nivel de riesgo e impone obligaciones proporcionales: prohibiciones para los usos inaceptables, requisitos estrictos de transparencia y supervisión humana para los de alto riesgo, y obligaciones ligeras para el resto. Para una empresa española esto significa que no todos los usos de IA tienen las mismas obligaciones: lo determinante no es la herramienta, sino para qué se usa y a quién afecta.
De qué se habló
El encuentro reunió a perfiles que rara vez comparten mesa. Manuel Muñiz, Provost de IE University, planteó la cuestión de fondo: cómo puede la tecnología convivir con la democracia. Participaron también Frank Smyth, embajador de Irlanda en España, y Pier Luigi Dal Pino, de Microsoft, en una conversación sobre gobernanza que fue más internacional que teórica.
Rafif Srour e Irene Blázquez Navarro condujeron el bloque que a mí más me interesaba: cómo equilibrar innovación y regulación, con el reglamento europeo de IA como referencia.
¿Y esto para una pyme qué supone?
A ver, aquí es donde estas conversaciones suelen perder al empresario, y es una pena, porque el asunto le afecta más de lo que parece.
Lo primero que conviene entender: la norma no regula la tecnología, regula el uso. Usar un modelo de lenguaje para redactar borradores de correo no tiene las mismas obligaciones que usarlo para cribar currículums o para decidir si concedes un crédito. En el primer caso, prácticamente ninguna. En el segundo, unas cuantas.
Imaginemos una empresa de sesenta empleados que decide automatizar la primera criba de candidatos. Ahí ha entrado, sin saberlo, en una categoría con obligaciones: tiene que poder explicar cómo decide el sistema, garantizar que una persona revisa, y responder si un candidato reclama. No es una barbaridad burocrática. Es lo mismo que ya se le exige si la criba la hace un humano, solo que ahora hay que documentarlo.
Y fijaos en una cosa: la empresa que se entera de esto en el momento de diseñar el proceso lo resuelve casi gratis. La que se entera cuando llega la reclamación, no.
Innovar o regular, ¿de verdad hay que elegir?
Este es el falso dilema que domina la conversación pública, y en el evento se desmontó con bastante sentido común.
El argumento habitual dice que Europa regula y por eso Europa no innova. Tiene una parte de verdad y una trampa. La parte de verdad es que el coste de cumplimiento pesa más sobre una empresa pequeña que sobre una grande, y eso puede acabar protegiendo justo a quien no necesita protección.
La trampa es dar por hecho que sin reglas habría más innovación. Lo que hay sin reglas es más incertidumbre, y la incertidumbre es carísima: ninguna empresa mediana mete dinero en un proceso que no sabe si dentro de dos años será legal.
Pero también hay otra cara de la moneda, y es la que menos se dice: unas reglas claras solo sirven si llegan a tiempo. Una norma que se aprueba cuando la tecnología ya ha cambiado tres veces no ordena nada; solo añade papeleo.
Educación y ética, que suena a relleno y no lo es
Se insistió mucho en la necesidad de formar en el uso ético de la IA, y sé que eso suena a conclusión de congreso. Voy a intentar bajarlo al suelo.
En la práctica, en una empresa el problema ético no llega en forma de dilema filosófico. Llega así: alguien de marketing mete la base de datos de clientes en una herramienta gratuita para hacer un análisis rápido. No hay mala intención, hay desconocimiento. Y ahí acabas de tener una cesión de datos que nadie autorizó.
Formar no es dar una charla sobre los peligros de la superinteligencia. Es que la gente de tu equipo sepa qué puede meter en una herramienta y qué no.
Lo que me llevé
La tecnología no transforma una empresa por sí sola, y tampoco la regulación la protege por sí sola. Hacen falta las dos cosas y, sobre todo, gente que entienda para qué quiere usar esto. La pregunta útil nunca es «¿puedo hacerlo?». Es «¿debería, y qué pasa si sale mal?».
Preguntas frecuentes
¿Qué es el Reglamento Europeo de Inteligencia Artificial?
Es el primer marco normativo integral sobre inteligencia artificial aprobado en el mundo. Clasifica los sistemas según su nivel de riesgo e impone obligaciones proporcionales a ese riesgo, desde prohibiciones para los usos inaceptables hasta obligaciones mínimas para los de bajo impacto.
¿Afecta a una pyme que usa ChatGPT?
Depende del uso, no de la herramienta. Redactar textos internos apenas tiene obligaciones. Usarla para decisiones que afectan a personas —selección de personal, concesión de crédito, evaluación— sitúa el uso en categorías con requisitos de transparencia y supervisión humana.
¿Regular la inteligencia artificial frena la innovación?
Es un debate abierto y con argumentos en ambos lados. El coste de cumplimiento pesa más sobre las empresas pequeñas, pero la ausencia de reglas genera una incertidumbre que también frena la inversión. Lo que sí perjudica con seguridad es una norma que llega tarde respecto a la tecnología.
¿Qué es lo mínimo que debería hacer una empresa hoy?
Definir por escrito qué información no puede introducirse en herramientas de IA externas, formar al equipo en esa norma, y mantener revisión humana en cualquier proceso cuya decisión afecte a una persona.
Quién participó
- Manuel Muñiz — Provost de IE University. IE University
- Frank Smyth — embajador de Irlanda en España.
- Pier Luigi Dal Pino — Microsoft.
- Rafif Srour e Irene Blázquez Navarro — IE University.
- Juan Pablo Manso Noguerales — sección Digital World. LinkedIn