La inteligencia artificial entró casi a la vez en la universidad pública, en la calificación crediticia de las pymes y en la tecnología sanitaria. Tres mundos que no se hablan entre sí, y en los tres apareció exactamente la misma pregunta: cuando el algoritmo propone, ¿quién firma?
Programa: 4 de marzo de 2024 · Are Business RadioTV · Radio Libertad 107.0 FM
Respuesta directa
La inteligencia artificial está entrando en sectores con culturas muy distintas —administración pública y universidad, calificación crediticia y tecnología sanitaria— y en todos aparece el mismo problema de gobernanza: quién asume la responsabilidad cuando una decisión la propone un algoritmo. La respuesta operativa es la misma en los tres casos: la IA propone, un humano identificable decide y firma, y el proceso debe dejar rastro suficiente para poder explicarse y recurrirse.
Universidad y administración pública
Con Conchi García Diéguez, profesora asociada en inteligencia artificial y con recorrido en la digitalización de la administración madrileña, tocamos el frente donde hay más ruido y menos consenso.
La universidad tiene un problema doble. Por un lado, los alumnos ya usan IA generativa para todo. Por otro, la propia institución podría usarla para gestionar admisiones, evaluación y administración.
Lo que se ve rápido: prohibir no funciona. Nunca ha funcionado con ninguna tecnología y con esta menos, porque es invisible. Lo que sí funciona es rediseñar la evaluación para que mida lo que la herramienta no puede hacer por ti.
Y en lo público aparece un requisito extra que en lo privado se pasa por alto: la trazabilidad. Una administración tiene que poder explicar por qué denegó algo. Si la respuesta es «lo dijo el sistema», no hay respuesta, hay un problema jurídico.
El rating crediticio, ese desconocido
Javier Gonzalo Muñoz, de Inbonis Rating, explicó algo que la mayoría de las pymes ignora: el rating crediticio no es cosa solo de grandes empresas.
Una calificación externa cambia las condiciones de financiación de una pyme. Y cambia sobre todo su capacidad de negociar con el banco, que es distinto: no es solo que te den mejor precio, es que dejas de negociar desde la nada.
¿Y esto para una pyme qué supone en la práctica? Imaginemos una empresa industrial de cuarenta empleados que quiere presentarse a una licitación grande o vender a un cliente que le va a exigir solvencia. Sin calificación, su argumento es «confía en mí». Con ella, tiene un tercero independiente diciéndolo.
La IA entra aquí analizando volúmenes de información financiera que antes exigían semanas de analista. Pero el rating es un juicio con consecuencias legales. La automatización acelera el análisis; no sustituye la firma.
Y luego está la salud, donde el error no es una métrica
Alberto Martínez Albalat, de Celsius Medical, aportó el contrapeso más útil del programa.
En salud, el margen de error no es un indicador de rendimiento que optimizar. La tecnología mejora la vida del paciente cuando reduce tiempos de diagnóstico y gana precisión, pero cada avance pasa por certificación y validación clínica.
Es el sector más lento en adoptar. Y probablemente el que mejor lo está haciendo. Cuando en otros sectores nos quejamos de que la regulación frena la innovación, conviene recordar por qué existe esa regulación.
Lo que se llevaron los oyentes
Tres sectores, tres velocidades y un principio común: la inteligencia artificial es excelente proponiendo y pésima respondiendo.
El día que algo salga mal —y algo saldrá mal— un regulador, un cliente o un juez van a buscar a una persona. No van a interrogar al modelo. Así que diseña tus procesos sabiendo eso desde el principio, no cuando llegue el problema.
Preguntas frecuentes
¿Qué es un rating crediticio y para qué le sirve a una pyme?
Es una calificación de solvencia emitida por una agencia autorizada. A una pyme le sirve para acceder a financiación en mejores condiciones, para negociar con el banco desde una posición más sólida y para acreditar solvencia ante clientes grandes y en licitaciones públicas.
¿Puede una universidad usar inteligencia artificial para evaluar alumnos?
Técnicamente sí, pero cualquier evaluación con efectos académicos exige trazabilidad y posibilidad de recurso. El uso razonable hoy es como asistencia al profesor, no como sustitución de su criterio.
¿Por qué va tan lenta la inteligencia artificial en el sector sanitario?
Porque cada aplicación con impacto clínico requiere certificación y validación. En salud un error no es una métrica que optimizar, y esa lentitud es una garantía, no un defecto.
¿Quién es responsable si un algoritmo se equivoca?
La organización que lo utiliza. Por eso el diseño correcto mantiene siempre a una persona identificable que revisa y firma la decisión, y deja rastro suficiente para poder explicar cómo se llegó a ella.
Quién estuvo en este programa
- Roberto Rodríguez Manzaneque — director de Are Business RadioTV y responsable del ecosistema Are Business Global. Are Business RadioTV · Are Business Global · Applethan Road · LinkedIn
- Conchi García Diéguez — profesora asociada en inteligencia artificial y experta en digitalización de la administración pública.
- Javier Gonzalo Muñoz — Inbonis Rating, agencia de calificación crediticia para pymes.
- Alberto Martínez Albalat — Celsius Medical, tecnología aplicada al sector sanitario.
- Juan Pablo Manso Noguerales — sección Digital World. LinkedIn