Nadie se lee la letra pequeña de un contrato bancario. Ni siquiera el notario que está obligado a leerla entera. En este programa propuse un uso muy concreto de la IA para eso, y expliqué por qué llamarla «inteligente» nos está confundiendo a todos.
Programa: 3 de noviembre de 2023 · Digital World · Are Business RadioTV · Radio Libertad 107.0 FM
Con: Falcón Abogados · Patricio Fernández
Respuesta directa
Los modelos de lenguaje no son inteligencias: son algoritmos estadísticos entrenados sobre volúmenes enormes de datos, que devuelven lo más probable según lo que han visto. La consecuencia práctica es doble. Sirven muy bien para resumir y comparar documentos densos —condicionados bancarios, contratos, pólizas—, un uso concreto y rentable. Y fallan cuando lo más repetido sobre un tema es falso, porque no distinguen un bulo de un hecho: solo ven frecuencia.
La letra pequeña que no lee nadie
La conversación arrancó por la educación financiera y acabó donde acaba siempre: ¿quién se ha leído entero el condicionado de un banco? Nadie. Contratas una tarjeta, te mandan el clausulado y firmas por no leértelo.
Y hay un detalle que me dejó pensando. Si vas a un notario a firmar una hipoteca, el notario está obligado a leerte la escritura y el condicionado completos. No lo hace. Te hace un resumen.
Alguien lo dijo en antena entre risas: los notarios ahora son ChatGPT. Pues bien, ahí está la idea aprovechable.
El uso concreto: pásasela a la máquina
Esa es una de las cosas buenas de la tecnología. Cualquier letra pequeña se la puedes pasar a un modelo y pedirle que te la explique en cinco puntos, que es exactamente lo que debería hacer el notario.
Y va más allá. Si te ofrecen tres productos financieros y no eres experto, puedes decirle: actúa como un experto financiero, aquí tienes estos tres condicionados, analízamelos y dime cuál me conviene para este tipo de inversión. Se los lee, los compara y te saca conclusiones.
Ahora bien, con dos advertencias que no son retóricas.
- No te fíes al cien por cien. Te orienta muy bien, pero consulta siempre con un experto. A estos modelos se les va la pinza.
- No le puedes pedir responsabilidades. Si le dices que tienes 10.000 euros para invertir y te recomienda renta variable de Sudáfrica, y a los cinco días tienes 7.000, no hay a quién reclamar. Un asesor responde de su consejo; un algoritmo no.
Por qué digo que no son inteligentes
Esto lo repito en antena constantemente y lo sigo sosteniendo:
Lo he dicho mil veces: no son inteligentes, son algoritmos estadísticos.
Juan Pablo Manso · minuto 41:39
El ejemplo que uso es tonto a propósito. Si en internet lo más repetido sobre el color del cielo fuera que el cielo es rojo, el modelo te diría que el cielo es rojo. No es que mienta: es que actúa por estadística, y lo que ve es lo que ha leído.
Por eso lo de los bulos es más grave de lo que parece. No se trata de que el modelo no distinga lo falso: es que si una noticia falsa es lo más difundido sobre un tema, para él eso es lo verdadero. Piensa en el vídeo manipulado de Obama al que le cambiaron la voz para hacerle decir un discurso absurdo. Si eso se viraliza a millones de reproducciones y luego preguntas qué opina Obama de ese tema, ya sabes de dónde va a salir la respuesta.
Como dice el refrán, una mentira repetida mil veces se convierte en verdad. Contra eso, en un sistema que funciona por frecuencia, no se puede luchar fácilmente.
«Es que quiero ChatGPT». Pues a lo mejor no lo necesitas
Estuve aquella semana en el Tech Show de IFEMA y el producto estrella era, cómo no, la inteligencia artificial. Me llevé una impresión clara y algo incómoda: mucha gente que llevaba años trabajando en big data, analítica y machine learning se encontraba con que todos los clientes les pedían ChatGPT cuando muchas veces no hacía falta.
Si tienes un proyecto concreto que se resuelve con un algoritmo de machine learning para un caso específico, no necesitas un modelo generalista. Se hace con código abierto o con una empresa que te lo desarrolle a medida, y así sabes dónde están tus datos y tienes exactamente lo que quieres.
Porque lo otro que hay que mirar antes son las implicaciones. Un modelo público es una caja negra: lo que envías se va a los servidores del proveedor y se queda ahí. Y aprende de ello.
La anécdota que mejor explica para qué sirve de verdad
Un amigo mío exporta productos a Corea. De repente me dice que está buscando sal. Sal de mesa, en España, para llevarla a Corea.
¿Por qué? Porque se había liberado el agua de Fukushima y la gente creía que todas las salinas de esa zona estaban contaminadas.
Ese es el tipo de cosa que un modelo con acceso a noticias de todo el mundo y a todos los idiomas puede ayudarte a detectar. Es una manera de democratizar el acceso a nuevos negocios, vivas en Zambia, en Marruecos, en España o en China. Pero hay que saber orientarle, y hay que seguir leyendo, informarse en medios distintos y escuchar mucha radio, que para mí sigue siendo de los medios más veraces.
Visto desde hoy
Dos años después mantengo lo de los algoritmos estadísticos, aunque con un matiz: los modelos actuales razonan por pasos, citan fuentes y verifican bastante mejor que los de 2023. Lo que no ha cambiado es el sesgo de frecuencia ni la imposibilidad de reclamar responsabilidad a una máquina. Y el uso que proponía —pasarle un contrato denso y pedirle cinco puntos— se ha vuelto más fiable, no menos: hoy es probablemente el consejo más rentable de todo este programa.
Preguntas frecuentes
¿Se puede usar ChatGPT para entender la letra pequeña de un contrato?
Sí, y es uno de sus usos más rentables para un particular. Se le pasa el condicionado y se le pide que lo explique en cinco puntos, o que compare varios productos y señale cuál conviene. Conviene contrastarlo después con un profesional.
¿Puedo reclamar si una IA me da un mal consejo financiero?
No. Un asesor responde de su recomendación; un algoritmo no. Si sigues una recomendación de inversión generada por una máquina y pierdes dinero, no hay a quién pedir responsabilidades.
¿Por qué se dice que la inteligencia artificial no es inteligente?
Porque funciona por estadística: devuelve lo más probable según los datos con los que se ha entrenado. Si lo más repetido sobre un tema es falso, eso es lo que considerará cierto. No distingue verdad de mentira, distingue frecuencia.
¿Distingue una IA las noticias falsas?
No de forma fiable. Si un bulo es el contenido más difundido sobre un asunto, el modelo lo tomará como lo correcto. Los vídeos manipulados con millones de reproducciones son el caso más claro.
¿Toda empresa necesita ChatGPT para sus proyectos de datos?
No. Muchos casos concretos se resuelven mejor con un algoritmo de machine learning a medida, en código abierto o desarrollado por una empresa. Así se sabe dónde están los datos y se obtiene exactamente lo que se necesita, sin exponer información a una caja negra.
Quién sale en este programa
- Falcón Abogados — segunda oportunidad y derecho mercantil.
- Patricio Fernández — fiscalidad para el emprendedor.
- Roberto Rodríguez Manzaneque — director de Are Business RadioTV. Are Business RadioTV · Are Business Global · Applethan Road
- Juan Pablo Manso Noguerales — sección Digital World. LinkedIn