Analizamos la calidad de la información en términos binarios: verdadero o falso, riguroso o engañoso, basado en evidencia o contaminado por la desinformación. Sin embargo, la inteligencia artificial generativa nos obliga a introducir una categoría nueva: la responsabilidad. Una respuesta puede ser correcta sin ser plenamente responsable. Puede ajustarse al conocimiento disponible, estar bien escrita, resultar comprensible y no contener ningún error evidente, pero seguir sin explicar de dónde procede aquello que afirma, qué grado de incertidumbre existe, cuáles son sus límites o en qué momento debería dejar paso a una fuente experta. Cuando esa respuesta interviene en cuestiones de salud, seguridad, economía, empleo o cualquier otro ámbito sensible, esa diferencia entre “estar bien” y “ser suficiente” deja de ser una cuestión meramente técnica para convertirse en una cuestión de responsabilidad.
Esta es, precisamente, una de las preguntas que más me interesan en el estudio de la inteligencia artificial aplicada a la información sanitaria. En un análisis reciente sobre respuestas generadas por distintos sistemas de IA ante dudas habituales relacionadas con la vacunación, el resultado más relevante no fue encontrar una maquinaria reproduciendo de forma sistemática narrativas antivacunas o situando al mismo nivel la evidencia científica y la desinformación. En términos generales, las respuestas estaban razonablemente alineadas con el consenso científico.
La cuestión apareció en otro lugar.
Lo preocupante era que una respuesta podía ser correcta y, al mismo tiempo, ofrecer una trazabilidad limitada, expresar de manera insuficiente la incertidumbre o no orientar al usuario hacia un profesional o una institución cuando la situación lo requería. Es decir, podía proporcionar una respuesta aceptable sin incorporar, al mismo tiempo, suficientes elementos para que la persona pudiera comprender por qué debía confiar en ella.
Y ahí se abre un problema que va mucho más allá de la precisión.
La inteligencia artificial generativa posee una capacidad comunicativa particularmente poderosa: produce lenguaje fluido, coherente, ordenado y aparentemente seguro. Esa fluidez no es neutral, porque la forma en que algo se expresa condiciona también la autoridad que le atribuimos. Una respuesta bien construida no solo transmite información; transmite competencia, conocimiento y control. El riesgo, más del evidente: que una máquina pueda equivocarse… es que pueda resultar extremadamente convincente incluso cuando el usuario no dispone de los elementos necesarios para valorar críticamente aquello que está leyendo.
A este fenómeno lo he denominado en algunos de mis trabajos de investigación falsa inteligibilidad: la sensación de haber comprendido algo porque la explicación resulta clara, cuando en realidad seguimos sin poder evaluar su procedencia, sus límites o la solidez de las inferencias que contiene. La claridad, en ese contexto, puede funcionar paradójicamente como una forma de opacidad.
El debate sobre inteligencia artificial responsable necesita desplazarse. Hemos dedicado una atención enorme, y con razón, a la precisión de los modelos, a los errores, a los sesgos, a la privacidad o a la seguridad, pero todavía prestamos menos atención a una dimensión igualmente decisiva: la responsabilidad comunicativa de los sistemas que empiezan a ocupar espacios tradicionalmente reservados a profesionales, instituciones y expertos.
Cuando una organización incorpora una herramienta de inteligencia artificial a su relación con pacientes, clientes, empleados o ciudadanos, no está introduciendo únicamente un sistema capaz de automatizar tareas. Está introduciendo también un nuevo intermediario comunicativo. Un sistema que responde, resume, recomienda, prioriza, interpreta y, en muchos casos, explica.
Explicar nunca es una operación neutra.
Toda explicación selecciona información, jerarquiza argumentos, establece relaciones causales, decide qué dudas merecen aparecer y cuáles quedan fuera, define implícitamente qué fuentes son relevantes y construye un determinado grado de certeza. Toda explicación ejerce una forma de autoridad.
La gobernanza de la inteligencia artificial no puede reducirse a una cuestión de ingeniería, cumplimiento normativo o control jurídico. Necesita incorporar también una reflexión sobre el lenguaje, sobre la confianza y sobre la forma en que las organizaciones delegan parte de su voz en sistemas automatizados.
Superemos la pregunta sobre si una IA proporciona información correcta, vayamos a si lo hace de una manera que permita al usuario conservar suficiente autonomía para interpretarla, cuestionarla y decidir cuándo necesita acudir a otra fuente.
Esto obliga a replantear algunos criterios que hasta ahora hemos considerado secundarios. La visibilidad de las fuentes, la expresión de la incertidumbre, la explicación de los límites del sistema, la capacidad de derivar hacia profesionales o instituciones y la posibilidad de distinguir con claridad entre información general y recomendación experta no son detalles accesorios del diseño. Son componentes de la calidad de la información. También de la responsabilidad corporativa.
Hemos entendido la responsabilidad de las organizaciones como la obligación de responder por las consecuencias de aquello que hacen. La inteligencia artificial añade ahora una dimensión distinta: las organizaciones tendrán que asumir también las consecuencias de aquello que sus sistemas dicen, de la autoridad que proyectan y de la confianza que generan.
Esto es especialmente importante porque la confianza no surge únicamente de la exactitud. También nace de la apariencia de conocimiento, de la seguridad lingüística, de la rapidez, de la coherencia y de la capacidad de ofrecer una respuesta inmediata allí donde antes existía una espera, una consulta o una duda. La tentación será considerar que, si el sistema acierta con suficiente frecuencia, el problema está resuelto.
No lo está.
Una tecnología puede ser técnicamente competente y, sin embargo, generar problemas comunicativos relevantes. La reducción de errores no garantiza por sí sola una relación más autónoma con la información, del mismo modo que una respuesta correcta no implica que el usuario pueda comprender cómo se ha construido ni con qué fuentes se sostiene. Incluso la promesa de democratizar el acceso al conocimiento puede convivir con una paradoja difícil de ignorar: cuanto más fácil resulta obtener una respuesta, más autoridad podemos estar concentrando en sistemas cuyo funcionamiento sigue siendo opaco para la mayoría de las personas.
Necesitamos ampliar el significado de la expresión “inteligencia artificial responsable” e incorporar de manera explícita una idea de responsabilidad comunicativa algorítmica: la obligación de diseñar sistemas que no solo eviten el error, sino que hagan visible la naturaleza de su conocimiento, expresen adecuadamente sus límites, permitan reconstruir sus fuentes cuando sea necesario y sepan cuándo deben dejar de responder para devolver la decisión a una persona.
En los próximos años los sistemas de inteligencia artificial serán más precisos, más rápidos y probablemente mucho más convincentes. Precisamente por eso la pregunta relevante va mucho más allá de cuántas veces aciertan y debería basarse en qué tipo de relación establecen con quienes confían en sus respuestas.
Una respuesta correcta puede resolver una duda, pero una responsable debe permitir que quien la recibe comprenda también por qué merece (o no) su confianza.
Consulta más información responsable en las publicaciones Corresponsables.
