¿Qué oportunidades considera que ofrece la inteligencia artificial para contribuir a un desarrollo socialmente más justo y sostenible?
Siempre me he declarado tecno-optimista y no voy a ser menos ahora ni con respecto a la inteligencia artificial. Creo que la inteligencia artificial, aunque exhibe riesgos claros, es, ante todo, un fenomenal motor de progreso y avance. Y estoy convencido de que el progreso económico es un beneficio en sí mismo, porque genera riqueza y bienestar para toda la humanidad.
- ¿Qué oportunidades considera que ofrece la inteligencia artificial para contribuir a un desarrollo socialmente más justo y sostenible?
- ¿Qué papel deben desempeñar las empresas y organizaciones a la hora de promover un uso responsable de la inteligencia artificial?
- ¿Qué importancia tiene la transparencia y la explicabilidad en los sistemas de IA que desarrollan o utilizan?
- ¿Qué papel cree que deberían tener la educación y la sensibilización ciudadana en torno a los usos y riesgos de la inteligencia artificial?
En el ámbito más claramente social, también las posibilidades son extraordinarias, pero, por concretar en alguna, podría mencionar, por ejemplo, toda su aportación en el ámbito de la accesibilidad para personas con capacidades diferentes. La potencia de la inteligencia artificial para manejar diferentes modalidades como el texto, el vídeo, la voz, posibilitan proporcionar alternativas comunicativas para cualquier colectivo. En este mismo ámbito, la inteligencia artificial también puede ayudar a generar textos aptos para personas con discapacidad cognitiva, automatizando la generación de texto según la filosofía de ‘lectura fácil’.
En el ámbito de la salud, las posibilidades en cuanto a diagnóstico y prevención son extraordinarias, dada su capacidad para detectar patrones en síntomas, en comportamientos o en análisis e, incluso, en descripciones textuales de sintomatología. Y eso aplica tanto a nivel de tratamiento de pacientes específicos como en el área de salud pública y epidemiología.
Podríamos pensar también en la investigación científica en todos los ámbitos o en identificación de moléculas y creación de fármacos.
En fin, creo que las posibilidades son inmensas y lo que he mencionado no son más que algunos ejemplos.
¿Qué papel deben desempeñar las empresas y organizaciones a la hora de promover un uso responsable de la inteligencia artificial?
Tienen un papel fundamental porque la regulación, por su propia naturaleza, no puede prever todas las posibilidades ni responder a la velocidad de la evolución tecnológica. Y la iniciativa individual, por la que siempre abogo, aunque necesaria, no es suficiente para garantizar un comportamiento responsable generalizado.
Las empresas, muy especialmente las creadoras de soluciones de inteligencia artificial, deben tomar la iniciativa y aplicar los principios de la denominada ‘ética por diseño’, incluyendo precauciones y controles éticos en todo el ciclo de vida de la creación, despliegue y operación de sus soluciones.
En este momento, la existencia de un marco regulatorio como la AI Act, o un estándar internacional como la ISO/IEC 42001 pueden orientar a las empresas en la implantación de sus procesos y gobernanza.
¿Qué importancia tiene la transparencia y la explicabilidad en los sistemas de IA que desarrollan o utilizan?
La transparencia es siempre un valor en sí mismo, y la explicabilidad es siempre deseable. Sin embargo, en este apartado, creo que debemos adoptar una actitud equilibrada.
Hay muchas decisiones que pueden ser automatizadas sin que impliquen un riesgo ético. Me refiero a decisiones que se basan en reglas conocidas o decisiones que son de naturaleza fundamentalmente operativa y, en ese caso, lo que debemos exigir es, fundamentalmente, que los resultados de esas decisiones sean correctos y seguros.
Sin embargo, existen decisiones que afectan a las personas, decisiones con unas reglas no explícitas, sometidas a criterio y susceptibles de estar afectada por sesgos. Hablamos de decisiones relacionadas, por ejemplo, con el empleo, con la justicia, con el acceso a recursos. Se trata de decisiones de las que las personas e incluso organizaciones deben entender las motivaciones y, eventualmente, discutirlas, recurrirlas o modificarlas. En este ámbito la transparencia y explicabilidad son fundamentales y un irrenunciable requisito ético.
¿Qué papel cree que deberían tener la educación y la sensibilización ciudadana en torno a los usos y riesgos de la inteligencia artificial?
Creo que estamos muy necesitados de esa concienciación ciudadana. Las personas deben ser conocedoras de las posibilidades y también los riesgos de la inteligencia artificial. Deben ser conscientes de las posibilidades para que puedan aprovecharlas y no quedarse atrás. Y también deben ser conscientes de sus riesgos y, con ello, lo que deben exigir a administraciones y empresas, pero también, y ya a nivel individual, los comportamientos que deben adoptar para un uso responsable y también qué precauciones adoptar para mitigar riesgos.
Pero necesitamos una educación equilibrada y sensata, sin caer en la idolatría, pero también sin miedo y sin dejarse convencer por visiones catastrofistas poco o nada justificadas.
Esa concienciación debe ser equilibrada y también continuada porque los cambios se suceden a toda velocidad.
Esta entrevista forma parte del Dosier Corresponsables: IA Ética, en alianza con OdiseIA
