“Necesitamos una Inteligencia Artificial que respete los derechos humanos, diversa, inclusiva y sostenible” | Corresponsables.com España

“Necesitamos una Inteligencia Artificial que respete los derechos humanos, diversa, inclusiva y sostenible”

Entrevistamos a Nuria Oliver, Fundadora de la Fundación Unidad ELLIS Alicante, para abordar la necesidad de una Inteligencia Artificial que nos ayude a abordar los grandes retos del siglo XXI.

16-12-2022

El pasado 29 de noviembre se celebró, en el marco del foro Demos, el principal encuentro anual del sector de las fundaciones y la sociedad civil, la entrega de la sexta edición de los Premios de la Asociación española de Fundaciones (AEF). En la categoría de Innovación Social, el premio recayó en la Fundación Unidad ELLIS Alicante, cuyo objetivo es la investigación científica de excelencia en Inteligencia Artificial (IA) para el bien social, formación del talento joven investigador, difusión de conocimiento científico-tecnológico y liderazgo de pensamiento a nivel mundial. Recogió el premio su Fundadora, Nuria Oliver, con quien tuvimos la ocasión de conversar tras la ceremonia. Esta es la entrevista que concedió a Corresponsables.
 
Os dedicáis a la “investigación de Inteligencia Artificial centrada en la humanidad”. ¿Qué queréis decir con esto?
 
El foco de ELLIS Alicante es investigar en la intersección entre la Inteligencia Artificial y las personas, tanto a nivel individual como colectivo, desde cuatro perspectivas.
 
En primer lugar, desarrollando nuevos modelos de Inteligencia Artificial que nos permitan modelar y entender computacionalmente aspectos del comportamiento humano tanto a nivel individual (cómo nos sentimos, qué hacemos, nuestros intereses…) como a nivel colectivo. En este último caso, el foco es la oportunidad que nos brinda la Inteligencia Artificial para tener impacto social positivo y contribuir a la consecución de los 17 ODS.
 
En segundo lugar, inventando sistemas inteligentes interactivos, es decir, sistemas que interaccionan con las personas para ayudarlas. Por ejemplo, asistentes personales, chatbots o aplicaciones móviles inteligentes para la salud o el bienestar.
 
En tercer lugar, abordando las limitaciones y los retos éticos que plantean los sistemas de Inteligencia Artificial actuales, como son la discriminación y los sesgos algorítmicos, la falta de veracidad, transparencia y diversidad, la violación computacional de la privacidad o la manipulación subliminal de nuestro comportamiento.
 
Finalmente, estudiando el impacto de los algoritmos de Inteligencia Artificial en nuestra sociedad y concretamente en nuestra cultura y expresión artística. En esta línea, por ejemplo, tenemos un proyecto sobre la censura algorítmica del arte y otro sobre el impacto de los filtros de embellecimiento que tan populares son en las redes sociales.
 
Es muy difícil definir qué es la inteligencia, lo cual no solo pasa con la inteligencia humana, también con la propia Inteligencia Artificial. Pero lo que está claro que debemos definir es el “para qué” usamos su potencial disruptivo. En este sentido, ¿para qué debemos emplear la inteligencia artificial en general?
 
La Inteligencia Artificial es una de las disciplinas clave que se encuentran en el corazón de la Cuarta Revolución Industrial en la que estamos inmersos. Está transformando profundamente todos los ámbitos de la sociedad por ser una disciplina de propósito general, es decir, puede aplicarse a cualquier campo, desde la medicina, el periodismo, el transporte, el comercio, la energía o la educación. No podremos tener una medicina de precisión (es decir, predictiva, personalizada y preventiva), una educación personalizada, un transporte autónomo y eficiente o energías renovables eficaces sin la ayuda de la Inteligencia Artificial.

De hecho, necesitamos la Inteligencia Artificial para abordar los grandes retos del siglo XXI, una Inteligencia Artificial que respete los derechos humanos y que sea diversa, inclusiva y sostenible. Contribuir a llevar a cabo ese objetivo es la misión de ELLIS Alicante.
 
¿Y para qué ha empleado en concreto la IA vuestra entidad?
 
Nosotros somos una fundación de investigación y por tanto nuestra actividad principal es realizar investigación científica de excelencia en Inteligencia Artificial. Todos nuestros proyectos son proyectos de investigación en la frontera del conocimiento de la Inteligencia Artificial. Estamos desarrollando proyectos para inventar algoritmos de Inteligencia Artificial que no discriminen, que sean entendibles por los humanos, que respeten la privacidad y que nos ayuden a los humanos a tomar mejores decisiones.

Asimismo, tenemos proyectos, como he comentado anteriormente, en la intersección entre el arte, la cultura y la Inteligencia Artificial. Justamente esta semana estamos presentando en NeurIPS (uno de los mejores congresos del mundo de IA) un proyecto pionero en el que hemos analizado el impacto de los filtros de embellecimiento de Instagram y hemos encontrado que estos filtros reducen la diversidad y contienen un sesgo racial, sin impactar la capacidad para identificar a las personas.
 
¿De qué manera la ciencia de datos contra la covid19 ha influido en la acción política y sanitaria contra la pandemia en la Comunidad Valenciana?
 
Entre marzo de 2020 y abril de 2022 lideré un equipo de investigadores e investigadores a través del “Grupo de Ciencias de Datos contra el COVID-19”, una experiencia pionera en la Comunidad Valenciana. Este grupo de trabajo estaba compuesto por un equipo multidisciplinar de más de 20 científicos de varias universidades y centros de investigación de la Comunidad Valenciana de España, trabajando estrechamente con los responsables políticos de la región a nivel de Presidencia.
El trabajo se centró en cuatro áreas de impacto para el uso de los datos y la Inteligencia Artificial en la lucha contra la pandemia de coronavirus:
 
(1)Modelado de la movilidad humana agregada; lo que nos permitió:

  • controlar el impacto de las medidas de confinamiento en la movilidad real de los ciudadanos
  • identificar las zonas en las que las medidas de confinamiento tuvieron un mayor o menor impacto
  • cuantificar el éxito de la campaña #stayathome, así como las medidas adoptadas para restringir la movilidad nocturna y los cierres perimetrales de la Comunidad Valenciana
  • modelar el impacto que la reducción de la movilidad tuvo en la progresión del coronavirus
  • predecir mejor la propagación y determinar la utilidad de los cierres selectivos
  • seguir la vuelta progresiva a la normalidad.

 
(2)Desarrollo de modelos epidemiológicos computacionales, dedicados a realizar predicciones sobre la evolución de la pandemia no sólo bajo las condiciones actuales, sino también bajo diferentes escenarios de confinamiento y medidas de control de la pandemia, inmunidad preexistente, vacunación o rastreo de contactos.
 
(3)Desarrollo de modelos predictivos a nivel subregional (departamento de salud) para estimar las variables relevantes para orientar las decisiones políticas.
 
(4) Aplicación de la ciencia ciudadana a través de una encuesta en línea a gran escala denominada COVID19Impactsurvey, una herramienta clave para arrojar luz sobre cuestiones de gran importancia pública para las que no existen datos recogidos de forma sistemática; por ejemplo, el papel de los contactos cercanos, una primera evaluación del impacto psicológico o la diferencia en la capacidad de seguir los cierres en función de las condiciones sociodemográficas o socioeconómicas.
 
Además del impacto directo en la Comunitat Valenciana y sus 5 millones de habitantes, nuestro trabajo ha tenido impacto internacional, como reflejan artículos en WIRED, Político o MSNBC. Nuestros modelos epidemiológicos basados en redes neuronales profundas fueron los ganadores del XPRIZE Pandemic Response Challenge y las contribuciones técnicas fueron galardonadas con premio a mejor articulo científico en ciencias de datos aplicadas en el prestigioso congreso ECML-PKDD 2021.

Este proyecto ha generado más de 12 artículos científicos en revistas y congresos internacionales de primer nivel, incluyendo 3 artículos publicados en Nature Scientific Reports y 3 artículos situados en el top 5%, 6% y 8% mundial de impacto con relación a todos los artículos publicados coetáneos.
 
Volviendo a los “para qués”, ¿para qué cuestiones o fines no deberíamos usar nunca la IA?
 
Para ningún caso de uso que represente una amenaza a los derechos humanos de las personas, los valores fundacionales de las sociedades o la sostenibilidad del planeta.
 
La Inteligencia Artificial no deja de ser una herramienta, la cual debemos poner al servicio de los fines adecuados. Al final estamos hablando no solo de tecnología, sino también de ética, e incluso de filosofía. ¿Hasta qué punto vamos a necesitar de estas disciplinas humanísticas en estos tiempos tan centrados en la disrupción tecnológica?
 
Es de vital importancia tanto humanizar la tecnología como tecnificar las humanidades. Precisamente coescribí hace un par de meses un artículo para EL PAIS sobre este tema con tres colaboradoras en el que abogamos por la cros-polinización entre las disciplinas. La educación en España obliga a compartimentar los estudios técnicos por un lado y las artes y ciencias sociales por otro, cuando nuestro futuro depende del conocimiento híbrido entre el dato y lo abstracto: https://elpais.com/opinion/2022-09-13/comienza-el-curso-tu-a-tecnologia-...
 
Vuestra labor ha sido reconocida recientemente con el Premio a la Innovación Social de la Asociación Española de Fundaciones (AEF). ¿Qué significa para vosotros este reconocimiento?
 
Este reconocimiento es muy importante para nosotros y por ello nos sentimos tremendamente agradecidos a la AEF. Somos una fundación nueva y con un perfil distinto al de la mayoría de fundaciones, tanto en forma como en fondo. Estamos definiendo un modelo de hacer investigación científica de excelencia con financiación público-privada, ya que es el único modelo que nos permite ser competitivos a nivel mundial y desarrollar una cultura de trabajo que sea ágil, dinámica, no burocrática, internacional, diversa y basada en el propósito.

Por ello, la visibilidad que este premio nos otorga es tan importante como necesaria para suscitar el interés de otras fundaciones e instituciones que potencialmente puedan convertirse en aliadas y financiadoras de nuestro trabajo.
 
¿Qué papel juega la filantropía y el mundo de las fundaciones en general con respecto a la Fundación Unidad ELLIS Alicante?
 
La filantropía de la ciencia es un área que tenemos que desarrollar en nuestro país. A diferencia de otros países, como Estados Unidos, no tenemos una sólida tradición de apoyo filantrópico a la investigación. Sin embargo, un modelo de financiación de la investigación público-privado requiere de la filantropía. Aprovecho para animar a las personas que leen este articulo a que consideren hacer un donativo para ELLIS Alicante (u otra institución científica) ya que no hay mejor inversión que la inversión en el talento excelente investigador. Sin investigación, no hay futuro.

No olvidemos que hemos podido superar la terrible pandemia de coronavirus gracias a la investigación científica que se había estado realizando durante décadas y que nos ha permitido desarrollar rápidamente tratamientos farmacológicos y vacunas contra la enfermedad, así como elaborar modelos predictivos sobre la propagación del virus y del impacto de las medidas de confinamiento, entre otras cosas.
 
Dejamos una última pregunta abierta para que destaquéis cualquier cuestión que no deba quedarse en el tintero
 
Concluyo con las palabras del genial Stephen Hawking, quien dijo que “la Inteligencia Artificial seguramente será lo mejor o lo peor que le ha sucedido a la humanidad”. Les invito a que se unan a nuestra causa, que es contribuir para que la IA sea lo mejor que nos ha pasado.