Paula Gordaliza, matemática: “Los algoritmos no funcionan solos. Quienes los usan saben lo que están haciendo y por qué se toman estas decisiones. tecnología

Paula Gordaliza (Valladolid, 29 años) utiliza las matemáticas para intentar hacer la sociedad un poco más justa. El joven investigador, ganador del Premio Vicent Caselles, que concede anualmente la Real Sociedad Matemática Española (RSME) y la Fundación BBVA, ha desarrollado un sistema de corrección de sesgos de algoritmos de inteligencia artificial (IA) capaz de hacer predicciones más precisas necesita una persona bien informada. “El problema es que estas decisiones no siempre son socialmente aceptables”, explica Gordaliza en una videollamada. Como investigadora del Centro Vasco de Matemáticas Aplicadas en Bilbao y profesora asociada de la Universidad Pública de Navarra, comenzó a investigar una forma de eliminar el sesgo de los algoritmos y reducir la IA durante su doctorado en la Universidad de Toulouse, antes de que los reguladores examinaran la opinión pública. “Las cosas han avanzado muy rápidamente en los últimos cinco años. “Hoy es más importante que nunca mirar los efectos de la inteligencia artificial en la vida de las personas”, dice el investigador.

Preguntas. ¿Utilizas a menudo la inteligencia artificial en tu trabajo?

Respuesta. Me gusta recordar que primero soy matemático y que investigo en matemáticas. Mi trabajo consiste en crear las bases teóricas necesarias para el desarrollo de cualquier tecnología, especialmente la inteligencia artificial. Por lo tanto, estoy más interesado en estudiar problemas matemáticos y cómo estos problemas, una vez resueltos desde un punto de vista teórico, se pueden aplicar a problemas reales. En mi caso, se trata de aprendizaje automático y equidad algorítmica, que pertenecen al campo de la inteligencia artificial.

q ¿Cómo se relacionan las matemáticas y la inteligencia artificial?

R Las matemáticas están detrás de todos los avances científicos y tecnológicos, y en los últimos años la IA se ha convertido en la forma de avance más popular. Lo que hacen las matemáticas es crear las bases teóricas para resolver los problemas que enfrentamos, que en el caso de mi investigación serían los sesgos algorítmicos de la inteligencia artificial.

q ¿Qué es el sesgo algorítmico?

R Es un poco complejo de explicar ya que son palabras que se usan con tanta frecuencia que se les da muchos significados dependiendo del contexto. En estadística, un sesgo es algo que no se comporta como se esperaba. Por otro lado, si nos dirigimos al campo de la inteligencia artificial, donde esta palabra se usa mucho, más bien se refiere a inclinaciones o prejuicios a favor o en contra de un grupo o individuo en función de ciertas características, como el género o el color de la piel. Quizás esto es lo que contribuye a que los algoritmos generen miedo y desconfianza en las personas.

q Porque que es esto?

R Estamos presenciando un uso generalizado de los sistemas de inteligencia artificial, especialmente de los algoritmos, y esto se refleja en aspectos que afectan directamente a la vida de las personas. La concesión de créditos en la selección de personal para un puesto de trabajo o en el ámbito clínico para decidir quién debe recibir tratamiento o quién debe ser diagnosticado. Hay muchos otros ejemplos, pero estos son quizás los más comunes. Y, por supuesto, el hecho de que los algoritmos puedan decidir sobre estos temas genera miedo y malestar entre la población. Esto continuará hasta que reciban garantías de que estos algoritmos son justos, confiables e interpretables.

q ¿Qué puedes hacer para que este miedo desaparezca?

R Aquí es donde entra en juego la importancia de las matemáticas, ya que nos ayudan a entender cómo funcionan los algoritmos y son la herramienta para abrir la caja negra de la inteligencia artificial. Es importante transmitir el mensaje de que los algoritmos no funcionan por sí solos, que todos los que los usan saben lo que están haciendo y por qué se toman esas decisiones. Esto contribuiría en gran medida a reducir la desconfianza de la gente hacia ti.

R Usted habló de prejuicio y discriminación. ¿Son los algoritmos racistas?

q Los algoritmos no son ni racistas ni sexistas. Los algoritmos aprenden de los datos. El aprendizaje automático es una forma de inteligencia artificial capaz de hacer predicciones y hacer conexiones desde enormes bases de datos que puede administrar a alta velocidad. El problema surge cuando estos datos no son de alta calidad. Por esta razón, es importante contar con bases de datos de alta calidad que no estén sesgadas hacia variables que puedan contener información sensible, como: B. raza, género, discapacidades, orientación sexual u otra información que pueda estar en riesgo de discriminación.

q De eso se trata su investigación.

R La idea era tratar de crear dos subpoblaciones, digamos machos y hembras, que fueran lo más similares posible en otras características. Así traté de descartar la información de género para que los algoritmos no pudieran aprender sobre el género de las personas y se quedaran con la información proporcionada por el resto de la base de datos.

q La sociedad ha mejorado en lo que respecta a la discriminación. ¿Por qué todavía hay tanto prejuicio?

R No es un problema de la sociedad. Terminas usando una herramienta que aprende de datos históricos, y estos están sesgados, por lo que el algoritmo lo aprende. Para avanzar hay que incentivar la investigación porque es conocimiento y las fronteras del conocimiento son cada vez más complejas. Si queremos mejorar, necesitamos equipos multidisciplinares de matemáticos, estadísticos, informáticos y otros profesionales que pongan de su parte. Se requieren todos los puntos de vista, no solo la perspectiva matemática, que también necesita muchas mejoras.

q ¿Cómo?

R Seguramente se debe incentivar una carrera académica y científica para tener investigaciones de alta calidad enfocadas únicamente en inteligencia artificial pero con bases matemáticas muy sólidas que aseguren que lo que se está haciendo con los algoritmos es confiable, seguro y justo. Para lograr esto, debe haber una motivación para que los jóvenes se interesen por esta profesión, que es bastante difícil en estos tiempos. Es importante mejorar las condiciones de esta profesión, especialmente en la etapa inicial. Antes, a los 30 años, ya eras profesor de por vida, ahora, a los 29 años, empezaré como asistente.

q Cuando hablas de motivación, ¿te refieres a recursos económicos?

R En algunos casos, sin embargo, también se deben tener en cuenta otros factores. Por ejemplo, la sensación de que estás progresando profesionalmente y consiguiendo puestos cada vez más relevantes. Sentirse valorado es importante para quedarse en España y seguir intentándolo.

q Hizo su doctorado en Francia. ¿Crees que hay más oportunidades en el extranjero?

R Hay muchas opciones, pero también en España. Las matemáticas realizadas aquí y la investigación realizada allí son de alta calidad. Ya he tenido esta experiencia de vivir en el extranjero y estoy seguro de que a medida que avanza mi carrera también tendré otras oportunidades para realizar estudios internacionales, lo que sin duda agregará un gran valor a su carrera y ofrecerá mucha perspectiva. Pero mi objetivo final es quedarme en España, donde la investigación, al menos en mi campo, avanza mucho y la creciente importancia de la inteligencia artificial nos dará mucho trabajo.

puedes seguir EL PAÍS Tecnología En Facebook Y Gorjeo o regístrate aquí para recibir el nuestro boletín semanal.