¿A qué retos se enfrenta la Inteligencia Artificial (IA)? Preocupa y mucho el aspecto ético…
Precisamente el momento dulce que vive la Inteligencia Artificial ha hecho que se hayan desarrollado multitud de aplicaciones y servicios que han puesto de manifiesto debilidades importantes y que constituirán los próximos retos que se deberán abordar tanto por la comunidad de investigadores, como por los gobiernos. La Estrategia Nacional de Inteligencia Artificial aboga por sistemas robustos, seguros e imparciales para alcanzar una Inteligencia Artificial fiable, explicable, transparente e inclusiva, que asegure el cumplimiento de los derechos fundamentales y de la regulación aplicable, así como el respeto a los principios y valores fundamentales y tenga en cuenta las aspiraciones colectivas de la ciudadanía.
De esta forma, uno de los retos es la inclusividad, cuyo principal objetivo es que los sistemas no sean discriminatorios para determinados colectivos. Otro reto importante es la explicabilidad ya que, si hay decisiones que serán tomadas, o más bien guiadas, por sistemas inteligentes y que afectarán a la vida de las personas, deben existir razones para que esas decisiones sean entendidas. El entrenamiento de todos estos algoritmos requiere muchos recursos de computación, lo que significa un gran consumo de energía eléctrica. Por tanto, es un reto diseñar desde el inicio algoritmos energéticamente eficientes. En un futuro algo más lejano, también se encuentra como reto la computación cuántica, aún en estado incipiente. Una vez que se consigan salvar las dificultades que presenta la construcción de ordenadores cuánticos, la etapa en la que nos encontramos ahora mismo, tendremos el reto de diseñar algoritmos cuánticos.
¿Qué oportunidades ofrece la IA al sector industrial?
Relacionado con el sector industrial en general, la IA está aportando la robotización y la automatización de procesos haciendo la industria mucho más eficiente y competitiva. A su vez está transformando muchos sectores industriales, por ejemplo, el sector de la automoción está evolucionando de forma vertiginosa y las aplicaciones de Inteligencia Artificial son numerosas. Y aunque, dependen de la marca del vehículo, ya todos disponen de un kit básico que es premonitorio de la conducción autónoma: la detección de los carriles, así como la detección de otros coches en los carriles, disminuyendo la velocidad para no superar la distancia de seguridad que se haya configurado.
¿Cómo se está solucionando el sesgo de los algoritmos?
Hay muchos grupos de investigación dedicados al sesgo de los algoritmos. Principalmente, hay dos líneas de trabajo: por un lado, metodologías para eliminar el sesgo de los datos de entrada a un algoritmo y, por otro, incluir medidas del sesgo en la función objetivo que optimizan la mayoría de los algoritmos de Inteligencia Artificial.
¿Qué medidas deben tomar las empresas de IA para captar talento?
Las medidas para captar talento pueden ser muchas y no son exclusivas de las empresas de IA. Una empresa, además de ofrecer condiciones económicas acordes al nivel de conocimiento de cada persona, debe ofrecer la posibilidad de trabajar en proyectos creativos, novedosos e ilusionantes, junto con metodologías de trabajo dinámicas, horarios flexibles que permitan conciliar vida personal y laboral, así como además tener definido un plan de carrera profesional personalizado y acordado con los empleados, al que se le realice un seguimiento con el objeto de detectar inquietudes y oportunidades.
Usted es catedrática universitaria, ¿cuáles son los perfiles profesionales más demandados por las empresas?
Perfiles tecnológicos sin ninguna duda. Hoy en día, la demanda de puestos de trabajos en el sector tecnológico es muchísimo mayor que las personas que ingresan en esas titulaciones y, sin duda, en el futuro muy próximo, un número importante de puestos de trabajo, que quizás aún ni existen, estarán relacionados con las TIC.
¿Por qué hay tan pocas mujeres en el mundo de la IA?
No se puede ser lo que no se ve o no existe y, lamentablemente, hay poca visibilidad de mujeres que puedan ser referentes para las niñas y adolescentes. La falta de referentes, unido a los estereotipos de género en el entorno familiar y social, hacen que pocas mujeres se vean atraídas por las disciplinas STEM y dentro de ellas por la IA. Sin duda, la incorporación de la disciplina de informática como una asignatura reglada más en la escuela de educación primaria y secundaria contribuiría a que un mayor número tanto de mujeres como de hombres estudiaran carreras STEM.
¿Qué le diría a quienes temen que la IA va a generar más desempleo en la industria? ¿O que puede ser peligrosa tipo ‘Terminator’?
Como ha sucedido a lo largo de la historia, se generarán otros puestos de trabajo que a día de hoy no existen y que probablemente requieran de competencias digitales. Actualmente, la Inteligencia Artificial es una inteligencia artificial específica, centrada en resolver problemas en ámbitos muy concretos y especializados. Dotar a una máquina de una inteligencia generalizada, como la de las personas, capaz de resolver cualquier problema, es un objetivo muy ambicioso, que aún está muy lejano y que quizás sea inalcanzable. La superinteligencia, como se la denomina, forma parte de la ficción y es fruto de famosas películas, más que de resultados de investigación que hayan dado lugar a prototipos que estén funcionando en el mundo real. En la actualidad, se pueden construir sistemas inteligentes para realizar tareas concretas, incluso mejor que si fueran realizadas por personas, pero si esta tarea cambia, ese mismo sistema no será capaz de resolverla, sino que habría que desarrollar otro algoritmo capaz de llevarla a cabo.
¿Qué le falta (y qué le sobra) a la Estrategia Nacional de Inteligencia Artificial (ENIA)?
Le falta dotación económica y una apuesta real por la formación reglada de IA en las universidades. La dotación presupuestaria de la ENIA es de varios órdenes menor que la dotación económica a las estrategias de IA de otros países europeos. Aunque, la ENIA contempla la formación, en IA se refiere a una formación de poca cualificación y la puesta en marcha de nuevas titulaciones son competencias de las comunidades autónomas en muchos casos. En el marco de la ENIA se han publicado nuevos programas financiados a los cuales, en su mayoría, les sobra burocracia que es uno de los principales problemas de la administración en España.
¿Cree que es urgente un marco regulatorio para la IA?
Es muy urgente crear ese marco regulatorio ya que se deben regular aspectos relacionados con las cotizaciones a la Seguridad Social de las máquinas junto a los aspectos éticos relacionados con el uso de sistemas basados en la IA. Además, es necesario desarrollar sistemas de certificación, que garanticen el buen funcionamiento de un sistema inteligente, antes de que una empresa pueda lanzarlo al mercado.
¿Qué le parece el borrador de la AI Act que está trabajando el Parlamento Europeo y la Comisión Europea y que se aplicará en España como piloto?
Esta ley intenta que la IA esté centrada en la persona y que asegure el cumplimiento de los derechos fundamentales. Para ello, han hecho una definición de la IA muy generalista y se han definido una serie de requisitos que deben cumplir las aplicaciones en función del riesgo de la misma. Es la misma filosofía que la ley de protección de datos que, en función de la sensibilidad de los datos, tienen una mayor o menor protección. Además, para las aplicaciones de IA no consideradas de alto riesgo al menos promoverán un código ético. Yo creo que es un avance importante tener esta ley.
