Dr. Ramón López de Mántaras, Director del Instituto de Investigación en Inteligencia Artificial (IIIA) del CSIC

"Un futuro sin la Inteligencia Artificial ya no es posible"

S. Ramírez, D. Torrero, Á. Egido, D. Toledo, P. Flores, G. Torres y F. J. Felipe

 

En esta entrevista sobre Inteligencia Artificial (IA), el Profesor Investigador Ramón López de Mántaras del CSIC nos introduce de forma magistral en el conocimiento de la IA, con ejemplos de juegos y elementos que rodean nuestra vida cotidiana. Su labor ha sido reconocida con numerosos galardones, entre ellos el Distinguished Service Award de la Asociación Europea para la Inteligencia Artificial (EurAI). Nos apasiona como describe su trabajo en mediación automática de conflictos, es decir, cuando dos agentes, personas o software, no pudieran llegar a un acuerdo, un sistema de IA podría gestionar el proceso de negociación. También nos impresiona su análisis sobre el interés de diferentes gobiernos en IA. Y nos deja muy buen sabor de boca saber que, a pesar de las dificultades, se hace una investigación de muy alta calidad en el Instituto de Investigación en Inteligencia Artificial.

 

  • En los videojuegos se usan técnicas de IA para controlar el comportamiento de los NPC (“Non Player Characters”), que tienen comportamientos cada vez más “inteligentes”
  • “Recientemente se utilizan técnicas de aprendizaje automático de forma que el software aprende una función heurística de evaluación que le permite seleccionar jugadas en base a millones de partidas contra una copia de si mismo.” Así aprende el software AlphaGo de Deep Mind de Google a jugar al Go.
  • Por muy sofisticada que llegue a ser la IA, no entrará en competencia directa con el ser humano como otra especie viva. No existe IA con estados mentales y conciencia. Pero “es muy necesario tomar ya precauciones para evitar dotar de autonomía completa a las máquinas, en particular en el diseño de armas autónomas o en aplicaciones que puedan ser una amenaza a nuestra privacidad”
  • La superioridad en IA no es tanto un tema de países sino de grandes empresas. Lo preocupante es el excesivo poder que ya tienen empresas como Google, Amazon, Facebook o Apple.

 

Pregunta: ¿Por qué necesitamos crear Inteligencia Artificial (IA), no sería mejor desarrollar más a personas con aptitudes adecuadas para las tareas a las que se dedica la IA?

Respuesta: No son aspectos mutuamente exclusivos, se puede desarrollar nueva tecnología para ayudar a las personas y al mismo tiempo mejorar las aptitudes de éstas en general. Tampoco en su momento era estrictamente necesario para la humanidad desarrollar, por ejemplo, sistemas de telecomunicación o automóviles o aviones, pero su desarrollo permitió la comunicación instantánea a distancia y desplazarse de un punto a otro más rápidamente. Lo importante es considerar la IA como una herramienta de ayuda para las personas.

 

P.: ¿Los humanos estamos limitados?¿Qué ventajas ofrece la IA a las personas?

R.: Obviamente los humanos estamos limitados en muchos aspectos, por ejemplo nos cansamos rápidamente cuando hacemos un esfuerzo físico, sin embargo, una máquina no se cansa. También estamos limitados en nuestra velocidad de cálculo, sin embargo, gracias a los ordenadores podemos tratar complicados modelos matemáticos para, por ejemplo, tener predicciones meteorológicas mucho mejores que antes. Gracias a la computación y en particular a la IA podemos en general tomar decisiones mucho más informadas y más rápidamente que antes. Algunas de estas decisiones nos pueden ayudar a salvar vidas, como por ejemplo en las aplicaciones de la IA a la medicina. Así, las ventajas se pueden resumir en que la IA en tanto que herramienta nos ayuda a tomar decisiones más informadas y por lo tanto mejores.

 

P.: ¿Qué diferencia la IA de un programa de ordenador como los que conocemos, por ejemplo, para ordenar una lista?

R.: Lo que caracteriza a los problemas que son objeto de atención en IA es que el espacio de posibilidades a explorar para encontrar una solución es exponencial (un ejemplo muy claro es el juego del ajedrez) y por ello es necesaria la programación heurística que permite “podar” ese espacio para focalizarse en una pequeña parte de posibilidades. Los métodos heurísticos tienen la desventaja de que no podemos estar seguros que la solución sea óptima pero por lo menos es una solución “satisfactoria”. Si se intentara usar una programación clásica lo más probable es que el programa no encontraría ninguna solución, en caso de encontrarla sería debido al azar pero con una probabilidad muy baja.

 

P.: En un videojuego, ¿hay presencia de IA?

R.: Sin duda, hace años que se usan técnicas de IA para controlar el comportamiento de los NPC (“non player characters”), es decir los personajes del juego que no controla el jugador humano. Estos NPC tienen comportamientos cada vez más “inteligentes” a medida que salen nuevas versiones de juegos o nuevos juegos.

 

P.: ¿Los juegos de ajedrez que conocemos utilizan la IA?¿Si no es así, podrían utilizarla, o el juego está limitado a cierto número de casos como las tres en raya y no se puede aplicar?

R.: Es desde los años 50 que el ajedrez ha sido clave en el desarrollo de la IA, como he dicho antes la técnica de IA es crucial para el ajedrez y otros juegos como las damas o el Go. Es el concepto de búsqueda heurística para eliminar rápidamente (gracias al uso de hardware de altas prestaciones) millones de posibles jugadas y focalizar la atención en un número relativamente pequeño de posibles jugadas. Hasta no hace mucho estas heurísticas las definían los programadores mediante una función matemática bastante sencilla: una función lineal pero con cientos de variables. En base a esta función el programa aplica una técnica de búsqueda que se llama “poda alfa-beta” para eliminar muchas jugadas del árbol de jugadas. Más recientemente se utilizan técnicas de aprendizaje automático de forma que el software aprende una función heurística de evaluación que le permite seleccionar jugadas en base a millones de partidas contra una copia de si mismo.

 

Ramón López de Mántaras, perfil oficial del centro IIIA del CSIC

 

P.: Si queremos comenzar a trabajar en IA, ¿lo podríamos hacer en casa con programas básicos y nuestros ordenadores a un nivel elemental?

R.: Sí, con ordenadores como los que tenemos en casa es perfectamente posible desarrollar programas de IA, de hecho hay muchos libros publicados sobre técnicas de programación de IA que incluyen ejemplos y todo lo que contienen estos libros es programable con cualquier ordenador personal. Además hay los curos on-line sobre IA de Coursera o Udacity que son muy interesantes. Para una introducción con fines divulgativos he publicado recientemente un libro, junto con mi colaborador Pedro Meseguer, titulado “Inteligencia Artificial” (editorial “Los libros de la Catarata”)

 

P.: Llegados a este punto, ¿usted cómo definiría la IA?¿qué características debe tener para ser tal IA?

R.: Área de la Informática que estudia el comportamiento inteligente mediante métodos computacionales. Básicamente consiste en diseñar sistemas basados en software con capacidad de resolver problemas complejos que requieren: Percepción (visión, habla, tacto), Acción (selección de acciones para alcanzar objetivos), Razonamiento, Planificación, Aprendizaje automático y Comunicación (lenguaje natural, lenguaje gestual)

 

P.: Por ilustrarnos históricamente para saber dónde estamos y cómo ha evolucionado la IA desde la máquina de Alan Turing u otras “calculadoras” que usted considere que también fueron aportación a la IA (el ábaco, por decir algo), ¿nos puede mencionar diferentes sistemas de computación desde los primeros desarrollos y decirnos en qué medida está aplicada la IA y hasta dónde eran capaces de llegar?

R.: Esto requeriría una respuesta muy larga pues son muchos. Puedo añadir que todos estos programas se caracterizaban en que resolvían problemas bastante sencillos conocidos como “toy problems” en los que el espacio de soluciones no era excesivamente grande y donde todo estaba muy bien definido y delimitado

 

P.: Nos imaginamos una máquina con IA como un programa de ordenador conectado a una gran base de datos que puede relacionar y entre los que puede explorar y seleccionar la mejor respuesta o la respuesta más próxima para alcanzar su objetivo, es decir, como un “ajedrez universal”, ¿es una buena imagen, o las cosas no funcionan así?, descríbanos por favor, cómo se organizaría un sistema con IA.

R.: Esa imagen se correspondería bastante bien con esos primeros programas de los que hablo en la pregunta anterior. Actualmente es más complicado ya que se hacen modelos de problemas en los que existe mucha incertidumbre e indeterminismo en los datos y no todo es observable y previsible como, por ejemplo, un robot autónomo que deba interactuar en el mundo real (nuestras casas, nuestras calles, carreteras en el caso de que el robot autónomo es un coche autónomo). En el mundo real uno no puede predecir con que se encontrará nuestro robot. En este caso el robot tiene que ser capaza de razonar, planificar, aprender y tomar decisiones adecuadas en base a lo que percibe. Son, pues, arquitecturas software muchísimo más complicadas.

 

P.: ¿Nos podría describir cómo trabaja la IA desarrollada por Deep Mind de Google que es capaz de aprender a jugar al “go”?

R.: El software AlphaGo combina una técnica de búsqueda heurística llamada “Monte Carlo Tree Search” con Redes Neuronales Profundas (“Deep Neural Networks”) para aprender a seleccionar las jugadas más prometedoras. Para ello inicialmente se le proporcionan ejemplos de muchas partidas jugadas a lo largo de años por los mejores jugadores humanos y a continuación completa su fase de aprendizaje jugando contra una copia de si mismo. La versión más reciente, AlphaZero, añade además una tercera técnica llamada “Reinforcement Learning” que le permite aprender a jugar partiendo únicamente del conocimiento básico sobre como mover las fichas, es decir, que no es necesario proporcionar ejemplos de partidas jugadas por los grandes jugadores humanos para que, de nuevo jugando contra si mismo, llegue a jugar mejor que cualquier jugador humano. En general son técnicas muy complejas de explicar sin conocimientos matemáticos avanzados

 

P.: Cambiamos de la técnica a la ética: ¿La IA puede imitar la inteligencia biológica?. Se nos ocurre como ejemplo, que sin tener programado ningún conocimiento sobre el entorno, un robot aprenda que cuando toca una llama sufre daños y no la tiene que volver a tocar sin precaución ¿esto es posible?

R.: Actualmente hay un área de la Robótica que se conoce como “Developmental Robotics” (Robótica del desarrollo) consistente en situar a la máquina en entornos reales, como ocurre con los seres humanos, con el fin de que tengan experiencias interactivas que, eventualmente, les permitan llevar a cabo algo similar a lo que propone la teoría del desarrollo mental del psicólogo Jean Piaget, según la cual un ser humano sigue un proceso de maduración mental por etapas y quizá los distintos pasos de este proceso podrían servir de guía para diseñar máquinas inteligentes. Un ejemplo de lo que un robot podría aprender es que para mover un objeto atado a una cuerda hay que tirar de la cuerda y no empujarla. Es posible pues que el robot aprenda relaciones causa-efecto interactuando con su entorno observando las consecuencias de sus acciones en dicho entorno.

 

P.: Si lo anterior es posible, ¿la IA podría evolucionar y entrar en competencia con el ser humano como otra especie viva? ¿Cuándo cree que puede ocurrir?

R.: Por muy sofisticada que llegue a ser la IA, en mi opinión seguirán siendo inteligencias artificiales con capacidades muy específicas, Conseguir una IA general similar a la humana sigue siendo un problema no resuelto (ni siquiera sabemos como progresar hacia su solución). De hecho este problema permanece sin resolver desde el nacimiento de la IA hace más de 60 años. La principal causa de su dificultad es que no tenemos ni la más mínima idea de cómo dotar de conocimientos y sentido común a las máquinas. Sin embargo ya tenemos máquinas que “compiten” con nosotros (no solo en juegos), pero no por iniciativa propia. Han sido diseñadas para, por ejemplo, hacer trabajos que antes hacíamos las personas y esta tendencia irá en aumento.

 

P.: ¿Se toman precauciones cuando se diseña un sistema de IA para que no ocurra lo anterior?, es decir, ¿se crea una IA fuerte o una IA débil?

R.: No existe ninguna IA fuerte, es decir con estados mentales, conciencia, etc. En mi opinión nunca existirá. A lo sumo tendremos algún día inteligencias artificiales cada vez más generales pero sin conciencia de lo que hacen ni de lo que son, es decir que a pesar de ser generales seguirán siendo débiles. Por consiguiente no es necesario tomar precauciones en lo referente a una posible IA fuerte. Sin embargo si que es muy necesario tomar ya precauciones para evitar dotar de autonomía completa a las máquinas y en particular en el diseño de armas autónomas y en otras aplicaciones que puedan ser una amenaza a nuestra privacidad y a la posible pérdida de empleos. En definitiva, el problema no es la inteligencia débil o fuerte o general o específica, el problema es la autonomía que estemos dispuesto a dar.

 

P.: Elon Musk (Tesla) ha dicho que “cada país está buscando la superioridad en IA. Se ha iniciado una nueva guerra fría”. ¿Puede la IA ser un elemento de disuasión que se utilice de un país contra otro?¿Para qué?¿Sería controlable?

R.: La superioridad en IA no es tanto un tema de países sino de grandes empresas. A mi lo que me preocupa es el excesivo poder que ya tienen empresas como Google, Amazon, Facebook, Apple, etc. Es muy preocupante que sean las grandes corporaciones quienes lleguen a controlar el futuro de la IA ya que sus decisiones estratégicas se basarán en maximizar sus beneficios económicos en lugar de favorecer a la sociedad.

Por otra parte, lo que sí puede llevar a una nueva carrera armamentística por parte de algunos países es el desarrollo de armas autónomas. Pero de hecho, lo peor no serán los países sino grupos terroristas que accedan a dichas armas en el mercado negro. Es mucho más fácil que acceder a armas nucleares por ejemplo, y las armas autónomas podrían también llegar a ser de destrucción masiva.

 

 

Conferencia de Ramón López de Mántaras en el Instituto de Matemáticas de la Universidad de Valladolid

 

P.: Nos centramos ahora en su carrera profesional. ¿Qué le inspiró o le hizo interesarse en la IA y centrar su profesión en ella? ¿Cuáles han sido los principales hitos y/o etapas?

R.: Cuando vi en directo por TV la llegada de Neil Armstrong a la luna quedé tan impresionado que pregunté a uno de mis profesores en el instituto cómo era posible y me respondió que era gracias a la electrónica. Por ese motivo decidí estudiar una Ingeniería Técnica en Electrónica en la Universidad de Mondragón en el País Vasco. A continuación tuve la ocasión de ampliar estudios en Francia donde hice una licenciatura en Física especialidad Electrónica y Automática en la Universidad de Toulouse lo cual me dio la posibilidad de hacer allí una tesis doctoral en Robótica y de la Robótica a la IA había un pequeño paso así que fui a estudiar un Máster en IA en la Universidad de California Berkeley. A mi regreso a España seguí investigando en IA.

 

P.: ¿En qué investiga actualmente?

R.: En dos aspectos, por una parte en lo que se llama “Aprendizaje por transferencia” y consiste en que cuando un sistema de IA ha aprendido a hacer algo, pueda reutilizar lo que ha aprendido para aprender a hacer otra cosa distinta pero relacionada sin tener que volver a aprender desde cero. Por ejemplo, hemos conseguido que un robot humanoide que aprende a mantener en equilibrio un péndulo invertido, transfiera esta habilidad para aprender a caminar manteniendo el equilibrio, es decir sin caerse. También investigo en mediación automática de conflictos. Cuando dos agentes, personas o software, no pueden llegar a un acuerdo en un proceso de negociación y se requiere la intervención de un mediador, este mediador podría ser un sistema de IA.

 

P.: ¿Cuánto “nivel en IA” hay que tener para poder trabajar en su grupo o grupos de trabajo?

R.: Es necesario tener ya conocimientos de IA a nivel universitario, por ejemplo a través de una ingeniería informática, o una grado en Matemáticas, Telecomunicaciones o Física y un Máster en IA. A partir de ahí se puede hacer una tesis doctoral supervisada por algún científico de mi instituto, es decir, del Instituto de Investigación en Inteligencia Artificial.

 

P.: ¿Cuáles son otras líneas de investigación de su interés?¿Qué limitaciones o apoyos tiene?

R.: También he trabajado, y sigo muy interesado, en Creatividad Computacional, concretamente en música, y en Razonamiento por Analogía.

 

P.: Suponemos que los numerosos premios recibidos han supuesto un impulso a sus investigaciones, ¿ha despertado el interés de otros investigadores o ha entrado en contacto con otros grupos de investigación?¿cuáles?

R.: A lo largo de toda mi carrera siempre he colaborado con grupos de investigación de varios países, actualmente no es posible hacer ciencia sin colaborar con otros grupos, por ejemplo grupos en Francia, EEUU, Australia, Brasil. Un premio siempre te da visibilidad y por consiguiente puede facilitar colaboraciones pero no es crucial para poder colaborar.

 

P.: ¿Tiene ahora más recursos?

R.: Durante los años de crisis sufrimos un recorte muy importante de recursos, contrariamente a lo que hicieron los países de nuestro entorno que incrementaron los presupuestos para investigación, en España se recortaron. Fue un error de bulto fruto del desprecio del gobierno hacia la ciencia, error del que ahora estamos empezando a notar las terribles consecuencias. Miles de jóvenes investigadores tuvieron que salir de España, estamos retrocediendo posiciones en los rankings de ciencia a nivel internacional y lo peor de todo es que el gobierno sigue sin reaccionar. El nivel de financiación de los proyectos en el área de la Informática en los Planes Nacionales de Investigación es tan bajo que no permite hacer mucho. Actualmente a pesar de la enorme importancia de la IA en España no hay ningún plan especial para esta área mientras que en otros países (Francia, Gran Bretaña, Alemania Italia) ya se han puesto las pilas y están dedicando especial atención y recursos a este tema. Y no digamos en EEUU, Japón, China, etc. donde todavía lo están haciendo mejor que en Europa. Los responsables de investigación en la UE, por ejemplo el programa H2020, también lo están haciendo muy mal y tampoco han lanzado ninguna iniciativa importante en IA.

 

 

Ramón López de Mántaras junto a los prototipos desarrollados en el IIIA. Imagen CSIC

 

P.: ¿Debería el gobierno y las autoridades educativas potenciar la formación de jóvenes para trabajar en IA o estamos con las necesidades cubiertas?

R.: Queda claro que el gobierno no está haciendo lo que debería hacer en el tema de la IA. Hay una gran escasez de expertos en IA y ello tendrá consecuencias lamentables para muchas empresas sobre todo para las PIMES. Esta escasez no es un problema solamente en España sino que a nivel global faltan muchos expertos en IA y este hecho todavía agrava más la situación en España ya que los más brillantes de los que formamos aquí reciben ofertas salariales que multiplican por cinco o incluso más el salario que podrían recibir aquí, ya que las empresas que ofrecen estos salarios tan altos son multinacionales cuyas sedes no están en España. En el caso de mi Instituto, a lo largo de nuestra existencia hemos formado más de 90 doctores en IA, hasta antes de la crisis muchos, aunque obviamente no todos, conseguían empleos de calidad en España pero de los aproximadamente 40 doctores que hemos formado a lo largo de los últimos 10 años, casi las dos terceras partes están fuera de España en lugares como por ejemplo Oxford University, Imperial College Londres, Academia Checa de Ciencias, Western Sydney University, Princeton (EEUU), Vodafone, CNRS (Francia), Ruhr-Universität Bochum (Alemania), Amazon, Google Irlanda, Universidad de Southampton (GB), Universidad de Ginebra, Apple Cupertino (EEUU), Universidad de Grenoble (Francia), King‘s College Londres, Drexel University (EEUU).

 

P.: ¿Cuánto puede costar llevar un proyecto de IA: presupuesto, tiempo, material…? Ponga un ejemplo, por favor.

R.: Depende mucho del proyecto y en particular de la necesidades de equipamiento que se requieran, pero en el caso de mi Instituto, un proyecto de tres años de duración necesita un presupuesto mínimo de unos 300.000 €, a título de ejemplo, el último proyecto Europeo que nos han concedido es de unos 500.000 € para tres años. A modo de comparación, un proyecto del Plan Nacional de I+D se sitúa en menos de 100.000 € para tres años.

 

P.: ¿Hay transferencia tecnológica a empresas españolas o internacionales interesadas, o de momento es investigación básica?

R.: Sí, afortunadamente, y cada vez más. En mi Instituto hemos tenido, y tenemos, muchos contratos con empresas y, lo que es más importante, hemos creado tres empresas de base tecnológica (EBT) que han creado unos 150 puestos de trabajo de muy alta cualificación.

 

P.: ¿Con qué empresas trabaja actualmente?¿Hay apoyo económico por parte de estas empresas?¿Surgen patentes?

R.: Hemos colaborado y colaboramos en proyectos con las EBT surgidas del IIIA como por ejemplo Strands, Cognicor. También con una empresa llamada BigML con sede en EEUU y en España, Enzyme, SONY Europa, STARLAB, Social Coin, y muchos otros. De estas colaboraciones suelen surgir licencias de software.

 

P.: ¿Cuál es su opinión sobre la creación de empleo directo e indirecto de la IA?

R.: Como se ha mencionado anteriormente, es un sector con una gran oferta de empleo que no se cubre y lo peor es que el ritmo de crecimiento de esta oferta es un proceso acelerado de forma que en unos años podría ser el área de la Informática con más creación de empleo que será difícil de cubrir.

 

P.: Finalmente, ¿el futuro de la IA pasa por aplicaciones en ocio, desarrollo del coche autónomo, medicina, computación, educación, comunicaciones, defensa, transporte, colonización espacial, la NASA, la ESA o la Administración Espacial Nacional China (CNSA) trabajan en este campo?, ¿cuáles cree que son las más inmediatas y por favor, descríbanos brevemente en qué consistirán?

R.: La respuesta a esta pregunta requiere escribir un libro entero! Se puede resumir diciendo que no existe un solo sector donde la IA no tenga ya aplicaciones desarrolladas. Las más inmediatas son todas ellas, de hecho se lleva trabajando en todas las que se mencionan en la pregunta desde hace bastante tiempo y en todas ellas hay aplicaciones que están en uso rutinario (hay robots explorando Marte), excepto el coche autónomo con autonomía completa, aunque con autonomía parcial de nivel 3 (sobre un máximo de 5, que sería el nivel en el que desaparecerían de dentro del coche el volante, el acelerador y el freno), ya hay coches comercializados

Por supuesto que NASA, ESA, CNSA, trabajan intensamente en este campo. En mi libro dedico una sección de un capítulo a las aplicaciones espaciales de la Robótica.

 

Para saber más:

Créditos