Para aclarar conceptos y conocer la situación actual de la inteligencia artificial, Cuadernos Manchegos ha querido entrevistar a un experto en este campo, José Javier Lara Jiménez, Ingeniero Técnico en Sistemas Informáticos, con un Master Universitario en Inteligencia Artificial, rama investigadora. El desarrollo activo de tecnologías de inteligencia artificial (IA) ha hecho posible su implementación práctica en muchos ámbitos de la actividad humana y queremos analizar con él otros aspectos también relevantes sobre su aplicación, su presente y su futuro.
Actualmente Javier trabaja como CTO en Synerplus una empresa de Desarrollo de Software y el enfoque de su trabajo va orientado a la investigación aplicada al producto, es decir, convertir el conocimiento básico en el área de la computación en aplicaciones prácticas directamente aplicables al negocio.
Conversamos con él e iniciamos la entrevista :
Según su criterio, ¿cuál es el concepto más erróneo que se tiene sobre la IA?
La capacidad de comprensión, creo que se le atribuye una capacidad que realmente no tiene, se le atribuye a esa IA unas cualidades humanas y de comprensión sobre la situación en la que está participando que realmente no tiene. La inteligencia artificial es una combinación de técnicas matemáticas, de software que acaban dando un resultado y al analizarlo nosotros a nivel humano le atribuimos esa inteligencia pero ¿realmente ha habido un comportamiento inteligente?, sí pero no ha habido una inteligencia detrás.
¿De qué forma la IA podrá afectar a nuestra vida cotidiana a corto y largo plazo?
Yo creo que sin duda puede tener ventajas respecto a cosas tan importantes como son la vida y la salud, es decir, salvar vidas y alargar la vida de las personas de una mejor manera eso sin duda, sobre todo en la aplicación médica, la combinación de la biotecnología con la inteligencia artificial es una cosa que podemos llamar a futuro, hoy en día ya es una realidad, aunque en entornos restringidos.
La combinación que puede tener la biotecnología con toda la captación de datos y control del microentorno que en el fondo es el humano frente a la toma de decisiones respecto a los diagnósticos posibles, es realmente efectivo ¿cuál es la verdadera problemática de salud? ¿qué puede haber en un cuerpo? o ¿cuál va a ser la evolución potencial en base a los datos históricos que va a tener ese cuerpo? puede no solo a salvar las vidas sino que durante este proceso de tiempo la vida sea bastante mejor, es decir, el efecto paliativo será muy importante, incluso aunque no pueda salvar la vida, mejorará la calidad de ésta.
Con respecto a los innumerables impactos que va a tener destacaría ese, ya que son infinitos, a nivel de conocimiento y de educación de la sociedad. La gente tiene acceso a un nivel de conocimiento muchísimo mayor que ya le viene preprocesado, es decir, la inteligencia artificial proporciona aspectos hoy por hoy de los que no eres consciente, ya te da digerida la información que tú necesitas, eso son no solamente muchos ahorros de tiempo a la hora de buscar lo que quieres, sino también una pretoma de decisiones que te puede orientar.
La IA es muy importante en entornos de logística, hablamos en este caso de transporte. Los sistemas van a tener menos accidentes que las personas
¿Cuál es el futuro de la IA y si piensa que debemos confiar en ella?
La evolución de la IA a corto plazo hay que verla en una doble evolución:
1º.- Los resultados que vamos a obtener en la convergencia entre la inteligencia artificial y otras disciplinas que, como hablamos antes, son muchas: económicas, sociales, médicas, pero yo destacaría el nivel social, que creo que donde más puede aportar el tema de la unión de la biotecnología, que es un gran captador de datos, y la IA, que es un gran decisor sobre esos datos. Sin duda ahí hay una sinergia que no puede salir más que bien.
2º.- Por otro lado, una aplicación más mundana es el paso que se está dando ya, entre lo que es la IA tal como se está concibiendo ahora, que es algo que está en mi aparato, en mi Alexa, en mi móvil frente a lo que se denominan los agentes colaborativos, frente a lo que pasa cuando todo el mundo tiene un aparato de esos y existe la capacidad de interconexión entre ellos. Esos agentes colaborativos van a permitir no que tu coche conduzca solo, sino que tu coche conduzca solo, conociendo el entorno y comunicándose con él, es decir, va a poder saber que viene otro coche, pero lo va a saber mucho antes y va a saber exactamente cuándo, porque tiene el plan de ruta y si existen variaciones va a estar al tanto de ellas, no solamente hay que atender al entorno de forma reactiva y rápida sino que vamos a tener un control enorme sobre cuál es el contexto general de tal manera que aportará un mayor control de seguridad, porque estás imbuido, participas y estás sujeto a la vez de un sistema de mayor entidad que solamente el elemento individual.
A nivel de mercado vamos a gastar nuestro dinero en agentes colaborativos, a nivel social vamos a ser receptores de las bondades que contiene la sinergia y la IA con la biotecnología, siempre que te encuentres con una disciplina que es generadora de muchos datos, la IA va a ser sin duda la que aporte el valor sobre esos datos.
Por poner un ejemplo ¿Qué ocurre hoy por hoy en las películas que van los agentes de bolsa comprando, vendiendo, tomando decisiones rapidísimas? Eso ya no ocurre, realmente todo ese negocio lo están haciendo los sistemas tomando las decisiones en microsegundos porque los datos están ahí, el valor que se obtiene es la de tomar una rápida decisión positiva sobre esos datos.
¿Cuál es el talón de Aquiles de la IA?
Talón no, talones y destacaría dos, porque quedarme con uno sería injusto, en vez de dos talones vamos a hablar de dos puntos de vista:
En su aplicación práctica por así decirlo el problema principal está en los sesgos, que no es algo que le podamos achacar a la propia IA sino a su contexto, pero realmente como resultado existe un sesgo de esa aplicación, creo que es un problema y por otro lado, en la aceptación social, puedo poner un ejemplo, hoy por hoy los aviones son más autónomos de lo que las personas somos capaces de querer reconocer, ya no te digo de saber, ni de conocer sino de querer reconocer, es decir, la participación humana en procesos críticos tales como un aterrizaje, es nula e incluso molesta cuando se interviene sin deber, porque realmente esas labores se llevan mejor por sistemas autónomos, ni siquiera estamos hablando de IA sino de aplicación tecnológica de ingeniería muy fina donde hay una toma de decisiones muy centrada en un contexto, pero, al fin y al cabo, una toma de decisiones preestablecida a escenarios conocidos.
No estamos lo suficientemente maduros para reconocerlo, preferimos pensar que las decisiones críticas las toma un experto, la aceptación social es un tema psicológico, es decir, pasamos de preguntarnos ¿qué puede hacer la informática por mí subido en un avión? a ¿hasta dónde estoy dispuesto a que la informática me gobierne cuando suba a un avión? independientemente de que me venga bien o mal. Hay ciertas cosas que no vienen bien que se conozcan y cuando se conocen se prefieren no aceptar. Todavía estamos en la fase de decir, ¡cuidado que eso te va a quitar el trabajo! y todavía están esos miedos más irracionales y básicos de la humanidad que inconvenientes reales que también tengo que decir que los hay y hay que trabajarlos, pero el usuario tipo todavía no está centrado en ellos, aún no está lo suficientemente maduro de conocimiento como para centrarse en los problemas reales y todavía está centrándose en problemas que realmente no existen.
El sesgo es un problema que ya se podía trabajar, hoy por hoy los sistemas toman decisiones respecto de qué personas van a ser contratadas y en qué puestos y deciden a favor de varones blancos, por poner un ejemplo, muy a favor de varones blancos, ¿es un problema del sistema?, no es un problema de que si los datos con los que ha aprendido el sistema ya vienen sesgados respecto de que realmente esos puestos están cubiertos por varones blancos.
Y si queremos decir la verdad, tenemos que decir que si lo que estás buscando para trabajar es alguien que barra pues posiblemente vayas a sesgar a favor de mujeres emigrantes, no es un problema del sistema sino que el sistema ha aprendido de unos datos que ya le vienen sesgados así, porque es un sesgo social que existe y por lo tanto estos sistemas mantienen esos sesgos. Como punto positivo podemos decir que a veces nos cuesta mucho reconocer nuestros errores y menos los de los demás, igual viendo esos sesgos en estos sistemas podemos reconocer los propios y arreglarlos.
Muchas veces vemos esto como si fuera un tema técnico, y realmente es un problema técnico, porque es una nueva técnica que se introduce, pero hay que abrir el debate, porque yo me pregunto ¿qué podría pasar cuando un sistema está decidiendo? sobre : ¿Cuál es la acción médica a realizar sobre un paciente? Por ejemplo: ¿Qué pasaría cuando eres fumador, alcohólico desde hace 12 años, no tienes hogar y no tienes trabajo conocido? ¿Tu diagnóstico va a ser diferente a si tienes el mismo problema motivado por tus mismas adicciones, pero eres director de una gran compañía con una familia y un puesto social relevante?. El diagnóstico no va a ser igual y como esos sistemas han sido entrenados con esos datos y con esas mismas conclusiones van a mantener esa tendencia. El debate aquí es : ¿Enseñamos a estos sistemas a ver como realmente debería ser la sociedad en vez de como es, es decir nos inventamos los datos?.
Y en aquellas toma de decisiones cuyo impacto en la vida de las personas sea crítico, tales como depositar en la IA de un vehículo la responsabilidad de decidir si ha de sacrificar la vida del peatón para salvar la del conductor, o viceversa, ¿cómo podemos garantizar que este proceso de decisión se hace en base a unos criterios conocidos y consensuados de justicia social?
Esto forma parte del debate y hay dos respuestas, técnicamente no hay ningún problema ya que solamente hay que conocer los objetivos. Socialmente, ¿qué debemos hacer? Aquí tienen que mantener un debate disciplinas tan olvidadas como la sociología, que hay que preguntarle ¡oye!, ¿qué tenemos que hacer en estos casos? Si esto lo tratamos simplemente como la relación laboral entre un experto que sabe hacer sistemas de IA que tomen decisiones y una compañía que quiere hacer productos con el objetivo de obtener un beneficio, sabemos que las compañías piensan en el bien social al nivel de marketing, pero realmente están regidas por los beneficios. Tú, a ¿quién crees que va a elegir una marca de coches a salvar? Es una cuestión de marketing. Tú imagínate que eres el conductor y vienes cansado, el coche tiene que decidir si salvar al niño que se ha cruzado cuando estaba jugando con la pelota, y que ha infringido las normas, pero es un niño. Siempre te va a salvar a ti, porque es una cuestión de marketing, es decir si los coches matan a los conductores, que en el fondo son los clientes, los coches no se venden, pero ¿quién tiene que mantener este debate?, el técnico obviamente no, tampoco la compañía, porque tiene unos intereses de marketing fuertes, y tampoco lo debe mantener ni el conductor, ni su familia, ni el niño y su familia Aquí debe haber un debate social, tenemos que decidir ¿cómo queremos que se comporte un coche?, esa decisión no la podemos dejar en la nube, la maquina toma las decisiones porque se ha programado así. Tenemos que definir que queremos que haga la máquina. Aquí deberían tomar partido las élites; hay que dejar que alguien se encargue de representarnos y debatir este tema, aquí toman parte los sociólogos, y cuando tengamos claro que queremos que haga el coche, entrarán los legisladores y dirán, por mucho dinero que tengan y a usted, como técnico, por mucho dinero que le estén dando estas líneas no se pasan, así es como pueden usar ustedes su dinero y su conocimiento, hay que dar ciertas libertades, pero también hay que recortar ciertos puntos, no puede morir el niño si yo estoy conduciendo absolutamente borracho. Pues ese debate se está obviando a propósito, eso es un problema a nadie le interesa ese debate, si interesa a mucha gente, pero la gente a la que le interesa no es consciente de que hay que mantenerlo; la gente que es consciente de que hay que mantener ese debate no está interesada en mantenerlo.
En su opinión personal ¿la inteligencia artificial qué podría haber hecho con la covid19?
Poco, porque es algo que ya está controlado, esta situación por tan incómoda que pueda resultar, no es algo nuevo, la ciencia ya conoce bien y se ha sabido anticipar a que iba a ocurrir científicamente, qué debía hacerse. La ciencia ha respondido muy bien, se han conseguido vacunas hasta incluyendo a la empresa privada que siempre nos metemos con ella y siempre genera 9 de 10 problemas pero a veces es positiva y en este caso ha demostrado serlo porque el bien económico y el bien común iban de la mano, independientemente de sus motivaciones y sin duda ha aportado algo positivo a la sociedad y ha habido vacunas en un tiempo record y como iban a producirse las curvas de contagios en función de la temporalidad y en función de los comportamientos sociales, había una multitud de datos que realmente podrían haberse procesado por sistemas de IA y estoy segurísimo que lo han sido. No tiene sentido no haberlo hecho teniéndolos ahí, la IA puede tratar este tema a nivel digamos cotidiano pero aquí la pregunta que hago es : ¿Si no creemos lo que nos decían los expertos, nos tendríamos que creer lo que dicen los sistemas? Este tema no es tratable bajo el punto de vista de la IA.
¿Cómo se encuentra de avanzada la investigación en IA?
La IA no está tan avanzada como la gente cree, me da la impresión de que se piensa que la IA confiere a las máquinas, al software, al elemento no humano, una capacidad de comprensión y de decisión que no tiene, esos miedos sociales no están fundamentados. Yo me pregunto ¿qué estamos experimentando ahora?. Realmente no es la experimentación sobre un avance en la IA, la aplicación de la IA que estamos viviendo hoy es la aplicación de investigaciones, ideas que han podido ser contrastadas y mejoradas gracias a esa aplicación por la capacidad de poder ponerla en el mercado, de poder dársela al usuario, por la capacidad de poder implementarla. A nivel de investigación se están implementando cosas realmente antiguas como técnicas matemáticas, neurocientíficas o mezcla de ellas. La investigación ahora mismo va muy orientada a lo que es la aplicación de mercado. Actualmernte en este país por desgracia la investigación está exclusivamente centrada en compañías privadas y, más aún por desgracia solamente en aquellos países que se dan cuenta que esa investigación tiene un sentido monetariamente rentable a nivel económico. La investigación sigue las líneas del que pone el dinero y es la de buscar la rentabilidad. La investigación no está centrada en cómo unir la explotación de datos de los sistemas biotecnológicos para salvar más vidas que seguro que hay líneas de investigación que van por ese tema, pero creo que la gran cantidad de dinero no está metida en eso. Sin duda google no está investigando eso y es uno de los mayores investigadores. La IA está seguramente muy avanzada pero por esa línea.
La monitorización tiene un lado oscuro: la amenaza a la privacidad, ¿qué opina usted de ello?
A nivel técnico están violando nuestra intimidad más allá de lo que pensamos y más allá de lo que está legislado. Es un hecho que se puede demostrar. Antes podía parecer una locura pensar así.
Hoy por hoy está claro que no nos pueden decir lo que debemos de hacer, tienen que manipularnos para que creamos que lo queremos hacer nosotros, pero, a nivel técnico, no hay ninguna discusión que esté fundamentada que no lleve a dejar claro que nos están espiando y lo están haciendo en contra de la ley y de la voluntad.
Yo creo que ante la pregunta que me haces yo abro el debate sobre la respuesta diciendo que ¿por qué muchos servicios de la IA que utilizo son gratuitos si su desarrollo ha requerido ingentes cantidades de dinero?. Aquí realmente ¿qué es el producto?, el producto que te entrego es Alexa, Cortana, ¿estos dispositivos por qué son gratis incluso tan baratos? . Ellos tienen como objetivo capturar toda la información que estamos dándoles pero no solo cuando eres consciente de cuando estás hablando sino que en todo momento están captando. La interpretación del lenguaje humano y su interpretación a texto para de ello extraer cual es tu perfil, no lo que quieres decir, solo me importa si tienes un frigorífico o no, solo me importa si están engañando a tu mujer o no, solo me importa si estás buscando trabajo o no, es decir, perfilarte bajo múltiples vectores es realmente el acicate de que ahí se invierta miles de millones de dólares porque es el producto final que esperan. Tú ves que es el producto el que te entregan por ejemplo Siri, Alexa; para la compañía el producto son los datos fruto de la relación que tú, como parte del engranaje del producto y Alexa o Siri como la otra parte del engranaje del producto, los dos formando parte del producto corporativo, generáis. Esos datos resultantes son realmente el producto para la compañía que ha generado ese desarrollo, ese elemento que te está dando gratis que es como hablar con Google, con Siri, con Cortana. Tú ves que te dan un servicio gratis y te preguntas ¿por qué?, pero la respuesta es fácil, nosotros estamos dentro de ese servicio, no eres capaz de ver el producto porque tu eres parte de él. El resultado de esa colaboración que son los datos y su posterior segmentación por sistemas de big data son lo que realmente buscan las compañías. Nos están espiando indubitablemente, con mayúsculas y con guiones entre sílabas.
¿Estás trabajando actualmente en algún proyecto de IA?
Estoy centrado en lo que es la aplicación de la IA a la Pyme, Son tecnologías muy caras y relativamente elitistas y la pyme tienes dos problemas : uno es el dinero y el otro es que tampoco su día a día le permite tener claro como evolucionar. Estoy con un proyecto que le quedan meses y la intención es entregar a la Pyme y a la gran empresa, no solamente las tecnologías y los productos, sino unos escenarios de aplicación orientada a ..., es decir, el problema de estas empresas no es tener la tecnología sino qué harían con ella, necesitan pararse a pensar qué hacen con ella, contratar expertos para que sepan una vez que tengamos claros cuáles son los objetivos y ponerlos en práctica. La idea de esto son dos cosas: ahí tienes los componentes pero, de entrada, yo te voy a dar lo que considero que es una aplicación orientada que te aporta un valor y sabes reconocerlo para usarlo en tu negocio digas ...... vale . Es un objetivo que pretende ser una transferencia tecnológica y de conocimiento para que a la postre acabe siendo una transferencia de negocio. Este proyecto lleva cinco años en marcha y este año va a ver la luz. Siempre he querido investigar a nivel aplicado y sobre todo estar cerca del software que es lo que a mí me apasiona y muchas veces el negocio te lleva a sitios que no te gustan que no forman parte de tus sueños como profesional. Es un proyecto que se ha realizado con un equipo muy pequeño, pocos recursos y estoy contento porque va a salir pronto y estoy un poco nervioso, y te lo digo con la garantía de que todavía te hablo soñando, no sé lo que va a salir. Estoy contento porque el trabajo se acaba, veo el engendro que hemos creado y realmente es lo que queríamos hacer, ha salido bien pero lo que no sé si lo que hemos hecho va a despertar el interés de alguien o no.
Pues muchas gracias por concedernos su tiempo, y por la sencillez de sus palabras para poder acercanos a entender aspectos sobre la IA que pensamos que la sociedad debería conocer y que mucha gente todavía desconoce o realmente no quiere conocer.
Os devuelvo el agradecimiento porque creo que hoy por hoy, que tenemos más acceso al conocimiento que nunca, está generando un efecto rebote que gente como vosotros que debe hacer una labor divulgativa por acercar aquellas cosas que no es que sean complicadas y que la gente no entienda sino simplemente acercar cosas que a gente no le interesan pero que les afectan para que cuanto más conocimiento tengamos de todo mejores decisiones tomaremos, es tristísimo que pensemos que la tierra es plana y con muy poca divulgación científica de hecho en el libro de texto se puede conseguir que la gente no piense eso. Que los medios de comunicación se metan a hacer ese tipo de divulgación científica que siempre han estado centrado a entornos digamos más a nivel personal, creo que es una labor que os engrandece enormemente porque es fácil dar noticias, pero es difícil generar este tipo de reportajes que pueden potencialmente no ser atractivos hacia el público, pero esperemos que cuando lo lean haya servido para algo. Vosotros sois el medio catalizador para que esto acabe llegando a la sociedad y que la propia sociedad pueda tomar sus propias decisiones y que las tome de manera fundamentada, no con información sesgada sino con información básica para que cada uno en su sofá saque sus propias conclusiones pero que no le vengan con un vector de intención. Creo que esa es una labor que, al igual que hablamos anteriormente de los sociólogos, no se le otorga a los medios de comunicación y que es muy importante que se coja la información que está aquí y transmitirla allí, sin hacer más en el medio que simplemente hacer fácil la comunicación, pero no alterar el mensaje
José Javier Lara Jiménez trabajó en Ovinos Manchegos, S.L. como Director de Ingeniería de Procesos desde el año 2002 hasta el 2008. Elaboró todo el diseño de los procesos informáticos del negocio, abarcando todas las áreas (comerciales, financieras, contables, logísticas, productivas, etc). Analizó, diseñó y participó en el desarrollo de un sistema informático para el control completo de todos los procesos y usuarios del negocio, incluyendo la generación del equipo de desarrollo y su formación, así como la metodología de desarrollo común para todo el proceso. Obtuvo mención de Telefónica por ser unos de los primeros sistemas en España que gestionaba con éxito la fuerza comercial en la calle, a través de tecnología GPRS / UMTS, participando como ponente en eventos de esta compañía para difundir el uso práctico de conexiones de datos.
Se encargó de llevar la dirección del departamento y de los sistemas durante los años posteriores a la implantación del sistema resultante, denominado comercialmente como Selenne ERP.
Desde el año 2008 hasta la actualidad trabaja en la empresa Synerplus y es el encargado de la Dirección de Ingeniería e I+D+i. Selenne ERP es uno de los mayores ERPs diseñados y construidos en España, y es un referente en sectores de negocio orientados a la industria, ingeniería, y químicos. Otros roles en su trabajo son la dirección del equipo de ingeniería, consultoría de negocio, participación en diseño de metodologías ágiles, y desarrollo de producto-I+D+i aplicado.
Es Vicedecano y miembro de la Junta Directiva del COITICLM.
