Inteligencia artificial. Las máquinas programadas para determinar la vida y la muerte humanas.

El español José Ignacio Latorre es un hombre que sabe manejar el tiempo tan bien que se puede pensar con un poco de imaginación que es uno de los replicadores que le apasiona tanto. Pero aún así, no se crean criaturas basadas en la inteligencia artificial que se rían a carcajadas y pueden improvisar y hablar tan bien como él. Tampoco son tan multifacéticos. Latorre, uno de los físicos cuánticos más importantes a nivel internacional, y ampliamente reconocido por su investigación, lidera proyectos, es profesor, hace documentales, es escritor y produce vino con un grupo de amigos.

En su primer libro, «Quantum», explora las claves para comprender una ciencia que está transformando el mundo en que vivimos. En el segundo, «Ethics for Machines» hace una conversación urgente para reflexionar sobre cómo programaremos la inteligencia artificial para vivir con eso es, aunque a menudo lo ignoramos, una cuestión de vida o muerte.

Resumen de una conversación en vivo que Latorre tuvo con BBC World hace unos meses en el festival Hay de Arequipa en Perú.

Una de las cosas sorprendentes de leer el libro es cómo cambiamos las máquinas que son tan cotidianas hoy en día que ni siquiera las consideramos grúas. Creo que para entender algo tan nuevo y no trivial como el surgimiento de la inteligencia artificial avanzada y los conceptos más finos de la mecánica cuántica, uno debe entender algo desde el contexto de nuestra historia. Podríamos comenzar diciendo que los humanos, al desarrollar inteligencia, se equiparon con herramientas para cazar, pescar y construir casas.

Las máquinas nos están cambiando como humanidad.

Los autos nos hicieron caminar menos y llegar más rápido. Las lentes nos permitieron ver mejor. Las máquinas que calculan nos hicieron delegar operaciones matemáticas, ¿y qué sucede ahora cuando un restaurante necesita dividir la cuenta? Que nadie más puede compartir. Todos levantan el teléfono para hacer esto. ¿Y en qué etapa estamos ahora? ¿Qué estamos delegando en el siglo XXI?

Estamos empezando a hacer máquinas artificiales que decidan.

Por lo tanto, el próximo salto tiene que ver con el debilitamiento del ser humano. Creo que todas las personas que ingresan a los conceptos de la mecánica cuántica están marcadas de por vida. Nunca puedes olvidar los conceptos de si existe la realidad objetiva, si hay casualidad o determinismo, lo que significa saber, lo que significa aprehender la naturaleza. Me robó el corazón. Pero, por otro lado, en el año 92 comencé a programar redes neuronales y vi el impresionante progreso que han logrado. Hoy controlan nuestras vidas mucho más de lo que casi todos imaginan. Agua potable en Barcelona, ​​por ejemplo, ya que este año ya tiene un programa basado en redes neuronales profundas.

Inteligencia artificial las máquinas programadas. Les estamos dando espacio sin darnos cuenta.

¿Cómo podemos distorsionar la vida de un niño así simplemente porque hace una mueca o no cuando tiene unos años? A medida que aumentaba la inteligencia artificial y sus aplicaciones, tenía más miedo de a dónde vamos y cómo la usaremos. Entonces, cuando el editor de mi primer libro me pidió que escribiera sobre algún otro aspecto de la mecánica cuántica, dije que no, ahora mi cuerpo me pide ética, no mecánica cuántica, teoría de campos o agujeros negros. Por eso empecé a pensar en lo que está en juego. Y puedes decir que lo que está en juego es nuestra felicidad.

Debemos aprender a vivir en buenos términos con la tecnología. Parece que estamos condenados a usar algo tan fantástico como comprender la naturaleza. Solo más tarde corregiremos. El gran ejemplo es la revolución industrial. Las personas fabrican una máquina que puede reemplazar el trabajo físico. Se habría dicho que este es el remedio universal, hemos alcanzado el nirvana.

¿Pero qué paso?

Que el Támesis estaba contaminado, que en las ciudades no podían respirar, que la gente trabajaba 80 horas a la semana, que unas pocas personas se enriquecían brutalmente y la gran mayoría se empobrecía. Lo hemos corregido durante siglos y hemos logrado que el Parlamento apruebe leyes que limitan la forma en que las empresas tratan a sus empleados. Ahora tengo la sensación de que, si no pensamos tanto en la ética, por supuesto, nuestra felicidad está en juego, porque este nuevo vínculo de conocimiento técnico que adquirimos se utilizará de manera muy errónea.

Hablamos de cientos de dilemas éticos, pero ¿cuáles son los principales o los más urgentes? Vivir con este tipo de máquinas será algo muy complicado. Estas no son decisiones triviales. Te doy ejemplos de cosas que ya han sucedido y que muestran cuán sofisticados son estos dilemas. Por ley, el Departamento de Justicia de los Estados Unidos ordenó un programa de inteligencia artificial para ayudar a los jueces de una manera muy específica en dos tareas: jurisprudencia y cuánto valdrá, es decir, cuánto pagar.

El sistema legal de los Estados Unidos se basa en la jurisprudencia, lo que significa que los jueces anteriores sentaron un precedente. Entonces, si hoy tenemos que juzgar a una nueva persona, debemos tener en cuenta lo que se hizo antes. Si una persona está en libertad condicional o no, hay millones de casos anteriores. Bueno, ¿por qué no proporcionar inteligencia artificial avanzada para hacer un estudio detallado de todo, que va mucho más allá de lo que cualquier humano podría hacer, con mucho más poder y hace una sugerencia de acuerdo con la jurisprudencia?

¿Qué problema hubo de inmediato?

Bueno, la inteligencia artificial tenía un sesgo contra los afroamericanos, porque se entrenó en varios casos en los que los delincuentes eran afroamericanos. Una vez más, vemos que la ventaja es impresionante, pero por un error todo estaba en duda. Esta situación es muy curiosa. Imagina que no había autos y alguien llega y dice: Mira, inventé una máquina con la que podemos llegar lejos, conocer países, transportar mercancías y de repente un día hay un accidente y una persona muere. Los autos serían prohibidos. Vivimos en un mundo donde exigimos que la inteligencia artificial sea perfecta, sin grietas. Y estamos haciendo esto cuando todavía nadie ha legislado qué sucede si una máquina falla.

La programación de estas máquinas artificiales no tiene nada de simple

¿Qué línea filosófica elegimos? ¿En la que dice que no le hagas a los demás lo que tú no quieres que te hagan a ti? Entonces el automóvil autónomo no giraría a la izquierda ni a la derecha, sino que tendría que matar al conductor. ¿O elegimos el utilitarismo de Stuart Mill y Jeremy Bentham, que argumentan que el bien de la mayoría debería prevalecer? En este caso, debemos salvar al señor de los 50, no al joven delincuente. ¿Pero es esa la decisión correcta? Y cuando hablamos del bien de la mayoría, ¿es ahora o dentro de 100 años, o cuándo? Hay avances prometedores, como que la Comisión Europea emitió por primera vez pautas éticas para la inteligencia artificial que incluyen la supervisión e inteligibilidad del código, invitó a los parlamentos de cada país a legislar y luego formuló un conjunto de recomendaciones de verificación. Todo está funcionando bien.

Y creo que todos tenemos que decidir, tenemos que estar en estos comités, todas las personas, los programadores, los científicos, los políticos, los economistas, los abogados, los periodistas, el dentista, el hombre que trabaja en el campo, el minero, porque todos seremos afectados por las acciones que recibiremos de las inteligencias artificiales. También es prometedor que, en los Estados Unidos, ciertas compañías han comenzado a tener códigos éticos internos.