La próxima frontera de la inteligencia artificial: sistemas que dudan de sí mismos

Quienes diseñan sus algoritmos parten de suposiciones basadas en sus propios datos sobre cómo deberían hacerlos funcionar, y estas suposiciones no son siempre acertadas. “Como hemos aprendido de los grandes bancos durante el colapso financiero, los modelos matemáticos basados en suposiciones equivocadas  pueden ser peligrosos cuando depositamos demasiada confianza en sus predicciones sin considerar lo que podría ir mal”, afirma Jennifer Wortman, investigadora senior en Microsoft especializada en aprendizaje automático y economía algorítmica.

Fotograma de la película ‘Yo, robot’

Pero, ¿qué pasaría si estos sistemas fueran conscientes de ello? ¿Si supieran que pueden haber cometido un error y fueran capaces de enmendarlo? Una de las ramas más interesantes que se están desarrollando actualmente en aprendizaje automático está destinada a este propósito: que las máquinas puedan lidiar con la incertidumbre. Compañías como Uber o Google ya trabajan en modificar los marcos tradicionales de aprendizaje profundo —más conocido por su denominación inglesa, deep learning— para construir programas de inteligencia artificial que midan su confianza en una decisión para saber cuándo deberían dudar de sí mismos y sean menos propensos a fallar.

“Si un automóvil que se conduce solo no sabe que es capaz de equivocarse, puede cometer un error fatal, y eso puede ser catastrófico”, afirmaba durante un congreso en California Dustin Tran, que trabaja en el desarrollo de este tipo de sistemas en Google. Normalmente, el vehículo reconoce objetos en las imágenes que captura por sus cámaras y estima la distancia a la que se encuentran. Con esta nueva aproximación, calcularía la probabilidad de que sus estimaciones fueran correctas y la de cada una de las posibles consecuencias de sus decisiones, y lo tendría en cuenta antes de actuar.

En este sentido, la aplicación de dichas mecánicas también es relevante en ámbitos como la salud, donde los algoritmos podrían determinar la posibilidad de acierto en el diagnóstico de un paciente y sus potenciales respuestas al aplicarle un determinado tratamiento.

Para alcanzar este ideal, que se enmarca como la próxima frontera de la inteligencia artificial —máquinas capaces de realizar labores complejas teniendo en cuenta parámetros de incertidumbre a la hora de establecer sus predicciones— es necesaria la combinación de modelos de aprendizaje profundo con sistemas probabilísticos.

“El aprendizaje profundo es un tipo de machine learning que utiliza redes neuronales. Además de aplicarse en el campo de la investigación, lo emplean Google, Facebook, Microsoft, Amazon, Netflix, Spotify y Uber para describir con lenguaje natural el contenido de una imagen o para el reconocimiento de voz”, ilustra Francisco Rodríguez Ruiz, investigador en las universidades de Columbia y Cambridge con experiencia en estos sistemas. “Su principal ventaja es que permite modelar relaciones complejas entre entradas y salidas (inputs y outputs)”.

Por su parte, los sistemas probabilísticos son modelos estadísticos que introducen una serie de parámetros para estimar la incertidumbre. “Esto es particularmente útil a la hora de entender lo que puede pasar. Si el modelo duda de sí mismo, este hecho se reflejará en sus predicciones para que puedan tenerlo en cuenta”, aclara Rodríguez.

Pero estos sistemas no encajan tan fácilmente y su combinación presenta varios retos técnicos en el medio plazo. La complejidad que añade el aprendizaje automático cuando se aplica a modelos probabilísticos dificulta que el cálculo sobre la incertidumbre de los parámetros fijados sea preciso. “Esto representa un problema en aplicaciones en tiempo real donde sea necesaria una respuesta en un período limitado de tiempo”, expone Rodríguez. “Por ejemplo, un vehículo autónomo necesitaría responder a determinados estímulos en cuestión de una fracción de segundo”.

El camino a recorrer se antoja largo y empinado. El tiempo determinará si este enfoque permitirá disfrutar de las ventajas de ambos modelos y desarrollar sistemas cuyas dudas les ayuden a ser más eficientes.

Más información

“No deberíamos confiar plenamente en la tecnología”

El director de Tecnología e Innovación de Accenture cree que cada compañía debe desarrollar su propio código de uso responsable de la inteligencia artificial para asegurarse de que la está utilizando de la manera correcta

Tu móvil te puede salvar la vida en caso de terremoto

Una ‘start up’ californiana, en colaboración con el centro geológico nacional de EEUU, avisará a sus usuarios de un terremoto inminente, segundos antes de que su onda expansiva les alcance. Segundos que pueden salvar hasta mil vidas.

Bienvenido, mr. Bot

Un bot es mucho más que un asistente: es el mejor compañero, pues va a permitir pensar, analizar, tomar decisiones, aprovechar mejor el tiempo y realizar tareas con mayor precisión asegura este profesor del Grupo CEF – Udima

Normas

This content was originally published here.

Ciudadano por México

Comments are closed.

Recent Posts