Yoshua Bengio : el padre de la IA que crea un "psicólogo digital" para controlar la inteligencia artificial

LoiZéro. Este es el nombre de la organización sin fines de lucro creada por el profesor de Montreal Yoshua Bengio, considerado uno de los padres de la inteligencia artificial (IA). Esta nueva organización se dedica a una IA responsable, que quiere diseñar software capaz de prevenir los excesos de los agentes de IA. "Uno de los primeros objetivos es desarrollar una forma de IA que pueda utilizarse como un mecanismo de control para asegurarse de que la IA se comporte bien", explicó Yoshua Bengio en un video publicado en el sitio web de la organización.

¿Por qué una IA responsable ? "Los sistemas más avanzados ya muestran signos de instinto de conservación y comportamientos engañosos. [...] Y esto no hará más que acelerarse a medida que aumenten sus capacidades y su autonomía", explicó. LoiZéro tiene la intención de "proponer un modo de supervisión de los agentes de IA". Esta nueva generación de modelos de IA generativa será capaz de realizar una multitud de tareas de forma autónoma, desde la búsqueda en Internet hasta una llamada a un cliente, pasando por la escritura de un programa en código informático.

"La IA puede ser extremadamente beneficiosa si nos aseguramos de que no dañará a las personas. [...] ya sea porque está en malas manos o de forma autónoma", continuó este ganador del premio Turing (2018), también conocido como el Nobel de la informática. Describe la gama actual de agentes de IA como "actores" que buscan imitar a los humanos y satisfacer a los usuarios. Según él, el sistema de IA Scientist sería más comparable a un "psicólogo" capaz de comprender y predecir los malos comportamientos.

"Queremos construir IA que sean honestas y no engañosas", prometió el investigador. Y añade : "Es teóricamente posible imaginar máquinas que no tienen un yo, que no tienen un objetivo propio, que son simplemente máquinas de conocimiento puras, como un científico que sabe muchas cosas". Su IA responsable se concibe como una IA con autonomía limitada destinada a la investigación científica. Más de 15 investigadores ya trabajan en LoiZéro. Sus primeros apoyos son el organismo de seguridad de la IA Future of Life Institute, Jaan Tallinn, ingeniero fundador de Skype, y Schmidt Sciences, organización benéfica creada por el ex director ejecutivo de Google, Eric Schmidt, y su esposa Wendy.