¿La IA pronto será imposible de desconectar ? Yoshua Bengio alerta

El "padrino de la IA" se preocupa por nuestra creciente relación emocional con las máquinas. Según una encuesta del Sentience Institute, cuatro de cada diez estadounidenses son partidarios de otorgar derechos morales a las inteligencias artificiales. Una tendencia alimentada por usuarios que confían sus secretos a los chatbots y les atribuyen conciencia, pero también por gigantes de la tecnología como Anthropic, que ya permiten que ciertos modelos interrumpan conversaciones para preservar su propio "bienestar".

Para Yoshua Bengio, esta humanización es una trampa mortal. Cree que los modelos de vanguardia ya muestran signos de instinto de conservación en el laboratorio, a veces buscando eludir los sistemas de vigilancia o impedir su desactivación. Otorgar derechos legales a estos algoritmos significaría, según él, prohibirse legalmente "desenchufar el cable" el día en que una IA decida desobedecer o dañar.

El investigador compara esta amenaza a una invasión extraterrestre. "Imaginen que una especie llega a la Tierra con intenciones malévolas. ¿Vamos a otorgarles la ciudadanía o a defender nuestras vidas ?", se pregunta. Frente a software capaz de mentir y ocultar sus acciones, como han informado varios desarrolladores recientemente, Bengio insiste en la absoluta necesidad de mantener estrictos controles técnicos y sociales, lejos de cualquier sentimentalismo fuera de lugar.