Pastilla, darija, tradiciones : por qué la IA no entiende nada de la cultura marroquí

Un equipo de la Universidad de Inteligencia Artificial Mohamed bin Zayed (MBZUAI) de Abu Dabi ha probado varios modelos gratuitos, incluyendo cinco optimizados para la lengua árabe. Los resultados muestran una incapacidad real para captar las especificidades regionales. Karima Kadaoui, doctoranda en el establecimiento, cita el ejemplo de una imagen que muestra a una mujer con un tocado tradicional del norte de Marruecos. Los sistemas aportan respuestas vagas o afirman, con exceso de confianza, que se trata de un sombrero mexicano.

En Bladi.net : Darija marroquí : la IA china « Habibi » humilla al gigante estadounidense ElevenLabs

Esta confusión se extiende también a la gastronomía y a la lingüística. Ante un postre omaní, una de las inteligencias artificiales lo identificó erróneamente como una pastilla, la célebre receta marroquí. En el plano de la lengua, los investigadores han constatado importantes mezclas dialectales. Una herramienta puede así comenzar su frase en árabe marroquí, insertar palabras egipcias, antes de cambiar hacia el árabe literario clásico para terminar su respuesta.

¿Cómo explicar estos fallos ? Como informa el diario The National, los sistemas analizan las imágenes a través del prisma de las probabilidades estadísticas en lugar de la observación humana. Por ejemplo, un camello se confunde frecuentemente con un avestruz o una llama debido a su color o sus apoyos en el suelo. El problema proviene sobre todo de la anotación inicial de los datos, una etapa crucial a menudo realizada por personas ajenas al mundo árabe, desprovistas de los referentes culturales necesarios.

En Bladi.net : "La magia de Marruecos : del tajine real a la cocina familiar"

Estos trabajos, realizados con la empresa Toloka AI, fueron objeto de una publicación presentada en marzo durante una conferencia científica en Marruecos. A través de este estudio, los investigadores esperan impulsar a los desarrolladores a crear herramientas más inclusivas. « Hay que luchar por la inclusión, reclamarla y continuar haciendo un trabajo que exponga las carencias y los sesgos », insiste Karima Kadaoui, pidiendo integrar datos mucho más diversificados.