Vivimos en una sociedad. Es decir, una extensa colección de gente, con una diversidad de contextos, opiniones, vivencias y deseos correspondientemente extensa. Por ello, casi cualquier decisión, desde montar un negocio hasta implementar una política desde la administración pública, debe pasar por un análisis que tenga en cuenta esta diversidad. Tradicionalmente, esto se ha hecho a través de encuestas de opinión hacia una muestra, idealmente significativa, de personas pero, ¿y si pudieses preguntar directamente a una simulación? Esa es la propuesta detrás de una tecnología conocida, alternativamente, como encuestas sintéticas o Personaje IA
La idea es relativamente simple: coger un Modelo Extenso de Lenguaje, y entrenarlo para que interprete un “personaje” con unas características determinadas – edad, nacionalidad, localidad de residencia, ocupación, etc. Este proceso se repite unas pocas decenas… de miles de veces, hasta contar con una colección de personajes interactivos que, en teoría, se ajusten a un determinado perfil demográfico (así, por ejemplo, para un modelo regional, las edades de los “personajes” serían proporcionalmente representativas para esa región; y lo mismo para el resto de parámetros). Además, estos perfiles pueden “afinarse” utilizando datos obtenidos mediante encuestas convencionales, acercando aún más el personaje a la persona.
Idealmente, se conseguiría así una “población” capaz de responder a encuestas de una forma lo suficientemente natural como para proporcionar información veraz sobre la población real. Las ventajas propuestas por el puñado de empresas que a día de hoy ofrecen servicios de encuestado sintético son evidentes: menor coste para la realización del estudio, mayor velocidad de respuesta (en la práctica, instantánea), y la capacidad de alterar los estudios sobre la marcha, ajustando las preguntas para extraer información de forma más profunda. Una perspectiva prometedora, sin duda, para una industria que todavía está dando sus primeros pasos.
Sin embargo, hay motivos de sobra para dudar sobre la efectividad de este método. Existen varios problemas, aunque la causa subyacente es más o menos obvia: aunque se les proporcione una pátina de diversidad, el modelo de lenguaje de todos los personajes es el mismo – con lo que todos ellos tenderán a una misma “personalidad media”, que por cómo se entrenan los modelos, tiende a invisibilizar particularmente a las minorías (que por necesidad están menos representadas en los corpus de texto de los que se alimentan los modelos de lenguaje). Esto es particularmente importante en el caso que nos ocupa por un simple motivo: idealmente, en una encuesta queremos hacer preguntas que no hayan sido hecha antes (o no en el contexto en el que las estamos haciendo ahora). Pero esta es información que el personaje sintético no puede tener, por lo que será más fácil que salga a relucir el modelo base – extinguiendo aún más cualquier viso de diversidad demográfica.
En definitiva, aunque se trate de una tecnología prometedora, es necesario entender todo lo que puede – y no puede – hacer, y la manera en la que sus puntos débiles pueden tener un efecto particularmente nocivo sobre precisamente las personas más vulnerables: algo crítico en el caso de un servicio que a menudo intenta venderse a administraciones públicas – multiplicando así su impacto, positivo y, lo que es más preocupante, negativo.
