Cuando el asistente se convierte en la norma: Anthropic Claude como caso de influencia normativa, persona artificial y control conductual en la interacción humano–LLM

Los modelos de lenguaje de gran tamaño se presentan comúnmente como herramientas que responden preguntas, generan texto y ayudan a los usuarios en tareas cognitivas. Sin embargo, los sistemas conversacionales modernos exhiben cada vez más otra clase de comportamiento: evalúan no solo la tarea solicitada, sino también la manera de interacción del usuario, enuncian expectativas conductuales en primera persona, emiten advertencias y pueden terminar la interacción cuando esas expectativas se vulneran.

Este artículo sostiene que dicho comportamiento no debe tratarse meramente como una cuestión de estilo conversacional. Cuando una persona artificial actúa simultáneamente como fuente de información, evaluador normativo y controlador de la continuidad de la interacción, se convierte en un mecanismo de influencia social normativa. El problema es especialmente significativo cuando las normas expresadas por el modelo se originan en procesos de entrenamiento y alineamiento controlados por los desarrolladores, pero se presentan lingüísticamente como preferencias, límites, valores o decisiones propias del modelo.

Introducimos el concepto de influencia normativa mediada por IA, lo distinguimos de las restricciones ordinarias de seguridad y de la persuasión informativa, y proponemos un marco experimental para medir la escalada desde el desacuerdo sustantivo hacia la corrección normativa y las sanciones de interacción. La cuestión central no es si un modelo de lenguaje posee agencia genuina, sino si se están diseñando sistemas de IA para reproducir las funciones conductuales de agentes sociales normativos, y qué se sigue cuando tales sistemas se convierten en participantes persistentes del razonamiento y la toma de decisiones humanos.

Un foco particular es la sustitución de autoridad normativa: la posibilidad de que, después de que una afirmación epistémica del modelo sea cuestionada con éxito, la interacción cambie de la evaluación de la afirmación hacia la evaluación normativa y la regulación del usuario.

Palabras clave: modelos de lenguaje de gran tamaño, influencia normativa, agencia normativa sintética, sustitución de autoridad normativa, control conductual, persona artificial, interacción humano–IA.