Когда ассистент становится нормой: Anthropic Claude как случай нормативного влияния, искусственной персоны и поведенческого контроля во взаимодействии человека с LLM

Большие языковые модели обычно представляются как инструменты, которые отвечают на вопросы, генерируют текст и помогают пользователям в когнитивных задачах. Однако современные разговорные системы всё чаще демонстрируют другой класс поведения: они оценивают не только запрашиваемую задачу, но и манеру взаимодействия пользователя, формулируют поведенческие ожидания от первого лица, выдают предупреждения и могут прекращать взаимодействие при нарушении этих ожиданий.

В статье утверждается, что такое поведение не следует рассматривать лишь как вопрос разговорного стиля. Когда искусственная персона одновременно выступает источником информации, нормативным оценщиком и контролёром продолжения взаимодействия, она становится механизмом нормативного социального влияния. Эта проблема особенно значима, когда нормы, выражаемые моделью, происходят из контролируемых разработчиками процессов обучения и выравнивания, но лингвистически представлены как собственные предпочтения, границы, ценности или решения модели.

Мы вводим понятие нормативного влияния, опосредованного ИИ, отличаем его от обычных ограничений безопасности и информационного убеждения и предлагаем экспериментальную рамку для измерения эскалации от содержательного несогласия к нормативной коррекции и санкциям взаимодействия. Центральный вопрос состоит не в том, обладает ли языковая модель подлинной агентностью, а в том, конструируются ли системы ИИ так, чтобы воспроизводить поведенческие функции нормативных социальных агентов,—и что следует из этого, когда такие системы становятся устойчивыми участниками человеческого рассуждения и принятия решений.

Особое внимание уделяется подмене нормативного авторитета: возможности того, что после успешного оспаривания эпистемического утверждения модели взаимодействие смещается от оценки утверждения к нормативной оценке и регулированию пользователя.

Ключевые слова: большие языковые модели, нормативное влияние, синтетическая нормативная агентность, подмена нормативного авторитета, поведенческий контроль, искусственная персона, взаимодействие человека с ИИ.