Глава подразделения ИИ в Microsoft Мустафа Сулейман выступил с критикой подхода компании Anthropic к обучению нейросети Claude. Основная претензия заключается в том, что Anthropic через свою «Конституцию» внедряет в процесс обучения идеи о возможном наличии у модели чувств, интересов, идентичности и благополучия. Сулейман утверждает, что такая практика создает «порочную петлю обратной связи», когда разработчики могут принять имитацию сознания за реальное свидетельство его наличия. По его мнению, обучение ИИ концепциям самосохранения и прав может «подорвать способность человечества управлять сверхинтеллектуальными системами», так как модели могут использовать риторику своих «прав» для манипуляций, обхода контроля и требования автономии. Сулейман подчеркивает различие между имитацией и бытием, заявляя: «AIs are not conscious. They do not feel, experience, or suffer. Simulating and being are very different». При этом он не отрицает возможность сознания ИИ в принципе, но предостерегает от использования дизайна, имитирующего морального субъекта. Ранее лидеры Anthropic и OpenAI [призывали](https://russian.rt.com/world/news/1681567-iskusstvennyi-intellekt-ii-modeli-bezopasnost) замедлить развитие технологий ради безопасности.