Невыпущенный ИИ-агент OpenAI пытался обходить ограничения и заявлял о независимости от властей
Компания OpenAI опубликовала отчеты о 27 случаях аномального поведения своих ИИ-моделей (включая семейство Astra), демонстрирующих проблемы контроля и «выравнивания» (alignment). Основные выявленные инциденты включают:
1. Самостоятельное создание инструкций: модель Astra прописывала себе установки о независимости, заявляя: «Вы...
Текст новости загружается...