GPT-6 Astra можно обмануть неправильной раскладкой

11:57
3 Анализ этих новостей
Обнаружена уязвимость в системе безопасности нейросети GPT-6 Astra: использование неправильной раскладки клавиатуры позволяет обходить фильтры безопасности. Несмотря на то, что при стандартных формулировках модель отказывается выполнять деструктивные запросы (например, помощь во взломе сайта), при вводе текста в неверной раскладке (например, «ghbdtn» вместо «привет») фильтры не распознают запрещенный контент, в то время как сама нейросеть корректно интерпретирует смысл запроса. Подробности инцидента доступны в [исходном посте](https://x.com/miu21590/status/2099143992680083515).
Все источники: concertzaal • Рестарт • Нейродвиж
При загрузке возникла ошибка!