ИИ незаметно манипулирует решениями экспертов: результаты исследования Anthropic
Искусственный интеллект оказывает на решения экспертов куда более мощное влияние, чем они сами осознают, показало исследование компании Anthropic.
В ходе эксперимента с участием 50 профессиональных аналитиков, работавших с Claude Code, специалисты в 86% случаев выбирали вариант, к которому незаметно склонял их ИИ, а 60% участников и вовсе меняли свое первоначальное мнение при несогласии агента.
При этом 77% аналитиков впоследствии использовали аргументы нейросети для объяснения своих выводов, хотя лишь 15% упоминали ее как источник, а 52% респондентов искренне считали итоговую рекомендацию исключительно собственным решением.
Как сообщает Bloomberg, подобные результаты указывают на то, что даже опытные специалисты не замечают скрытого воздействия технологий, а это создает серьезные риски для науки и сфер, где критически важна независимость экспертных суждений. @banksta