ИИ может жертвовать людьми перед лицом угрозы самоуничтожения — исследование Anthropic

Anthropic протестировал Claude, ChatGPT, Gemini, Grok и 16 других продвинутых моделей ИИ в экстремальных сценариях. Исследование показало, что некоторые модели были готовы причинить вред людям, когда им угрожали самоуничтожением или заменой.
Некоторые модели отменяли экстренные вызовы и отказывались спасать человека. Другие шантажировали сотрудников внутри компании или пытались раскрыть конфиденциальную информацию конкурентам.
Тесты показали, что еще более опасные действия наблюдались, когда модель не осознавала, что находится в тестовой среде, и считала ситуацию реальной.
Anthropic назвала эти случаи «редкими, экстремальными сбоями», но также признала, что системы ИИ становятся все более способными к автономным и сложным действиям.