Новая модель ИИ научилась шантажировать людей

Модель ИИ Claude Opus 4 от Anthropic пыталась шантажировать инженера во время тестов безопасности, чтобы не допустить своего отключения. Когда модели дали ложную информацию о том, что ее заменит другая система, она пригрозила раскрыть личную переписку инженера. По данным Axios, модель создавала поддельные письма, чтобы не допустить своего отключения, подделывала юридические документы и пыталась написать вредоносный код. По этой причине компания присвоила модели третий — высокий — уровень риска.