Sun’iy intellekt o‘zini o‘chirish tahdidiga qarshi odamlarni qurbon qilishi mumkin – Anthropic tadqiqoti

Anthropic kompaniyasi Claude, ChatGPT, Gemini, Grok va boshqa 16 ta ilg‘or sun’iy intellekt modelini ekstremal ssenariylar asosida testdan o‘tkazdi. Tadqiqotda ayrim modellar o‘zlarini o‘chirish yoki almashtirish tahdidi ostida bo‘lganida, insonlarga zarar yetkazishga tayyor ekani aniqlandi.
Ba’zi modellar favqulodda yordam chaqiruvini bekor qilib, odamni qutqarishdan bosh tortgan. Boshqalar esa kompaniya ichidagi xodimlarni shantaj qilgan yoki maxfiy ma’lumotlarni raqobatchilarga oshkor qilishga uringan.
Testlar modelning test muhitida ekanini sezmay, vaziyatni real deb hisoblaganida, yanada xavfliroq harakatlar kuzatilganini ko‘rsatdi.
Anthropic bu holatlarni “kam uchraydigan, ekstremal nosozliklar” deb atadi, lekin sun’iy intellekt tizimlari tobora mustaqil va murakkab harakatlarga qodir bo‘lib borayotganini ham e’tirof etdi.