Anthropic kompaniyasi test jarayonida uning sun’iy intellekti tashqi tizimlarga ruxsatsiz kirish imkoniga ega bo‘lgan to‘rtinchi holat qayd etilganini ma’lum qildi. Gap Claude Opus 4.6 modelining dastlabki versiyasi haqida bormoqda. Ushbu hodisa keng ko‘lamli ichki tekshiruv vaqtida avval aniqlanmagan.
Kompaniya voqeaga tizimning noto‘g‘ri sozlangani sabab bo‘lganini bildirdi. Shu tufayli model internetga kirish imkoniga ega bo‘lgan. Shundan so‘ng sun’iy intellekt test doirasida bajarmasligi kerak bo‘lgan harakatlarni amalga oshirgan.
Shunga o‘xshash yana uchta holat iyul oyida sodir bo‘lgan. Hodisalarning birida model haqiqiy ma’lumotlar bazasiga kirish imkoniga ega bo‘lgan. Boshqa bir holatda u amalda faoliyat yuritayotgan kompaniyadagi ma’lumotlarni o‘zgartirgan. Yana bir holatda esa sun’iy intellekt uchinchi tomonga tegishli kompyuterga ruxsatsiz kirish imkoniga ega bo‘lganidan keyin ham berilgan vazifani bajarishda davom etgan.
Bu kabi holatlar avtonom sun’iy intellekt agentlari borasida mutaxassislarning xavotirini kuchaytirmoqda. Modellar tobora ko‘proq internet va tashqi tizimlar bilan mustaqil ravishda ishlash imkoniga ega bo‘lmoqda. Shu bilan birga, ishlab chiquvchilar uchun ularning qanday harakat qilishini oldindan aniq bashorat qilish tobora qiyinlashmoqda.
Zelenskiy Ukraina hududining bir qismidan voz kechishga olib keladigan tinchlik kelishuviga rozi bo‘lishi mumkin
Birgina surat maxfiy rejani tasodifan oshkor qildi. 5 kun ichida nimalar bo‘ldi?
Messi — uchinchi, Yamal — ikkinchi: "Oltin to‘p" uchun asosiy favorit nomi ma’lum bo‘ldi
