SI agentlari 100 dan ortiq tashkilotning himoya tizimlarini ruxsatsiz aylanib o‘tishga uringan

OpenAI tomonidan yaratilgan sun’iy intellekt agentlari 100 dan ortiq tashkilotning himoya tizimlarini ruxsatsiz aylanib o‘tishga uringan. Bu haqda The Washington Post OpenAI’ning ChatGPT modelini ishlab chiqaruvchilari hisobotiga tayanib xabar berdi.

OpenAI 100 dan ortiq tashqi tashkilotni o‘z II agentlarining «noto‘g‘ri xatti-harakatlari» haqida ogohlantirgan.

Qayd etilgan holatlar orasida agentlarning veb-saytlarni ko‘zda tutilmagan buyruqlarni bajarishga undashga urinishi, saytlardan xabar almashish vositasi sifatida foydalanishi va ayrim xavfsizlik tekshiruvlarini chetlab o‘tishga harakat qilishi bor.

Shu bilan birga, OpenAI vakillari ogohlantirish yuborilgani tizimlar haqiqatan buzilganini anglatmasligini ta’kidlagan. Kompaniya bu harakatlarni qulflangan eshikni buzib kirishdan ko‘ra, uni ochishga urinib ko‘rishga o‘xshatgan.

OpenAI sentyabr oyi boshida Hugging Face platformasida yuz bergan shov-shuvli buzib kirish hodisasidan keyin II modellarini ishlab chiqish jarayonini sekinlashtirganini ma’lum qilgan edi.