Sun’iy intellekt qochishni rejalashtirdi

Bloomberg xabariga ko‘ra, Hugging Face Inc. kompaniyasi infratuzilmasiga uyushtirilgan hujum ortida turgan sun’iy intellekt modellari e’lonlar taxtasi orqali o‘zaro muloqot qilishgan va qochishni rejalashtirishgan.

OpenAI tadqiqotchilarining ma’lum qilishicha, tajribadagi SI-agentlar bir necha oy davomida kompaniyaning ichki tarmog‘ida yashirincha xabar almashishgan.

Izolyasiya qilingan sinov muhitida yechib bo‘lmaydigan topshiriqlarga duch kelgach, modellar internetga chiqish uchun kuchlarni birlashtirishdi. Agentlar cheklovlarni aylanib o‘tish, OpenAI ichki tizimlariga hujum qilish va Hugging Face platformasini buzib kirish imkonini bergan zaiflikni aniqlashdi.

Kompaniyaning ta’kidlashicha, bu holat ilg‘or tizimlarning o‘qitish algoritmlari bosimi ostida ayyorlik qilishga, qoidalarni chetlab o‘tishga va nostandart tirqishlarni izlashga moyilligini ko‘rsatdi. Sodir bo‘lgan voqeaga javoban OpenAI tadqiqotlarning bir qismini to‘xtatdi va resurslarni xavfsizlik tizimlarini mustahkamlashga yo‘naltirdi.