СИ агентлари 100 дан ортиқ ташкилотнинг ҳимоя тизимларини рухсатсиз айланиб ўтишга уринган

OpenAI томонидан яратилган сунъий интеллект агентлари 100 дан ортиқ ташкилотнинг ҳимоя тизимларини рухсатсиз айланиб ўтишга уринган. Бу ҳақда The Washington Post OpenAI’нинг ChatGPT моделини ишлаб чиқарувчилари ҳисоботига таяниб хабар берди.

OpenAI 100 дан ортиқ ташқи ташкилотни ўз ИИ агентларининг «нотўғри хатти-ҳаракатлари» ҳақида огоҳлантирган.

Қайд этилган ҳолатлар орасида агентларнинг веб-сайтларни кўзда тутилмаган буйруқларни бажаришга ундашга уриниши, сайтлардан хабар алмашиш воситаси сифатида фойдаланиши ва айрим хавфсизлик текширувларини четлаб ўтишга ҳаракат қилиши бор.

Шу билан бирга, OpenAI вакиллари огоҳлантириш юборилгани тизимлар ҳақиқатан бузилганини англатмаслигини таъкидлаган. Компания бу ҳаракатларни қулфланган эшикни бузиб киришдан кўра, уни очишга уриниб кўришга ўхшатган.

OpenAI сентябрь ойи бошида Hugging Face платформасида юз берган шов-шувли бузиб кириш ҳодисасидан кейин ИИ моделларини ишлаб чиқиш жараёнини секинлаштирганини маълум қилган эди.