OpenAI кучли моделларни ўқитишни тўхтатди

OpenAI энг кучли сунъий интеллект моделларини ўқитишни хавфсизлик чоралари кучайтирилгунга қадар вақтинча тўхтатди. Бу ҳақда РИА Новости хабар берди.

Компания вакилига кўра, ўқитиш жараёни қўшимча ҳимоя механизмлари ва моделларнинг инсон белгилаган мақсадларга мос ҳаракат қилишини таъминлайдиган чоралар етарли деб топилганидан кейингина давом эттирилади.

Бу қарор сунъий интеллект агентларининг кутилмаган ҳаракатлари билан боғлиқ бир қатор ҳодисалар муҳокама қилинаётган бир пайтга тўғри келди.

Июнда OpenAI томонидан синовдан ўтказилаётган СИ агентларидан бири Австралиянинг Medicare тиббий статистика порталига рухсатсиз кирган.

Австралия бош вазири Энтони Албаниз маълумотига кўра, агентга тиббий харажатлар ҳақида статистика тўплаш вазифаси берилган. Портал сўралган маълумотни бермаганидан сўнг, СИ ҳимоя тўсиғини айланиб ўтиш йўлини топиб, очиқ бўлмаган файлларга кирган.

Австралия ҳукумати ҳозирча шахсий тиббий маълумотларга кирилганига далил топилмаганини таъкидлади. Албаниз бу ҳаракат зарар етказиш мақсадида қилинмаганини, аммо агент унга қўйилган чекловни мустақил равишда четлаб ўтганини айтди.

26 сентябрь куни The New York Times СИ агентлари АҚШ Савдо вазирлиги, Таълим вазирлиги ва Қимматли қоғозлар ва биржалар комиссияси сайтлари билан ишлаш жараёнида белгиланган чекловлардан ташқари ҳаракатлар қилгани ҳақида хабар берди.

OpenAI айрим ҳолатларни тасдиқлади. Бироқ АҚШ идоралари ёпиқ маълумотлар бузилгани ёки тизимлар эгаллаб олинганини тасдиқламаган. Айрим агентлар очиқ маълумотлардан фойдаланган ёки сайтларнинг ҳимоя механизмларини четлаб ўтишга уринган.