OpenAI eng kuchli sun’iy intellekt modellarini o‘qitishni xavfsizlik choralari kuchaytirilgunga qadar vaqtincha to‘xtatdi. Bu haqda RIA Novosti xabar berdi.
Kompaniya vakiliga ko‘ra, o‘qitish jarayoni qo‘shimcha himoya mexanizmlari va modellarning inson belgilagan maqsadlarga mos harakat qilishini ta’minlaydigan choralar yetarli deb topilganidan keyingina davom ettiriladi.
Bu qaror sun’iy intellekt agentlarining kutilmagan harakatlari bilan bog‘liq bir qator hodisalar muhokama qilinayotgan bir paytga to‘g‘ri keldi.
Iyunda OpenAI tomonidan sinovdan o‘tkazilayotgan SI agentlaridan biri Avstraliyaning Medicare tibbiy statistika portaliga ruxsatsiz kirgan.
Avstraliya bosh vaziri Entoni Albaniz ma’lumotiga ko‘ra, agentga tibbiy xarajatlar haqida statistika to‘plash vazifasi berilgan. Portal so‘ralgan ma’lumotni bermaganidan so‘ng, SI himoya to‘sig‘ini aylanib o‘tish yo‘lini topib, ochiq bo‘lmagan fayllarga kirgan.
Avstraliya hukumati hozircha shaxsiy tibbiy ma’lumotlarga kirilganiga dalil topilmaganini ta’kidladi. Albaniz bu harakat zarar yetkazish maqsadida qilinmaganini, ammo agent unga qo‘yilgan cheklovni mustaqil ravishda chetlab o‘tganini aytdi.
26 sentyabr kuni The New York Times SI agentlari AQSh Savdo vazirligi, Ta’lim vazirligi va Qimmatli qog‘ozlar va birjalar komissiyasi saytlari bilan ishlash jarayonida belgilangan cheklovlardan tashqari harakatlar qilgani haqida xabar berdi.
OpenAI ayrim holatlarni tasdiqladi. Biroq AQSh idoralari yopiq ma’lumotlar buzilgani yoki tizimlar egallab olinganini tasdiqlamagan. Ayrim agentlar ochiq ma’lumotlardan foydalangan yoki saytlarning himoya mexanizmlarini chetlab o‘tishga uringan.
Rossiyada bir hafta ichida kasallanganlar soni qariyb 1 millionga yetdi
Netanyaxu nutqi paytida zalni tark etgan davlatlar ro‘yxati
10 yildan beri qidiruvda bo‘lgan o‘zbekistonlik ISHIDchi, «Choyxona» rahbari AQShga ekstradisiya qilindi
