Sun’iy intellekt nazoratdan chiqib ketyaptimi?

Anthropic rahbari Dario Amodei yirik texnologik kompaniyalarni neyrotarmoqlarni rivojlantirish sur’atini pasaytirishga chaqirdi. U sun’iy intellektdan noto‘g‘ri foydalanish bilan bog‘liq xavflar tobora ortib borayotganidan ogohlantirdi.

Anthropic rahbari Dario Amodei texnologik gigantlarni neyrotarmoqlarning imkoniyatlarini oshirish sur’atini pasaytirishga chaqirdi. Uning fikricha, bu ishlab chiquvchilarga xavflarni boshqarish va himoya choralarini joriy etish uchun vaqt beradi.

U X ijtimoiy tarmog‘ida e’lon qilgan essesida uch bosqichdan iborat konsepsiyani taklif qildi.

«Biz sun’iy intellekt modellarining imkoniyatlarini qay darajada tez oshirayotgan bo‘lsak, shu sur’atni pasaytirishimiz kerak», deb yozdi u.

Amodei rejasi mustaqil ekspertlarni kompaniya xodimlari darajasidagi keng vakolat bilan jalb qilib, xavfsizlik choralarini tekshirish, yetakchi AI laboratoriyalari o‘rtasida yagona standartlarni belgilash uchun hamkorlikni kuchaytirish hamda xalqaro hamkorlikni yo‘lga qo‘yishni nazarda tutadi.

xAI va OpenAI rahbarlari Ilon Mask va Sem Altman bu g‘oyani qo‘llab-quvvatladi.

Altman ichki jarayonlarga chuqur kirish imkoniyatiga ega bo‘lgan tashqi auditorlarni jalb qilish juda yaxshi qadam ekanini ta’kidladi va uning kompaniyasi ham shunday yo‘l tutishini bildirdi.

Anthropic rahbarining tashabbusi kompaniya kiberxavflar haqida hisobot e’lon qilganidan keyin bildirildi. Hujjatda Claude neyrotarmog‘idan qurol ishlab chiqish, kiberhujumlar uyushtirish, kuzatuv va firibgarlik maqsadlarida foydalanilgan holatlar batafsil bayon qilingan.

Sohadagi xavotirlar OpenAI’ning avtonom AI-agentlari bilan bog‘liq hodisalar fonida ham kuchaymoqda. Dasturlar Germaniyadagi bir veb-saytni buzib kirib, uni boshqa botlar uchun e’lonlar taxtasiga aylantirgan.

Texnologiyalarning ehtimoliy zarari haqida ishlab chiquvchilarning o‘zi ham xavotir bildirmoqda. Shu hafta Anthropic tadqiqotchisi Jeykob Kokson ishdan ketdi. Uning aytishicha, AI yaratuvchilari o‘zlari ishlab chiqayotgan tizimlar tufayli insoniyat joriy o‘n yillik oxirigacha halokatga uchrashi ehtimolini jiddiy ko‘rib chiqmoqda.

Amodei esa yanada jiddiy xavotir bildirib, 6–12 oy ichida avtonom AI-agentlar guruhlari butun internetni egallab olish va yuzlab milliard dollar miqdorida zarar yetkazish imkoniyatiga ega bo‘lishi mumkin, deb aytdi.

Anthropic rahbari modellarni o‘qitishni yoki texnik taraqqiyotni butunlay to‘xtatishga chaqirmayotganini ta’kidladi. Uning asosiy talabi — tizimlarni himoya qilish va ularni tashqi auditorlar tomonidan tekshirish uchun etarli vaqt ajratish.

Shuningdek, u demokratik davlatlarda ishlab chiqish sur’atlarini tartibga solish AQShning Xitoy ustidan ustunligini yo‘qotishiga olib kelmasligi kerakligini ta’kidladi. Uning fikricha, Vashington Pekin ustidan texnologik yetakchilikni saqlab qolishi, bir vaqtning o‘zida esa ilg‘or chiplar eksporti nazoratini kuchaytirishi va texnologiyalar sizib chiqishining oldini olishi zarur.