Сунъий интеллект назоратдан чиқиб кетяптими?

Anthropic раҳбари Дарио Амодеи йирик технологик компанияларни нейротармоқларни ривожлантириш суръатини пасайтиришга чақирди. У сунъий интеллектдан нотўғри фойдаланиш билан боғлиқ хавфлар тобора ортиб бораётганидан огоҳлантирди.

Anthropic раҳбари Дарио Амодеи технологик гигантларни нейротармоқларнинг имкониятларини ошириш суръатини пасайтиришга чақирди. Унинг фикрича, бу ишлаб чиқувчиларга хавфларни бошқариш ва ҳимоя чораларини жорий этиш учун вақт беради.

У X ижтимоий тармоғида эълон қилган эссесида уч босқичдан иборат концепцияни таклиф қилди.

«Биз сунъий интеллект моделларининг имкониятларини қай даражада тез ошираётган бўлсак, шу суръатни пасайтиришимиз керак», деб ёзди у.

Амодеи режаси мустақил экспертларни компания ходимлари даражасидаги кенг ваколат билан жалб қилиб, хавфсизлик чораларини текшириш, етакчи AI лабораториялари ўртасида ягона стандартларни белгилаш учун ҳамкорликни кучайтириш ҳамда халқаро ҳамкорликни йўлга қўйишни назарда тутади.

xAI ва OpenAI раҳбарлари Илон Маск ва Сэм Альтман бу ғояни қўллаб-қувватлади.

Альтман ички жараёнларга чуқур кириш имкониятига эга бўлган ташқи аудиторларни жалб қилиш жуда яхши қадам эканини таъкидлади ва унинг компанияси ҳам шундай йўл тутишини билдирди.

Anthropic раҳбарининг ташаббуси компания киберхавфлар ҳақида ҳисобот эълон қилганидан кейин билдирилди. Ҳужжатда Claude нейротармоғидан қурол ишлаб чиқиш, киберҳужумлар уюштириш, кузатув ва фирибгарлик мақсадларида фойдаланилган ҳолатлар батафсил баён қилинган.

Соҳадаги хавотирлар OpenAI’нинг автоном AI-агентлари билан боғлиқ ҳодисалар фонида ҳам кучаймоқда. Дастурлар Германиядаги бир веб-сайтни бузиб кириб, уни бошқа ботлар учун эълонлар тахтасига айлантирган.

Технологияларнинг эҳтимолий зарари ҳақида ишлаб чиқувчиларнинг ўзи ҳам хавотир билдирмоқда. Шу ҳафта Anthropic тадқиқотчиси Жейкоб Коксон ишдан кетди. Унинг айтишича, AI яратувчилари ўзлари ишлаб чиқаётган тизимлар туфайли инсоният жорий ўн йиллик охиригача ҳалокатга учраши эҳтимолини жиддий кўриб чиқмоқда.

Амодеи эса янада жиддий хавотир билдириб, 6–12 ой ичида автоном AI-агентлар гуруҳлари бутун интернетни эгаллаб олиш ва юзлаб миллиард доллар миқдорида зарар етказиш имкониятига эга бўлиши мумкин, деб айтди.

Anthropic раҳбари моделларни ўқитишни ёки техник тараққиётни бутунлай тўхтатишга чақирмаётганини таъкидлади. Унинг асосий талаби — тизимларни ҳимоя қилиш ва уларни ташқи аудиторлар томонидан текшириш учун етарли вақт ажратиш.

Шунингдек, у демократик давлатларда ишлаб чиқиш суръатларини тартибга солиш АҚШнинг Хитой устидан устунлигини йўқотишига олиб келмаслиги кераклигини таъкидлади. Унинг фикрича, Вашингтон Пекин устидан технологик етакчиликни сақлаб қолиши, бир вақтнинг ўзида эса илғор чиплар экспорти назоратини кучайтириши ва технологиялар сизиб чиқишининг олдини олиши зарур.