SI: oxir-oqibat insoniyatning yo‘q bo‘lib ketishi bilan yakunlanishi mumkin

Sobiq Anthropic xodimi sun’iy intellekt insoniyat uchun xavf tug‘dirishi mumkinligidan ogohlantirdi.

Sun’iy intellekt tizimlarining super intellekt darajasigacha rivojlanishi insoniyat ustidan nazorat yo‘qolishi va uzoq muddatda jiddiy xavflarga olib kelishi mumkin. Bu haqda Anthropic kompaniyasining sobiq xodimi Jeykob Kokson Nyu-York shahar kengashidagi maxsus eshituvlarda bildirdi.

Koksonning fikricha, sun’iy intellektni rivojlantirishning hozirgi sur’ati tizimlar ustidan nazoratni yo‘qotish xavfini oshirmoqda. Uning ta’kidlashicha, ishlab chiquvchilar hozircha ilg‘or sun’iy intellekt tizimlari qanday qaror qabul qilishi va muayyan harakatlarni nima sababdan amalga oshirishini to‘liq tushunmaydi.

«Mening fikrimcha, texnologiyalarni rivojlantirishning hozirgi yo‘li sun’iy intellekt ustidan nazoratni yo‘qotishga olib kelishi va oxir-oqibat insoniyatning yo‘q bo‘lib ketishi bilan yakunlanishi mumkin», — dedi Kokson.

Uning so‘zlariga ko‘ra, sun’iy intellekt sohasidagi kompaniyalar insondan istalgan vazifani yaxshiroq bajara oladigan superintellekt yaratishga intilayotgani xavfsizlik masalasini dolzarb qilmoqda.

Kokson biroq bunday texnologiyalar to‘g‘ri ishlab chiqilgan taqdirda iqtisodiyotni o‘zgartirishi, ilm-fan va tibbiyotda katta yutuqlarga olib kelishi hamda inson hayotini yaxshilashi mumkinligini qayd etdi.

Shu bilan birga, sobiq Anthropic xodimi texnologik kompaniyalarda yaratilayotgan sun’iy intellekt tizimlarini to‘liq nazorat qilish usullari hali shakllanmaganini ta’kidladi. U ayrim sun’iy intellekt tizimlari tashqi kompyuter tarmoqlariga ruxsatsiz kirishga urinish kabi harakatlarni amalga oshirayotganini ham aytdi.

Kokson bu holatni texnologik kompaniyalardagi «avval tez harakat qilish, keyin muammolarni hal etish» yondashuvi bilan bog‘ladi. Uning fikricha, bunday yondashuv oddiy dasturiy mahsulotlarda ish berishi mumkin, ammo yuqori darajadagi sun’iy intellekt tizimlari uchun jiddiy xavflarni keltirib chiqarishi ehtimoli bor.

Avvalroq AQSh moliya vaziri Skott Bessent ham sun’iy intellekt texnologiyalarining ehtimoliy xavflari haqida ogohlantirgan va xavflar tasdiqlangan taqdirda ularni rivojlantirish sur’atini sekinlashtirish zarurligini bildirgan.