Anthropic bosh direktori sun’iy intellektning asosiy xavflarini aytdi

Sun’iy intellekt texnologiyalari nazoratdan chiqib ketsa, butun insoniyat uchun xavf tug‘dirishi mumkin. Bu haqda Amerikaning Anthropic texnologiya kompaniyasi bosh direktori Dario Amodei BMT Xavfsizlik Kengashining sun’iy intellekt bo‘yicha yig‘ilishida ma’lum qildi, deb xabar beradi Report.

— Menimcha, sun’iy intellekt butun insoniyat uchun xavf tug‘dirishi mumkin, — dedi Amodei.

Uning so‘zlariga ko‘ra, sun’iy intellekt juda tez rivojlanmoqda. Agar atigi to‘rt yil oldin bu texnologiyalar bir necha qator kod yozish va o‘rta maktab o‘quvchilari uchun matematik masalalarni yechish darajasida bo‘lgan bo‘lsa, endi sun’iy intellekt kodning katta qismini Anthropicda yozadi va ilgari yechib bo‘lmaydigan deb hisoblangan murakkab matematik masalalarni yechadi.

Amodei hozirgi rivojlanish sur’ati davom etsa, sun’iy intellekt keyingi bir-ikki yil ichida yoki undan ham oldinroq "ma’lumotlar markazidagi daholar mamlakati" deb ta’riflagan darajaga yetishi mumkinligini ta’kidladi.

Anthropic rahbarining so‘zlariga ko‘ra, ilg‘or AI modellari insoniyatga katta foyda keltirishi mumkin, ammo ular jiddiy xavflar bilan ham bog‘liq. U ikkita asosiy xavfni aytib o‘tdi. Birinchisi, sun’iy intellektdan noto‘g‘ri foydalanish, jumladan, bioterrorchilar tomonidan biologik qurol yaratish uchun foydalanish. Ikkinchisi, texnologiyalar ustidan nazoratni yo‘qotish xavfi.

Amodei Anthropic tomonidan ishlab chiqilayotgan AI texnologiyalarining xavfsizligini ta’minlash uchun "rivojlanishni zaruratga qarab sekinlashtirishga" tayyor ekanligini aytdi.

U shuningdek, AI bilan bog‘liq muammolarni faqat bitta kompaniya hal qila olmasligini ta’kidladi. Uning fikricha, bu butun sanoat va xalqaro miqyosda qo‘shma yondashuvni talab qiladi.