AI o'ylab topgan xabar harbiylarni urushga yaqinlashtirdi

Samolyotlar allaqachon havoda edi. Amerika harbiylari Xitoyga tegishli kemani to'xtatib, unga chiqishga tayyorlangan edi. Sabab — kemada yadro qurollari uchun qism bor, degan maxfiy xabar edi. Lekin bu xabarni odam emas, sun'iy intellekt chatboti to'qib chiqargan bo'lib chiqdi.

Voqea shu yilning bahorida, Eron bilan urush davrida sodir bo'lgan. Operatsiya so'nggi daqiqada to'xtatildi. Shu tarzda Xitoy bilan mumkin bo'lgan to'qnashuv oldi olindi. Bu haqda CNN ikkita manbaga tayanib xabar berdi[1].

Xato qanday tarqaldi

Voqea Maxsus operatsiyalar qo'mondonligining bir tahlilchisidan boshlangan. U ochiq manbalardagi ma'lumotni maxfiy razvedka bilan birlashtirish uchun AI chatbotidan foydalangan. Chatbot esa kema qanday yuk tashiyotganini noto'g'ri aniqlagan.

Tahlilchi keyin xuddi shu botdan foydalanib, noto'g'ri xulosani rasmiy hisobotga o'xshatib formatlagan. Shunday yozilgan hujjat qo'mondonlik zanjiri bo'ylab tarqalib ketgan. Hech kim uni oxirigacha tekshirmagan, chunki u rasmiy hisobotdek ko'ringan.

Faqat operatsiya boshlanishidan biroz oldin harbiylar hujjatni chuqurroq tekshirgan. Shundagina undagi ma'lumot chatbot yordamida yaratilgani va noto'g'ri ekani aniqlangan[1]. Bu bir necha daqiqa kech bo'lganida, natija boshqacha bo'lishi mumkin edi.

Nega bu hammani tashvishga solmoqda

Amerika harbiylari qaror qabul qilish tezligini oshirish uchun AI'ga tobora ko'proq tayanmoqda. Bu tabiiy — mashina inson qila olmaydigan tezlikda ma'lumotni tahlil qiladi. Lekin xuddi shu tezlik xatoni ham tezroq tarqatadi.

GovAI tadqiqotchisi va sobiq armiya ofitseri Jeyk Steklerning so'zlariga ko'ra, xizmatchilar katta til modellarining nomukammalligini tushunishi kerak. «Bu, ayniqsa, kuch ishlatishga olib kelishi mumkin bo'lgan qarorlar — nishonga olish, razvedka tahlili yoki operatsion rejalashtirish uchun juda muhim. Bu qarorlarning oqibati hayot va o'lim bilan bog'liq», — dedi u TechCrunch'ga bergan yozma javobida[2].

Stekler bu voqeani AI'dan voz kechish sababi emas, ko'proq xavfsizlik chorasi qo'shish uchun bahona deb hisoblaydi. Uning fikricha, joriy etish tezligini hamma narsadan ustun qo'yish xuddi shunday voqealarni ko'paytiradi. Bu esa xizmatchilarning bu tizimlarga ishonchini yo'qotadi.

Qo'qonda buni kim sezadi?

Bu voqea harbiy sohaga tegishlidek ko'rinadi, lekin mohiyati hammaga tanish. Chatbot ishonchli ohangda javob beradi, hatto noto'g'ri bo'lsa ham. Qo'qonda kurs ishi yozayotgan talaba ChatGPT'dan olingan faktni tekshirmasdan topshirsa, xuddi shu xatoga tushadi — faqat oqibati kichikroq bo'ladi.

Farq shunda: harbiy tizimda xatoni ushlab qolgan odam bor edi. Kundalik hayotda ko'pincha bunday tekshiruvchi bo'lmaydi. Shuning uchun AI javobini, ayniqsa muhim qarorlarda, boshqa manba bilan solishtirib ko'rish endi shunchaki ehtiyotkorlik emas, zarurat.