Amerikadagi AI kompaniyasi Anthropicning eng so‘nggi modeli 'Mitos' haqida katta xavotirlar chiqmoqda. Bu model xavfsizlik zaifliklarini topishda juda kuchli ekani aytilgan. Hatto odam yordamisiz hujum yo‘lini ham o‘zi hisoblay olishi haqida tushuntirish berilgan. Xabarga ko‘ra, bu AI mutaxassislar 27 yil davomida topa olmagan operatsion tizim nuqsonini ham aniqlagan. Xarajat taxminan 50 dollar bo‘lgan ekan. Shu sababli elektr tarmog‘i, suv tizimi, bank tizimi kabi muhim infratuzilmalar hujum nishoniga aylanishi mumkinligi haqidagi ogohlantirish kuchaydi. Anthropic shu xavf sabab Mitosni ommaga ochmagan. Buning o‘rniga Apple, Google va yana 40 dan ortiq joyga cheklangan tarzda ko‘rsatib, mudofaa tizimini sinash loyihasini boshlagan. Butun dunyo tarang turgan bir paytda, Koreya hukumati ham shoshilinch choralar ko‘ra boshlagani JTBC tomonidan aytildi.
원문 보기Mitos qo‘rqinchli bo‘lishining sababi 'gap' emas, 'harakat'da
Buni birinchi marta eshitganda shunday tuyulishi mumkin. 'AI xavfli' degan gap oldin ham ko‘p bo‘lgan, bu safar nimasi bunchalik boshqacha? Lekin Mitos atrofidagi bahsning markazi javobni yaxshi beradigan chatbot emas, balki maqsad berilsa, xakerlikning bir necha bosqichini ulab harakat qiladigan agent turidagi AI ekanida.
Oddiy suhbat AI savol olib, matn yozib berish yoki kodni tushuntirishda kuchli bo‘ladi. Mitos esa xabarlar va sharh materiallarida zaiflikni aniqlash (tizimning zaif joyini topish), hujum yo‘lini taxmin qilish (qayerdan kirib, qanday tarqalishini hisoblash), muvaffaqiyatsizlik bo‘lsa aylanma yo‘lni tanlash kabi funksiyalar bilan ta’kidlanadi. Oson aytganda, bu 'odam xakerning eslatma daftari' emas, balki 'keyingi yurishni tinmay tanlaydigan shaxmatchi'ga o‘xshaydi.
Shu sababli hatto 'kiberterrorizm quroli' degan kuchli ibora ham ishlatilmoqda. Xavfli tomoni AI birdan yovuz bo‘lib qolgani emas, balki aslida qiyin, qimmat va ko‘p vaqt oladigan xakerlik jarayonini ancha arzon va tez sur’atda olib bora olishi. Bu o‘zgarishni qo‘rqinchli kino hikoyasi deb emas, xavfsizlikdagi tezlik farqi birdan ochilib ketgani deb ko‘rish ancha to‘g‘ri.
Mitos haqidagi xavotirning asl mohiyati 'AI aqlli' degani emas, balki 'bosqich tanlashni o‘zi davom ettiradi' degan joyda.
Ya’ni, xavf sifati 'zararli javob' darajasidan 'haqiqiy hujumni avtomatlashtirish' darajasiga o‘tadigan lahza tilga olinmoqda.
Oddiy chatbot bilan Mitosni yonma-yon qo‘ysak, nima farq qiladi
Ikkalasi ham AI, lekin xavfi bir xil tur emas. Farq 'javob' emas, 'harakat usuli'da paydo bo‘ladi.
| Band | Oddiy chatbot | |
|---|---|---|
| Asosiy maqsad | Savolga javob berish, qisqa xulosa, matn yozish, kod bo‘yicha yordam | |
Mitosga o‘xshash avtonom xaker AI Zaiflikni aniqlash, hujum yo‘lini hisoblash, buzib kirish jarayonini avtomatlashtirish | ||
| Ishlash usuli | Foydalanuvchi kiritishiga javob beradigan reaktiv tur | |
| Muvaffaqiyatsizlikka javob | Yana savol bersa, yana javob beradi | |
| Asosiy xavf | Zararli ma'lumot yaratish, noto'g'ri javob | |
| Tarqatish usuli | Ommaviy xizmatlar ko'p | |
"Hujum yo'lini o'zi topadi" degan gap, xakerlikda mana shunday ketadi
Xakerlik odatda bir marta bilan tugamaydi. Bu bir nechta eshikni ketma-ket ochish jarayoni, avtonom AI esa shu tartibni o'zi tuzishga yaqin.
1-bosqich: kuzatish
Avval tizim ma'lumotlarini yig'adi. Qaysi operatsion tizim ishlatilgani, qaysi xizmatlar ochiq ekani, qayerda eski uskuna borligini ko'radi. Buni odam xaker xaritani ochadigan bosqich deb tushunsa oson.
2-bosqich: muhitni modellashtirish
Yig'ilgan ma'lumot asosida "bu yerda qanday zaiflik bo'lishi mumkin" degan taxmin tuziladi. Bu yerda hujum grafigi(mumkin bo'lgan kirib borish yo'llari chizilgan xarita) kabi tushuncha kiradi.
3-bosqich: mumkin bo'lgan yo'llarni yaratish
Faqat bitta zaiflikni ko'rmaydi, balki dastlabki kirib borishdan keyin ruxsatni oshirish, hisob ma'lumotini o'g'irlash, ichki harakatgacha ulanadigan bir nechta yo'llarni yaratib ko'radi. Xakerlikda haqiqiy xavf shu "ulanish"da.
4-bosqich: keyingi harakatni tanlash
Muvaffaqiyat ehtimoli eng yuqori bo'lgan keyingi yurishni tanlaydi. Oldingi avtomatlashtirish vositasi "belgilangan tugmani ishga tushirish"ga yaqin bo'lsa, avtonom agent "vaziyatni ko'rib keyingi tugmani tanlash"gacha bormoqchi.
5-bosqich: muvaffaqiyatsiz bo'lsa, aylanib o'tish
Bitta yo'l to'silsa, hammasi tugamaydi, boshqa yo'lni qayta hisoblay oladi. Shuning uchun xavf bitta zaiflikdan ko'ra ichki tarqalishda kattaroq deyiladi.
6-bosqich: maqsadga erishish
Oxirida ma'lumot o'g'irlash, xizmatni ishdan chiqarish, boshqaruv huquqini olish kabi maqsadga qarab boradi. Ya'ni uni "vosita"dan ko'ra "qisman o'zi harakat qiladigan hujum bajaruvchisi" deb qabul qilishadi.
Zaifliklar yog'ilib tushmoqda, nega himoya jamoasining nafasi tobora qisilyapti
Quyidagi raqamlar "topish tezligi" va "tahlil·choralar ko'rish tezligi" qanchalik mos kelmayotganini ko'rsatadi. Qiymat katta bo'lsa, ishlash yuki kattaroq deb tushunsa bo'ladi.
Hujumchi faqat bitta joyni topsa bo'ladi, himoyachi esa hammasini qo'riqlashi kerak
AI zaiflik topish xarajatini pasaytirsa, eng avval ko'rinadigan narsa shu nosimmetriklik bo'ladi. Hujum va himoya aslida bir xil tezlikda harakat qilmagan.
| Bo'lim | Hujumchi tomondagi o'zgarish | |
|---|---|---|
| Zaiflik topildi | AI bilan uzoq yashirin qolgan zaifliklarni ham arzonroq va tezroq topish mumkin | |
Himoyachi tomondagi yuk Qaysi biri haqiqiy xavf ekanini ajratish uchun ro'yxat juda ko'payadi | ||
| Muvaffaqiyat sharti | Faqat bitta joy teshib kirilsa ham keyingi bosqichga o'tish mumkin | |
| Patch tezligi | Hujumchi patchdan oldin avval harakat qilsa bo'ldi | |
| Zaif nishon | Eski uskunalar, OT, o'rnatilgan tizimlar, patch qilib bo'lmaydigan uskunalarni nishonga olish oson | |
| Natija | Buzib kirish to'sig'i pasayadi | |
Elektr tarmog'i, suv va banklar nega doim avval tilga olinadi, bunga sabab bor
Bu sohalar qo'rqinchli bo'lishi faqat kinodagidek tasavvur sabab emas. Haqiqiy tarixdagi voqealar 'raqamli hujum jamiyat funksiyalarini to'xtatib qo'yishi mumkin' ekanini qayta-qayta ko'rsatgan.
1960-yillar: SCADA keng tarqalishi
Elektr, suv, gaz kabi keng inshootlarni masofadan kuzatish va boshqaradigan SCADA(sanoat uskunalarini masofadan boshqarish tizimi) keng tarqaldi. O'sha paytdagi loyiha falsafasi xavfsizlikdan ko'ra barqaror ishlash va samaradorlikka yaqinroq edi.
1996-yil: muhim infratuzilma tushunchasi tizimlashtirildi
AQShning EO 13010 ma'muriy buyrug'i elektr, moliya, suv, transport va boshqalarni davlat himoya qilishi kerak bo'lgan asosiy infratuzilma sifatida birlashtirdi. Nega doim shu sohalar avval tilga olinishi siyosat nuqtayi nazaridan ko'rsatgan boshlanish nuqtasi shu.
2010-yil: Stuxnet zarbasi
Stuxnet(sanoat boshqaruv tizimlarini nishonga olgan zararli kod) kompyuterdagi ma'lumotni shunchaki o'g'irlash emas, balki haqiqiy jismoniy uskunalarni ham ishdan chiqarishi mumkinligini ko'rsatdi. Bu kiberhujum real dunyodagi mashinalarga ta'sir qilishi mumkinligini ko'rsatgan burilish nuqtasi edi.
2015-yil: Ukraina elektr tarmog'i xakerlik hujumi
Haqiqiy elektr uzilishi yuz berdi. Elektr tarmog'i xakerlikka uchrasa, bu shunchaki noqulaylikdan oshib, butun jamiyat funksiyalarini izdan chiqarishi mumkinligi aniq bo'ldi.
2021-yil: Colonial Pipeline hodisasi
Ish uchun IT tarmog'iga bo'lgan hujum yoqilg'i ta'minotidagi uzilishga olib keldi. IT va OT, ya'ni ofis kompyuter tarmog'i bilan operatsion uskunalar tarmog'i amalda qanchalik chambarchas bog'langanini ko'rsatgan hodisa edi.
2020-yillar: tiklana olish markazidagi xavfsizlik
Endi faqat 'buzib kirishga yo'l qo'ymaslik'ning o'zi yetarli emas deb qaraladi. Hujum bo'lsa ham qanchalik tez tiklanish va jamiyat funksiyalarini saqlab qolish, ya'ni tiklana olish(resilience) asosiy masalaga aylandi.
Nega aynan asosiy infratuzilma zaif bo'ladi? Elektr tarmog'i, suv va bank zaifliklarini solishtirish
Uchchalasi ham muhim, lekin zaif bo'lish sababi ozgina farq qiladi. Ammo umumiy jihati shuki, 'to'xtatib bo'lmagani uchun o'zgartirish qiyin'.
| Sohalar | Nega avval tilga olinadi | |
|---|---|---|
| Elektr tarmog'i | Elektr uzilsa, sanoat, transport va aloqa tizimigacha zanjirli ta'sir qiladi | |
Nega zaif Sanoat boshqaruv tizimiga qaramlik, eski uskunalar, to'xtovsiz ishlash zarur | ||
| Suv tizimi | Jamoat salomatligi va kundalik yashash bilan bevosita bog'liq | |
| Bank va moliya | To'lov va mablag' harakati izdan chiqsa, iqtisodiy beqarorlik darrov yoyiladi | |
Shunday ekan, nega bunday AI faqat ayrim kompaniyalarga ko'rsatiladi
AI sohasida tarqatish usuli ochiqmi yoki yopiqmi degan faqat ikki turga bo'linmaydi. Xavf darajasiga qarab kirish huquqini qatlam-qatlam bo'lib berishga yaqinroq.
| Bandlar | Ochiq vazn·keng ochiq | |
|---|---|---|
| Afzalliklar | Tadqiqot tekshiruvi, innovatsiya yoyilishi, kirish imkoniyati kengayishi | |
API·tanlangan hamkorlarga cheklangan tarqatish Foydalanishni kuzatish, tezlikni cheklash, akkauntga cheklov qo'yish, yangilanishni aks ettirish oson | ||
| Zaif tomonlar | Bir marta tarqalib ketsa, qaytarib olish va nazorat qilish deyarli imkonsiz | |
| Tarqatish bo'yicha qaror mezoni | Ochiqlik va ekotizim yoyilishini muhim deb biladi | |
| Mitos konteksti | Ommaga ochiq qilinsa, noto'g'ri foydalanish ta'siri juda katta bo'lishi mumkin | |
Hukumat aslida qilishi kerak bo'lgan ish 'AI taqiqi' emas, balki javob berish tezligini isloh qilish
Bunday tahdid kelyapti deb, hammasi bitta qonun bilan tugamaydi. Amalda javob choralarini bir nechta yo'nalishda bir vaqtda ishga tushirish kerak.
1-bosqich: tahdid tasnifini qayta qilish
Mavjud kiber tahdid tizimiga AI xususiyatlarini qo'shish kerak. Modelning o'zi xavfsizligi, o'quv ma'lumotlarini himoya qilish, AI hodisasi haqida hisobot kabi yangi bandlarni alohida boshqarish kerak.
2-bosqich: qonun va xarid mezonlarini tartibga keltirish
Hukumat 'secure by design(boshidan xavfsiz qilib loyihalash)' tamoyilini xarid va tartibga solishga kiritishi kerak. Ishlab chiqish, tarqatish, ishlatish, bekor qilishning butun davriga xavfsizlik talablari kirsa, shunda amaliy samara bo'ladi.
3-bosqich: davlat-xususiy axborot almashish tizimini yangilash
AI zaifliklarni tezroq topsa, korxonalar va hukumat ham hodisa ma'lumoti va alomatlarni tezroq bo'lishishi kerak. Kechikkan ulashish darrov zarar kengayishiga olib kelishi mumkin.
4-bosqich: AI bilan aniqlash va javob tezligini oshirish
Agar hujumchi AI ishlatsa, himoya tomoni ham AI asosidagi tahlil va avtomatik javobni kuchaytirishi kerak. Faqat odam kuchi bilan daqiqadagi tezlik kurashiga yetib borish qiyin bo'lib boryapti.
5-bosqich: diplomatiya va xalqaro hamkorlik
Davlat ishtirokchilari AI ni axborot urushi va kiberhujumlarda ishlatayotgani haqida ogohlantirishlar allaqachon chiqqan. Shuning uchun ittifoqchi davlatlar o'rtasida baholash mezonlari, hodisa ma'lumoti va umumiy qoidalarni moslashtiradigan diplomatiya muhim bo'ladi.
6-bosqich: kadrlar va trening
Oxirida ko'pincha tushib qoladigan narsa odam masalasi bo'ladi. AI xavfsizligi faqat vosita sotib olish bilan tugamaydi. Uni amalda ishlatadigan, tekshiradigan va noto'g'ri qarorlarni kamaytiradigan kadrlar kerak.
Himoya texnologiyasi hujum texnologiyasiga aylanishi aslida birinchi marta bo'layotgani yo'q
Mitos g'alati ko'rinsa ham, katta oqimda qaralsa bu butunlay yangi hikoya emas. Xavfsizlik texnologiyasi aslidan ikki maqsadli(yaxshi va yomon ishlatish xususiyatini birga olib yuradigan) holatda rivojlanib kelgan.
Qadimgi davr~zamonaviy davr: shifr aslida davlat texnologiyasi edi
Kriptografiya shaxsiy messenjer ilovalaridan oldin harbiy·diplomatik sirlarni himoya qilish texnologiyasi sifatida rivojlangan. Demak, boshidan himoya va axborot urushi birga bo'lgan.
20-asrning birinchi yarmi: shifr uskunalari va yechish urushi
Bir xil shifr tizimi bir tomonda qalqon bo'lsa, boshqa tomonda albatta buzilishi kerak bo'lgan nishonga aylangan. Urush davridagi shifr uskunalari raqobati xavfsizlik texnologiyasining ikki tomonini juda aniq ko'rsatadi.
1970-yillar: ochiq kalitli shifrning kengayishi
Xavfsizlik texnologiyasi harbiy sohani oshib, fuqaroviy tarmoqlar va tijorat xizmatlariga yoyildi. Yaxshi foydalanish kattalashgan sari, strategik texnologiya sifatidagi sezgirlik ham birga oshdi.
1990-yillar: kripto urushlari
Kuchli shifrlash fuqarolarni himoya qiladigan vosita bo‘lishi bilan birga, davlat nazoratini qiyinlashtiradigan omil deb ham ko‘rilgan. Bu texnologiya muammosi tezda siyosat va tizim muammosiga aylangan holat edi.
2000-yillar~hozir: red team vositalaridan noto‘g‘ri foydalanish
Cobalt Strike yoki Metasploit kabi vositalar aslida kirib borish testi va mudofaa mashqlari uchun edi. Lekin haqiqiy hujumchilar ham shu vositalardan foydalangan. Mithos bahsi bu usul AI bosqichiga ko‘tarilayotgan holat deb ko‘rish mumkin.
Shuning uchun Mithos shoki bu “AI qo‘rqinchli filmi” emas, balki xavfsizlikda tezlik poygasi boshlanganining belgisi
Qisqacha aytganda, gap shu. Mithos hozirning o‘zida dunyoni yo‘q qiladigan maxluq degani emas. Ochiq ma’lumotlar hali ham cheklangan, va ommaviy axborot vositalari xabarlarida bo‘rttirish aralashgan bo‘lishi ham mumkin. Lekin shuni hisobga olsak ham aniq narsa shuki, zaifliklarni topish va ularni ulash tezligi tezlashayotgan tomonga dunyo harakat qilyapti.
Bu o‘zgarish o‘ylagandan ham ko‘ra hayotimizga yaqin. Elektr uziladi, suv ta’minoti beqaror bo‘ladi, bank tizimi to‘xtaydi, kompaniya yoki shifoxonaning eski tizimlari yangilanishga ulgurmasa, oxirida noqulaylikni fuqarolar ko‘radi. Shuning uchun bu masala “AI sanoati ichidagi yangilik” emas, balki kundalik infratuzilmani saqlash xarajati oshayotgan hikoya hamdir.
Oldinda muhim savol “AIni to‘xtata olamizmi”dan ko‘ra “kim tezroq moslasha oladi”ga yaqin bo‘ladi. Hujumchilar tezlik oladi, himoya qiluvchilar esa tor joylarni kamaytirishi kerak. Mithos shokini aynan shunday boshlanish signali deb o‘qish eng real yondashuv.
Mithos bahsining asl mazmuni AI o‘zidan qo‘rqishdan ko‘ra xakerlikni avtomatlashtirish tezligining oshishidir.
Shuning uchun yechim ham taqiqlashdan ko‘ra tezroq yangilash, ma’lumot almashish, tiklanish qobiliyati va xalqaro hamkorlikka yaqinlashadi.
Koreyada qanday yashashni sizga tushuntirib beramiz
gltr life ga ko‘p mehr bering