Америкийн AI компани Антропикийн хамгийн сүүлийн үеийн “Митос” загварын талаар ихээхэн санаа зовнил гарч байна. Энэ загвар нь аюулгүй байдлын сул талыг олоход маш хүчтэй гэж мэдэгджээ. Хүний тусламжгүйгээр халдлагын замыг хүртэл өөрөө тооцоолж чадна гэсэн тайлбар ч гарсан. Мэдээллийн дагуу энэ AI нь мэргэжилтнүүдийн 27 жилийн турш олж хараагүй үйлдлийн системийн доголдлыг ч илрүүлсэн байна. Зардал нь ойролцоогоор 50 доллар байсан гэжээ. Тиймээс цахилгаан сүлжээ, усан хангамжийн систем, банкны систем зэрэг чухал байгууламжууд халдлагын бай болж болзошгүй гэсэн анхааруулга улам нэмэгдсэн. Антропик ийм эрсдэлийн улмаас Митосыг олон нийтэд ил болгоогүй. Харин Apple, Google зэрэг 40 гаруй газарт л хязгаарлагдмал байдлаар үзүүлж, хамгаалалтын тогтолцоог турших төсөл эхлүүлжээ. Дэлхий даяар түгшиж байгаа энэ үед Солонгосын засгийн газар ч яаралтай хариу арга хэмжээ авч эхэлсэн гэж JTBC мэдээллээ.
원문 보기Митос аймшигтай санагддаг шалтгаан нь "үг" биш, "үйлдэл" юм
Анх сонсоход ингэж бодогдож магадгүй. "AI аюултай" гэдэг яриа өмнө нь ч олон байсан шүү дээ, энэ удаа яг юугаараа өөр юм? Гэхдээ Митосын маргааны гол цөм нь сайн хариулдаг чатбот биш, харин зорилго өгвөл хэд хэдэн хакерын үе шатыг холбоод өөрөө үйлдэл хийдэг агент төрлийн AI гэдэгт байгаа юм.
Ердийн ярианы AI нь асуулт аваад текст бичиж өгөх, эсвэл код тайлбарлахдаа сайн. Харин Митосын тухай мэдээ, тайлбар материалуудад эмзэг байдал илрүүлэх (системийн сул газрыг олох), халдлагын замыг таамаглах (хаагуур орж яаж тархахыг тооцоолох), бүтэлгүйтвэл тойруу зам сонгох зэрэг чадварыг онцолж байна. Энгийнээр хэлбэл, энэ нь "хүний хакерын тэмдэглэлийн дэвтэр" биш, харин "дараагийн нүүдлээ үргэлж сонгодог шатарчин" шиг харагдаж байна гэсэн үг.
Тиймээс “кибер террорын зэвсэг” гэсэн хүртэл хүчтэй үг гарч байгаа юм. Аюултай шалтгаан нь AI гэнэт чөтгөр болсон учраас биш, харин анхнаасаа хэцүү, үнэтэй, их цаг ордог байсан хакердах үйл явцыг илүү хямд, хурдан хүчтэй явуулж чаддаг болсонд байгаа юм. Энэ өөрчлөлтийг аймшгийн кино шиг түүх гэж үзэхээс илүү, аюулгүй байдлын хурдны ялгаа гэнэт маш их болсон түүх гэж харах нь илүү зөв юм.
Митосын талаарх санаа зовнилын мөн чанар нь "AI ухаантай" гэдэгт биш, харин "өөрөө үе шатаа үргэлжлүүлэн сонгодог" гэдэгт байна.
Өөрөөр хэлбэл, эрсдэлийн шинж нь "хортой хариулт"-аас "жинхэнэ халдлагыг автоматжуулах" руу шилжих мөч яригдаж байна.
Ердийн чатбот ба Митосыг зэрэг тавибал юу өөр вэ
| Ангилал | Ердийн чатбот | Митос шиг өөрөө ажилладаг хакер AI |
|---|---|---|
| Гол зорилго | Асуултад хариулах, хураангуйлах, бичвэр бичих, кодын тусламж | Эмзэг байдал илрүүлэх, халдлагын зам тооцоолох, халдлагын явцыг автоматжуулах |
| Ажиллах арга | Хэрэглэгчийн оролтод хариу өгдөг хариу үйлдэлтэй төрөл | Зорилго өгвөл хэд хэдэн алхмыг холбоод явдаг агент төрөл |
| Алдаа гарсан үед авах арга хэмжээ | Дахин асуувал дахин хариулна | Гацвал өөр зам хайж, дараагийн үйлдлээ засаж чадна |
| Гол эрсдэл | Хортой мэдээлэл үүсгэх, буруу хариулт өгөх | Бодит систем рүү халдах хурд өсөх, нэвтрэх босго буурах |
| Түгээх арга | Олон нийтэд зориулсан үйлчилгээ их байдаг | Хязгаартай нээлттэй, сонгосон түншүүдийн туршилтад төвлөрдөг |
'Халдлагын замыг өөрөө олдог' гэдэг үг, хакерын ертөнцөд ингэж явдаг
Хакердах ажил ихэнхдээ нэг удаад дуусдаггүй. Энэ нь олон хаалгыг дарааллаар нь нээх үйл явц байдаг, харин автономит AI нь тэр дарааллыг өөрөө зохиох талдаа илүү ойр байдаг.
1-р үе шат: Тандах
Эхлээд системийн мэдээлэл цуглуулна. Ямар үйлдлийн систем ашиглаж байгаа, ямар үйлчилгээ нээлттэй байгаа, аль нь хуучин төхөөрөмж вэ гэдгийг шалгана гэсэн үг. Үүнийг хүн хакер газрын зургаа дэлгэдэг үе шат гэж ойлговол амархан.
2-р үе шат: Орчны загварчлал
Цуглуулсан мэдээлэл дээр үндэслээд 'Энд ямар сул тал байж болох вэ' гэсэн таамаг дэвшүүлнэ. Энд халдлагын график (боломжтой нэвтрэх замыг зурсан газрын зураг) шиг ойлголт орж ирдэг.
3-р үе шат: Боломжтой замууд үүсгэх
Зөвхөн нэг эмзэг байдлыг харах биш, эхний нэвтрэлтийн дараа эрх нэмэгдүүлэх, нэвтрэх мэдээлэл хулгайлах, дотоод сүлжээгээр шилжих хүртэл үргэлжлэх олон замыг гаргаж үзнэ. Хакердалтад үнэхээр аюултай зүйл нь энэ 'холболт' байдаг.
4-р үе шат: Дараагийн үйлдлийг сонгох
Хамгийн амжилттай байх магадлал өндөр дараагийн нүүдлийг сонгоно. Өмнөх автоматжуулалтын хэрэгсэл нь 'тогтоосон товч ажиллуулах'-тай ойр байсан бол, автономит агент нь 'нөхцөл байдлыг хараад дараагийн товчийг сонгох' хүртэл явахыг зорьдог.
5-р үе шат: Амжилтгүй бол тойрох
Нэг зам хаагдлаа гээд дуусахгүй, өөр замыг дахин тооцоолж чадна. Тиймээс эрсдэл нь ганц эмзэг байдлаас илүү дотоод тархалт дээр илүү томордог гэж ярьдаг.
6-р үе шат: Зорилгод хүрэх
Сүүлд нь өгөгдөл хулгайлах, үйлчилгээг саатуулах, хяналтыг гартаа авах зэрэг зорилго руу явна. Өөрөөр хэлбэл үүнийг зүгээр нэг 'хэрэгсэл' гэхээсээ илүү 'хэсэгчлэн өөрөө хөдөлдөг халдлага гүйцэтгэгч' шиг ойлгодог.
Эмзэг байдал асгарч байхад, хамгаалалтын баг яагаад улам бүр амьсгаа давчдах вэ
Доорх тоонууд нь 'илрүүлэх хурд' ба 'шинжлэх·арга хэмжээ авах хурд' хэр их зөрж байгааг харуулж байна. Тоо их байх тусам үйл ажиллагааны ачаалал ихэснэ гэж ойлгож болно.
Халдагчид нэг л газрыг олоход болно, харин хамгаалагчид бүгдийг хамгаалах ёстой
| Ангилал | Халдагч талын өөрчлөлт | Хамгаалагч талын ачаалал |
|---|---|---|
| Эмзэг байдал илрүүлэх | AI-гаар удаан нуугдсан сул талыг ч илүү хямд, хурдан олж чадна | Юу нь үнэхээр аюултайг ангилах жагсаалт огцом өснө |
| Амжилтын нөхцөл | Нэг л газрыг нэвтэлбэл дараагийн шат руу явж чадна | Нийт хөрөнгийг байнга шалгаж, тэргүүлэх дараалал тогтоох хэрэгтэй |
| Нөхөөс хийх хурд | Халдагчид нөхөөсөөс өмнө түрүүлж хөдөлбөл болно | Хамгаалагчид засвар, түгээлт, баталгаажуулалт хүртэл дуусгах ёстой |
| Эмзэг бай | Хуучин төхөөрөмж, OT, суурилуулсан систем, нөхөөс хийх боломжгүй төхөөрөмжийг онилоход амархан | Зогсоож болдоггүй системд солих болон аюулгүй байдлын нөхөөс хийх нь ялангуяа хэцүү |
| Үр дүн | Нэвтрэх босго буурна | Аюулгүй байдлын ажиллагаа 'илрүүлэх'-ээс 'шийдвэрлэх саатал' асуудал руу шилжинэ |
Цахилгааны сүлжээ, ус, банк яагаад үргэлж түрүүнд яригддаг нь учиртай
Эдгээр салбар аймшигтай санагддаг нь зөвхөн кино шиг төсөөллөөс болоогүй. Бодит түүхэн үйл явдлууд 'дижитал халдлага нийгмийн үйл ажиллагааг зогсоож чадна' гэдгийг дахин дахин харуулсан юм.
1960-аад он: SCADA тархалт
Цахилгаан, ус, хий шиг өргөн байгууламжийг алсаас хянаж, удирддаг SCADA(аж үйлдвэрийн байгууламжийг алсаас удирдах систем) өргөн тархсан. Тэр үеийн загварын үзэл нь аюулгүй байдлаас илүү тогтвортой ажиллагаа, үр ашигт ойр байсан.
1996 он: чухал дэд бүтцийн ойлголтыг журамчилсан нь
АНУ-ын захиргааны EO 13010 тушаал нь цахилгаан, санхүү, ус, тээвэр зэргийг улс хамгаалах ёстой гол дэд бүтэц гэж нэгтгэсэн. Яагаад энэ салбарууд үргэлж түрүүнд яригддагийг бодлогын түвшинд харуулсан эхлэл юм.
2010 он: Стакснетийн цочрол
Stuxnet(аж үйлдвэрийн удирдлагын системийг онилсон хорт код) нь компьютер доторх мэдээлэл л хулгайлах биш, бодит физик байгууламжийг эвдэж чадна гэдгийг харуулсан. Кибер халдлага бодит ертөнцийн машиныг хөндөж чаддагийг харуулсан эргэлтийн цэг байсан.
2015 он: Украйны цахилгааны сүлжээний хакер халдлага
Бодит цахилгаан тасалдал болсон. Цахилгааны сүлжээ хакердуулбал зүгээр нэг тавгүйтэл биш, нийгмийн бүхэл үйл ажиллагаа ганхаж болдгийг тод харуулсан.
2021 он: Колониал пайплайн хэрэг
Ажлын IT сүлжээний халдлага түлшний нийлүүлэлтийн саатал руу хүргэсэн. IT ба OT, өөрөөр хэлбэл оффисын компьютерийн сүлжээ болон ажиллагааны байгууламжийн сүлжээ нь ажиллагааны хувьд хэр зэрэг нягт холбоотойг харуулсан хэрэг байсан.
2020-аад он: сэргээн босгох чадварт төвлөрсөн аюулгүй байдал
Одоо бол зөвхөн 'нэвтэрч чадахгүй болгох' нь хангалтгүй гэж үздэг. Халдлага авсан ч хэр хурдан сэргээж, нийгмийн үйл ажиллагааг хадгалах вэ, өөрөөр хэлбэл сэргээн босгох чадвар(resilience) нь гол болсон.
Тэгвэл яагаад дэд бүтэц сул байдаг вэ? Цахилгааны сүлжээ, ус, банкны эмзэг байдлын харьцуулалт
| Салбар | Яагаад түрүүнд яригддаг вэ | Яагаад эмзэг вэ |
|---|---|---|
| Цахилгааны сүлжээ | Цахилгаан тасарвал үйлдвэр, тээвэр, холбоо хүртэл дараалсан цохилт өгнө | Аж үйлдвэрийн удирдлагын системээс хамааралтай, хуучин төхөөрөмжтэй, тасралтгүй ажиллагаа хэрэгтэй |
| Усны систем | Нийгмийн эрүүл мэнд болон өдөр тутмын амьд үлдэхтэй шууд холбоотой | Алсын удирдлагын төхөөрөмж, талбайн төхөөрөмжийн хуучрал, солих ба шалгахын хүндрэл |
| Банк, санхүү | Төлбөр ба мөнгөний шилжилт ганхвал эдийн засгийн тогтворгүй байдал шууд тархана | Хуучин тооцооллын сүлжээ болон хамгийн сүүлийн үеийн үйлчилгээ холилдсон, харилцан холболт өндөр |
Тэгэхээр ийм AI-г яагаад зөвхөн зарим компанид л үзүүлдэг вэ
| Зүйл | нээлттэй жин·өргөн нээлттэй | API·сонгосон түншүүдэд хязгаартай түгээх |
|---|---|---|
| Давуу тал | судалгааны баталгаажуулалт, инновацын тархалт, хүртээмжийн өргөтгөл | ашиглалтын мөрдөх, хурдны хязгаар, бүртгэлийн арга хэмжээ, шинэчлэл тусгах нь амар |
| Сул тал | нэг удаа суллагдвал буцаан татах, хянах нь бараг боломжгүй | компанийн эрх мэдэл төвлөрөх, шалгуур нь ил тод биш байх боломжтой |
| Түгээх шийдвэрийн шалгуур | нээлттэй байдал болон экосистемийн тархалтыг чухалчлах | кибер буруугаар ашиглах, бие даасан үйлдэл, аюулгүй хамгаалалтыг тойрох зэрэг эрсдэлийн үнэлгээг илүү чухалчлах |
| Митосын нөхцөл байдал | олон нийтэд нээлттэй болгвол буруу ашиглалтын нөлөө хэт том байж болно | сонгосон компаниудтай туршиж, хамгаалалтын тогтолцоог түрүүнд шалгах гэсэн хандлага |
Засгийн газар үнэхээр хийх ёстой зүйл нь 'AI хориглох' биш, харин хариу өгөх хурдны шинэчлэл
Ийм аюул ирлээ гээд нэг хуулиар дуусахгүй шүү. Бодит хариу арга хэмжээ нь хэд хэдэн чиглэлийг зэрэг хөдөлгөх хэрэгтэй.
1-р шат: аюулын ангиллыг дахин хийх
Одоогийн кибер аюулын хүрээн дээр AI-ийн онцлогийг нэмэх хэрэгтэй. Загварын өөрийнх нь аюулгүй байдал, сургалтын өгөгдлийн хамгаалалт, AI ослын тайлан зэрэг шинэ зүйлсийг тусад нь удирдах шаардлагатай байдаг.
2-р шат: хууль ба худалдан авалтын шалгуурыг цэгцлэх
Засгийн газар 'secure by design(эхнээс нь аюулгүйгээр төлөвлөх)' зарчмыг худалдан авалт болон зохицуулалтад оруулах хэрэгтэй. Хөгжүүлэлт, түгээлт, ажиллагаа, устгалын бүх мөчлөгт аюулгүй байдлын шаардлага орж байж бодит үр дүн гарна.
3-р шат: төр-хувийн хэвшлийн мэдээлэл хуваалцах тогтолцоог шинэчлэх
AI эмзэг байдлыг илүү хурдан олдог бол компаниуд ба засгийн газар ч бас ослын мэдээлэл, шинж тэмдгийг илүү хурдан хуваалцах хэрэгтэй. Оройтсон хуваалцах нь шууд хохирол тархахад хүргэж болно.
4-р шат: AI-аар илрүүлэлт ба хариу өгөх хурдыг нэмэх
Халдагч AI ашиглаж байвал хамгаалалтын тал ч AI-д суурилсан шинжилгээ болон автомат хариу арга хэмжээг хүчтэй болгох хэрэгтэй. Зөвхөн хүний хүчээр минутын түвшний хурдны өрсөлдөөнийг дагахад улам хэцүү болж байна.
5-р шат: дипломат ажиллагаа ба олон улсын хамтын ажиллагаа
Улсын түвшний оролцогчид AI-ийг мэдээллийн дайн болон кибер халдлагад ашиглаж байна гэсэн анхааруулга аль хэдийн гарсан. Тиймээс холбоотон орнууд үнэлгээний шалгуур, ослын мэдээлэл, нийтлэг дүрмийг тааруулах дипломат ажиллагаа чухал болж байна.
6-р шат: хүний нөөц ба сургалт
Эцэст нь байнга орхигддог зүйл нь хүний асуудал шүү. AI аюулгүй байдал нь зүгээр хэрэгсэл аваад дуусахгүй. Үнэхээр ажиллуулж, шалгаж, буруу дүгнэлтийг багасгах хүн хүч хэрэгтэй байдаг.
Хамгаалалтын технологи довтлох технологи болж эргэх нь, үнэндээ анх удаа болж байгаа зүйл биш
Митос танил биш харагдаж болох ч, том урсгалаар нь харвал энэ бүрэн шинэ түүх биш. Аюулгүй байдлын технологи угаасаа хоёрдмол хэрэглээтэй(сайн хэрэглээ ба муу хэрэглээг хамт агуулсан шинж) байж хөгжиж ирсэн.
Эртний үе~орчин үеийн эхэн: шифр нь угаасаа улсын технологи байсан
Криптографи нь хувийн мессенжер апп-аас өмнө цэрэг·дипломатын нууцыг хамгаалах технологи болж хөгжсөн. Өөрөөр хэлбэл эхнээсээ хамгаалалт ба мэдээллийн дайн хамт байсан гэсэн үг.
20-р зууны эхэн хагас: шифрийн төхөөрөмж ба тайлалын дайн
Ижил шифрийн тогтолцоо нэг талд нь бамбай, нөгөө талд нь заавал эвдэх ёстой бай болсон. Дайны үеийн шифрийн төхөөрөмжийн өрсөлдөөн нь аюулгүй байдлын технологийн хоёр талыг маш тод харуулдаг.
1970-аад он: нийтийн түлхүүрт шифрийн тэлэлт
Аюулгүй байдлын технологи цэргийн хүрээнээс давж, иргэний сүлжээ болон худалдааны үйлчилгээнд тархсан. Сайн хэрэглээ нь томрох тусам стратегийн технологи гэдэг мэдрэг чанар нь ч хамт өссөн.
1990-аад он: крипто дайн
Хүчтэй шифрлэлт нь иргэдийг хамгаалах хэрэгсэл мөртлөө, нэгэн зэрэг улсын хяналтыг хүндрүүлдэг зүйл гэж үздэг байсан. Технологийн асуудал шууд улс төр, тогтолцооны асуудал болж өргөжсөн жишээ юм.
2000-аад он~одоо: улаан багийн хэрэгслийн буруу ашиглалт
Cobalt Strike, Metasploit зэрэг хэрэгсэл нь анх нэвтрэлтийн тест болон хамгаалалтын сургуулилтад зориулсан байсан. Гэхдээ бодит халдагчид ч мөн адил тэр хэрэгслүүдийг ашигласан. Митосын маргаан нь энэ хэв маяг AI шат руу гарч ирж байгаа дүр зураг гэж харж болно.
Тиймээс Митосын цочрол нь 'AI аймшгийн кино' биш, харин аюулгүй байдлын хурдны өрсөлдөөн эхэлснийг харуулсан дохио
Товчоор хэлбэл ийм юм. Митос яг одоо дэлхийг сүйрүүлэх мангас гэсэн үг биш. Нийтэд ил болсон мэдээлэл одоогоор хязгаарлагдмал, хэвлэлийн мэдээнд хэтрүүлэг холилдсон байх боломж ч бий. Гэхдээ үүнийг тооцсон ч тодорхой нэг зүйл байна. Тэр нь эмзэг талыг олж, хооронд нь холбох хурд улам нэмэгдэж байгаа чиглэл рүү дэлхий хөдөлж байна гэсэн явдал юм.
Энэ өөрчлөлт бидний амьдралд бодсоноос илүү ойр хүрч байна. Цахилгаан тасарч, усны хангамж доголдож, банкны цахим систем зогсож, компани эсвэл эмнэлгийн хуучин систем нөхөөсөө гүйцэж хийж чадахгүй бол эцэст нь тухгүй байдал амсах хүн нь иргэд шүү дээ. Тиймээс энэ асуудал нь 'AI салбарын дотоод мэдээ' биш, харин өдөр тутмын дэд бүтцийг хэвийн байлгах зардал өсөж байгаа тухай түүх юм.
Цаашид чухал асуулт нь 'AI-г зогсоож чадах уу' гэдгээс илүү 'хэн илүү хурдан дасан зохицох вэ' гэдэгт ойр байх болно. Халдагч тал хурд олж авч, хамгаалагч тал саадыг багасгах ёстой. Митосын цочролыг яг тэр эхлэх дохио шиг унших нь хамгийн бодитой юм.
Митосын маргааны гол мөн чанар нь AI өөрийнх нь айдсаас илүү хакердлагын автоматжуулалтын хурд өсөж байгаа явдал юм.
Тиймээс шийдэл нь хориглохоос илүү хурдан нөхөөс, мэдээлэл хуваалцах, сэргээн тэсвэрлэх чадвар, олон улсын хамтын ажиллагаанд ойртож байна.
Солонгост хэрхэн амьдрахыг бид танд зааж өгье
gltr life-д маш их хайрлаарай