AI-тай ашиглах байгууллагын өгөгдлийг бэлтгэх

Хиймэл оюун ухааны шийдлүүд өндөр чанарын өгөгдөл шаарддаг

Anthony Quattrone, PhD 2022 оны 5-р сарын 1

Байгууллагын өгөгдөл нь хүснэгтээс Word баримт, харилцан хамааралтай өгөгдлийн сан, текст файл хүртэлх янз бүрийн форматаар бичигдэж, хадгалагддаг. Байгууллагын өгөгдлийг ашиглах нь тайлан, шинжилгээ хийх бизнесийн оюун ухааны системд ашиглахад тохиромжтой болгохын тулд урьдчилан боловсруулах цуврал алхмуудыг агуулна. AI системүүд нь өндөр түвшний мэргэжлийн чадварыг хангахын тулд маш нарийн мэргэжсэн өгөгдлийн багц шаарддаг.

Хиймэл оюун ухааны системд ашиглах байгууллагын өгөгдлийг бэлтгэх нь AI-д оруулахаас өмнө сургалтын өгөгдлийн багц гаргахын тулд олон нарийн төвөгтэй Extract-Transform-Load (ETL) процесс шаарддаг. Олон байгууллагын зохицуулалтын хүрээ нь өгөгдөл гаргахаас өмнө нууцлалын хууль болон дүрмийг дагаж мөрдөх хэрэгтэйг шаарддаг. Түүнчлэн, өгөгдөл нь аюулгүй хадгалагдаж, ашиглагдахыг баталгаажуулахын тулд өгөгдөл гаргах процесс дууссаны дараа хатуу хадгалах процесс нь дүрмийг дагаж мөрдөх ёстой.

Одоогийн байгууллагын орчинд асар их хэмжээний өгөгдөл байдаг бөгөөд зарим нь ажиллахад хялбар форматаар бүтэцгүй байдаг. Мөн энэ мэдээллийг боловсруулахад техникийн бэрхшээл байдаг. Өгөгдөл статик бус, бодит хугацаанд тогтмол өөрчлөгдөж байгаа тохиолдолд өгөгдөл бэлтгэх нарийн төвөг нэмэгдэж, динамик процесс шаарддаг.

Бид дараагийн хэсгүүдэд өгөгдлийн түлхүү асуудлуудыг авч үзэх болно.

Нийтлэг Байгууллагын Өгөгдлийн Эх Үүсвэрүүд

Өгөгдөл нь олон төрлийн форматаар хадгалагдаж, санхүүгийн өгөгдлөөс орон зайн мэдээлэл хүртэл олон хэмжигдэхүүнийг хамарна. Microsoft Office зэрэг албан өрөөний бүтээмжийн багцууд болон дотоодын зориулалтын эх системүүдэд байгаа өгөгдөл нь хиймэл оюун ухааны системүүдэд шууд ашиглахад сайн тохирохгүй.

Дараах нь танил өгөгдлийн эх сурвалжийн жагсаалт; энэ жагсаалт хэзээ ч бүрэн гүйцэд биш юм:

  • ERP Нягтлан бодох бүртгэлийн системүүдийн санхүүгийн өгөгдөл (Oracle, SAP)
  • GIS системээс орон зайн өгөгдөл (ESRI ArcGIS)
  • Оффисын бүтээмжийн багажуудаас гарсан хүснэгтүүд (Microsoft Excel, Microsoft Access)
  • Эх системийн ард ашиглагддаг өөрчилсөн SQL өгөгдлийн сангууд (Microsoft SQL, MySQL, Oracle, SAP)
  • Хуучин системүүдэд хадгалагдсан энгийн файлын өгөгдлийн сангууд (IBM Mainframes, Indexed files)

Өөр өөр системүүд өгөгдлийг янз бүрийн форматаар хадгалж болно. Өгөгдлийн багцуудыг нэгтгэх шаардлагатай; олон систем байх үед энэ нь бэрхшээл үүсгэдэг. Өгөгдлийн аналитикчдын хувьд мэдээллийг spreadsheet ашиглан гараар оруулах нь элбэг тохиолддог. Одоогийн хандлага нь өгөгдлийг өгөгдлийн нуурт оруулах явдал бөгөөд ингэснээр өгөгдлийн инженерүүд чухал системүүдтэй шууд холбогдохгүйгээр ажиллах боломжтой болно. Иймээс зорилтуудаа хэрэгжүүлэхийн тулд өгөгдлийн хувиргалт шаардлагатай болсон.

Хиймэл оюун ухааны системүүд энэхүү өгөгдлийг маш сайн ашиглаж чадна. Гэхдээ өгөгдөл анх ийм системүүдэд оруулахын тулд тохирох форматаар боловсруулагдсан үед л боломжтой бөгөөд өгөгдлийн нуур болон өгөгдлийн агуулах нь өндөр чанарын өгөгдлийн багц үүсгэхэд чухал үүрэгтэй.

Хиймэл оюун ухаан ба Extract-Transform-Load (ETL) процессуудтай холбоо

Хиймэл оюун ухаан илүү ихээр нэвтэрч байгаа хэдий ч уламжлалт ETL процессууд өөрчлөгдөхгүй байх магадлалтай. Ийм техникүүд нь AI системтэй сайн ажилладаг, сургалтад таатай өгөгдлийн багцуудыг гаргах зорилгоор дахин чиглүүлэгдэх магадлалтай. Жишээ нь, объектын гэрэл зургийг авч, AI систем сурах боломжтой болгохын тулд холбоо үүсгэх замаар шошголжлох юм.

Өгөгдлийн шинжээчид болон өгөгдлийн инженерүүдэд өөрсдийн өгөгдөл бэлтгэх ур чадварыг ашиглан хиймэл оюун ухааны системүүдийн өгөгдлийн багц байгуулах том боломжууд байдаг. ETL процессыг автоматжуулж, бодит хугацааны хиймэл оюун ухааны системээс хамгийн их үр ашиг гаргахын тулд гар аргаар хийгдэх процессээс хамаарахгүй байх нь чухал болно.

Хиймэл оюун ухаанд ашиглах Зөв Эх Сурвалж болж Data Lakes болон Data Warehouses

Түүхий өгөгдөл янз бүрийн системд хадгалагдсан нь хэлтэрхийлэхэд хүргэдэг. Үүнийг даван туулахын тулд бүх өгөгдлийг хүсэлт, өгөгдөл манипуляц хийх боломжтой харилцан хамааралтай өгөгдлийн сан зэрэг нэг байршил руу нэгтгэх нь зүйтэй. Бүх өгөгдөл нэг талбарт хадгалагдсаны дараа үнэтэй мэдээлэл гаргах өгөгдлийн багц бүтээхэд хялбар хандах, ажиллах боломжтой болно. Нэгдмэл үнэний эх сурвалжийг тодорхойлох нь чухал.

Data Warehouses-г баримт эсвэл хэмжүүрийг тодорхойлох хэмжигдэхүүнүүдийг үүсгэхийн тулд Kimball эсвэл Inmon зэрэг стандартуудыг ашиглан тодорхойлж болно. Ерөнхий ойлголтоор баримт нь ангиллын өгөгдөл байдаг бол хэмжүүр нь тоон өгөгдөл байдаг. Ийм стандартуудыг ашиглан өгөгдлийг боловсруулах нь үр ашиг болон нарийвчлалыг хангахад чухал ач холбогдолтой.

Сайн өгөгдлийн агуулахтай болоход орлого оруулсан байгууллагуудын хамгийн чухал давуу тал бол тэр нь байгууллагын өгөгдлийн багцыг бүхэл байгууллагад нээж өгөх явдал юм. Том байгууллагуудын хувьд ажилтнуудын ихэнх нь бизнесийг явуулдаг чухал эх сурвалж системүүдэд хандах эрхгүй байдаг; гэхдээ тэд өгөгдлийн агуулахад ханддаг, ихэвчлэн зөвхөн унших эрхтэй. Өгөгдлийн агуулах нь ажилтнуудад байгууллагын удирдлагын бүтэц ердийн мэдэхгүй байж болох ойлголтуудыг таних боломжийг олгодог.

Өгөгдлийн агуулах үүсгэх нь нууцлал болон зохицуулалтын талаарх тогтоцыг тодорхойлдог. Өгөгдлийн агуулах нь өгөгдөл ажил олгогч талуудын хооронд аюулгүй шилжихийг баталгаажуулахад тусалдаг. Өгөгдлийн сан болон агуулахад хандах нь мөн байгууллагын үйл ажиллагаа хэрхэн явагдаж байгаа талаарх ил тод байдал болон хариуцлагыг сайжруулж, илүү тогтвортой үйл ажиллагааны журмыг бий болгох боломжийг олгодог.

Байгууллагын Том Өгөгдлийн Дүрслэл

Их хэмжээний өгөгдөлийн сорилт нь үүнийг хэрхэн хамгийн сайн харах, түүний ярьж буй түүхийг хэрхэн дамжуулах вэ гэдэгт оршино. Өмнөх аргуудын дотор өгөгдөлийг доод түвшнээс дээд түвшин рүү нэгтгэж, баганан график, шугаман график, тархалтын график зэрэг стандарт графикт харуулах тайлангийн үйлчилгээнүүд багтсан. Эдгээр аргууд нь өдөр тутмын ердийн бизнесийн үйл ажиллагааны нэг хэсэг болох менежментийн тайлан (ө.х. борлуулалтын тайлан, дансны тайлан)-д тохиромжтой. Microsoft SSRS нь байгууллага даяар тайлан бэлтгэхэд хамгийн түгээмэл ашиглагддаг хэрэгсэл юм.

Энэхүү цоорхойг нөхөхийн тулд дэвшилтэт визуалчлалын програмууд гарч ирсэн бөгөөд Tableau болон QlikView зах зээлд ноёрхож байна. Tableau нь гайхалтай визуалчлалд ихээхэн анхаарсан бол QlikView нь Microsoft SSRS болон Tableau зэрэг уламжлалт тайлангийн үйлчилгээтэй тэнцвэржүүлэхийг хичээсэн. Microsoft PowerBI нь зах зээлд ноёрхож байгаа бөгөөд Gartner-ийн үзэж буйгаар илүү нарийн төвөгтэй гэж үздэг. Эдгээр програмууд нь олон чухал үзүүлэлтийг хянахад маш хэрэгтэй хяналтын самбар үүсгэдэг бөгөөд ийм хяналтыг байгууллагын иж бүрэн процессын нэг хэсэг болгон нэгтгэдэг. Стратегийн шийдвэр гаргагчид саяхан өгөгдөлд суурилсан шийдвэр гаргахын тулд маш сайн хяналтын самбар бүтээсэн бол үйл ажиллагааны менежерүүд байгууллагын зорилгодоэ хүрэхийн тулд илүү хурдан хариу үйлдэл үзүүлэх боломжтой болсон.

AI-ийн зуурагдсанаар өгөгдлийн визуалчлал чухал үүрэг гүйцэтгэх болно. Хиймэл Оюун Ухааны системүүдээс гарч буй ойлголтууд нь нарийн төвөгтэй бөгөөд тэдгээрийг хүмүүст ойлгомжтой визуал хэлбэрээр харуулах шаардлагатай. Үүний гайхалтай жишээ нь олон хувьсагчтай өгөгдлийг харахын тулд өөрөө зохион байгуулагдсан газрын зураг (SOM)-ийг танилцуулах юм.

Хиймэл Оюун Ухааны Системд Оруулахын Тулд Өгөгдлийг Нэгтгэх

Өгөгдлийн сангуудад хандах боломжтой болсноор харилцааны өгөгдлийн сангаас өгөгдөл авах боломжтой болж, хиймэл оюун ухааны системд холбогч өгөх боломжтой. Орчин үеийн ихэнх AI системүүд Python дээр бүтээгдсэн бөгөөд оновчтой байдлыг хангахын тулд C/C++ дээр хэрэгжүүлсэн модулиудад тулгуурладаг.

Python нь одоогоор AI-тай холбогдох гол хэрэгсэл болох тул өгөгдөлд хандахын тулд олон төрлийн өгөгдлийн сангуудад зориулсан өгөгдлийн холбогчдын баялаг цуврал байдаг. Түүнчлэн, Python нь өгөгдлийг манипуляц хийхэд маш тохиромжтой бөгөөд NumPy, Pandas зэрэг баялаг санг ашиглан төрөлжсөн AI системд оруулах өгөгдлийг урьдчилан боловсруулахад туслах native функцүүдийг илүү өргөжүүлдэг. Одоогийн фреймворкууд нь хүлээн зөвшөөрөгдсөн өгөгдлийн формат дээр маш нарийн байдаг. Статик төрлийн өгөгдлийн фреймворкууд үүнд тусалж чадна. GPU боловсруулалт нь тодорхой өгөгдлийн төрөл шаарддаг бөгөөд өөрчлөгдөх магадлал бага байдаг. Тиймээс өгөгдлийн төрлийн талаар урьдчилан бодох ёстой.

Нарийн AI салбарт дахь Хиймэл оюун ухааны системүүд нь тодорхой өгөгдлийн шаардлагатай байдаг бөгөөд дурдсан системүүдэд ашиглах өгөгдлийн багц үүсгэх төлөвлөлтийн үе шатанд үүнийг авч үзэх цаг хугацаа зарах нь зүйтэй юм.

Хиймэл Оюун Ухааны Үр Дүнг Барьж Авах, Хадгалах болон Тайлбарлах

Хиймэл оюун ухааны системүүд нь өгөгдсөн оролтын дагуу хадгалах шаардлагатай гаралтыг гаргана. Илүү сэтгэл хөдөлгөм нь, үр дүнг өгөгдлийн нуур/өгөгдлийн агуулах руу буцаан оруулж, ойлголтын процессийг үргэлжлүүлэх боломжтой, учир нь ойлголт нь цаашид илүү ойлголт өгөх боломжтой. Гаралтыг хэрхэн хадгалах менежментийг илүү өргөн хэмжээний өгөгдлийн удирдлагын хүрээнд сайтар төлөвлөх хэрэгтэй.

Хиймэл оюун ухааны системүүд асар их хэмжээний мэдээлэл боловсруулдаг болохоор хүн ихэвчлэн анзаардаггүй байх ёстой эсрэг直觉 ойлголтыг олох боломжтой. Хамгийн том өрсөлдөөний давуу тал бий болдог нь ихэвчлэн эдгээр ойлголтууд байдаг. Иймд байгууллагууд өрсөлдөх чадвараа хадгалахын тулд эдгээр системүүдтэй харилцах өөр сонголтгүй болно.

Хиймэл оюун ухааны үр дүнг тайлбарлахдаа анхааралтай авч үзэх шаардлагатай. Өнөөгийн судалгаатай адил, үүнийг буруу тайлбарлах магадлалтай. Тиймээс өгөгдлийн шинжээчид бүх өгөгдлийн цэгүүдийг хянан шалгаж, AI системүүд ямар шалтгаанаар тодорхой үр дүн гаргасныг буцаан мөшгих ёстой, эсхүл олж мэдсэн зүйл дээр буруу үйлдэл хийх эрсдэлтэй. Дээр дурдсан өгөгдлийн визуализацийн хэрэгслүүдийг AI-ийн боловсруулсан үр дүнд ашиглах боломжтой.

Ирэх хэдэн арван жил рүү шилжихийн хирээр байгууллагууд AI системүүдээс үүсэх мэдээлэлд найдах болно бөгөөд эдгээр системүүдийн суурь болох өгөгдлийг хэрхэн удирдах, хэрэгжүүлэх нь хамгийн чухал ач холбогдолтой болно.

Telemus AI™-г таны байгууллагад нэгтгэх талаар үнэгүй зөвлөгөө авахын тулд өнөөдөр бидэнтэй холбогдоно уу.