Կազմակերպչական տվյալների պատրաստում AI-ի հետ օգտագործման համար

Արհեստական բանականության լուծումները պահանջում են բարձրորակ տվյալներ

Էնթոնի Քվատրոնե, PhD 1 մայիսի, 2022

Կազմակերպության տվյալները հավաքվում և պահվում են տարբեր ձևաչափերով՝ աղյուրակներից մինչև տեքստային փաստաթղթեր, ռելյացիոն տվյալների բազաներ և տեքստային ֆայլեր: Կազմակերպության տվյալների օգտագործումը ներառում է նախնական մշակման մի շարք քայլեր՝ դրանք բիզնեսի վերլուծության համակարգերում հաշվետվությունների և վերլուծության նպատակով օգտագործելու համար պիտանի դարձնելու համար: AI համակարգերին անհրաժեշտ են խիստ մասնագիտացված տվյալների հավաքածուներ՝ ուսուցման համար՝ բարձր մասնագիտացման աստիճան ապահովելու նպատակով:

Կազմակերպության տվյալների պատրաստումը արհեստական բանականության համակարգերում օգտագործելու նպատակով պահանջում է բազմաթիվ բարդ Կորզել-Վերափոխել-Բեռնել (ETL) գործընթացներ՝ ուսուցման տվյալների բազա ստեղծելու համար՝ նախքան AI-ի մեջ մուտքագրելը: Շատ կազմակերպությունների կարգավորող շրջանակը ենթադրում է, որ կորզման իրականացումից առաջ անհրաժեշտ է հետևել գաղտնիության մասին օրենքներին և կանոնակարգերին: Ավելին, խիստ պահպանման գործընթացները պետք է համապատասխանեն կանոններին՝ կորզումն ավարտելուց հետո՝ ապահովելու համար, որ տվյալները պահվեն և օգտագործվեն անվտանգ:

Ընթացիկ կազմակերպչական միջավայրում կան հսկայական քանակությամբ տվյալներ, որոնցից որոշները չկառուցվածքավորված են հեշտ աշխատելու ձևաչափով: Կա նաև տեխնիկական մարտահրավեր այս տեղեկատվության մշակման հարցում: Տվյալների պատրաստման բարդությունն ավելանում է, երբ տվյալները ստատիկ չեն և մշտապես փոխվում են իրական ժամանակում, ինչը պահանջում է դինամիկ գործընթացներ:

Մենք կուսումնասիրենք հիմնական տվյալների վերաբերյալ դասակարգումները հետևյալ բաժիններում:

Կազմակերպության Ընդհանուր Տվյալների Աղբյուրներ

Տվյալները պահվում են տարբեր ձևաչափերով և ընդգրկում են բազմաթիվ չափումներ՝ ֆինանսական տվյալներից մինչև տարածական տեղեկատվություն: Գրասենյակային արտադրողականության փաթեթներում (ինչպիսիք են Microsoft Office-ը) և ներքին նպատակահարմար աղբյուր համակարգերում գրանցված տվյալները լավ չեն հարմարվում արհեստական բանականության համակարգերում անմիջապես օգտագործելու համար:

Ստորև թվարկված են ծանոթ տվյալների աղբյուրները. այս ցանկը բնավ էլ սպառիչ չէ:

  • ERP հաշվապահական համակարգերի ֆինանսական տվյալներ (Oracle, SAP)
  • Տարածական տվյալներ GIS համակարգերից (ESRI ArcGIS)
  • Աղյուսակներ գրասենյակային արտադրողականության գործիքներից (Microsoft Excel, Microsoft Access)
  • Սովորական SQL տվյալների բազաներ, որոնք օգտագործվում են աղբյուր համակարգերի հետևում (Microsoft SQL, MySQL, Oracle, SAP)
  • Հարթ ֆայլ տվյալների բազաներ, որոնք գրանցված են հնացած համակարգերում (IBM մեյնֆրեյմներ, ինդեքսավորված ֆայլեր)

Տարբեր համակարգեր կարող են տվյալները պահել տարբեր ձևաչափերով: Տվյալների հավաքածուները պահանջում են միացում. սա մարտահրավերներ է ստեղծում, երբ կան բազմաթիվ համակարգեր: Տվյալների վերլուծաբանների համար սովորական է տեղեկատվությունը ձեռքով մուտքագրել էլեկտրոնային աղյուսակների միջոցով: Ընթացիկ միտումն է տվյալները մուտքագրել տվյալների լճակի մեջ, որպեսզի տվյալների ինժեներները կարողանան դրանցով աշխատել՝ առանց անմիջապես կրիտիկական համակարգերի հետ կապ հաստատելու: Այսպիսով, նպատակներին հասնելու համար անհրաժեշտ էին տվյալների փոխակերպումներ:

Արհեստական բանականության համակարգերը կարող են մեծապես օգտագործել այս տվյալները։ Սակայն, միայն այն դեպքում, երբ այն նախապես մշակվում է համապատասխան ձևաչափով՝ նման համակարգեր մուտքագրելու համար, տվյալների լճերը և տվյալների պահոցները կենսական նշանակություն ունեն բարձրորակ տվյալների հավաքածուներ արտադրելու գործում։

Արհեստական բանականությունը և դրա կապը Extract-Transform-Load (ETL) գործընթացների հետ

Ավանդական ETL գործընթացները, հավանաբար, չեն փոխվի, քանի որ արհեստական ինտելեկտն ավելի է տարածվում: Ավելի հավանական է, որ նման մեթոդները վերաուղղվեն՝ ստեղծելու տվյալների հավաքածուներ, որոնք նպաստում են սովորելուն և լավ են համապատասխանում AI համակարգերին: Օրինակ՝ օբյեկտների լուսանկարներ անելն ու դրանք պիտակավորելն է կապակցությամբ՝ թույլ տալու AI համակարգերին սովորել:

Տվյալների գիտնականների և տվյալների ինժեներների համար կան հիանալի հնարավորություններ՝ օգտագործելու իրենց տվյալների պատրաստման հմտությունները՝ արհեստական բանականության համակարգերի համար տվյալների բազաներ կառուցելու նպատակով: Կարևոր կլինի, որ ETL գործընթացները ավտոմատացված լինեն և չհիմնվեն ձեռքով կատարվող գործընթացների վրա՝ իրական ժամանակում աշխատող արհեստական բանականության համակարգերից առավելագույն արդյունավետություն ստանալու համար:

Տվյալների լճեր և տվյալների պահոցներ՝ որպես միասնական ճշմարտության աղբյուր արհեստական բանականության մեջ օգտագործելու համար

Տարբեր համակարգերում պահվող հում տվյալները հանգեցնում են մասնատման: Դա հաղթահարելու համար ցանկալի է բոլոր տվյալները փոխանցել մեկ վայր, ինչպիսին է ռելյացիոն տվյալների բազան, որը թույլ է տալիս կատարել հարցումներ և տվյալների մանիպուլյացիա: Հենց բոլոր տվյալները պահվեն մեկ վայրում, դրանք ավելի հեշտ կլինի մուտք գործել և օգտագործել՝ արժեքավոր տեղեկատվություն տվող տվյալների հավաքածուներ ստեղծելու համար: Կարևոր է սահմանել մեկ հուսալի աղբյուր:

Տվյալների պահոցները կարող են այնուհետև սահմանվել այնպիսի ստանդարտների միջոցով, ինչպիսիք են Kimball-ը կամ Inmon-ը՝ ստեղծելու համար չափումներ՝ փաստերը կամ ցուցանիշները սահմանելու համար: Փաստը սովորաբար կատեգորիալ տվյալ է, մինչդեռ ցուցանիշը սովորաբար թվային տվյալ է ընդհանուր ըմբռնմամբ: Նման ստանդարտներով տվյալների մշակումը զգալի առավելություններ է ապահովում արդյունավետության և ճշգրտության երաշխավորման գործում:

Գուցե ամենակարևոր առավելությունը այն կազմակերպությունների համար, որոնք ներդրումներ են կատարել լավ տվյալների պահոց ունենալու համար, այն է, որ այն բացում է կազմակերպության տվյալների հավաքածուն ավելի լայն կազմակերպության համար: Խոշոր կազմակերպությունների դեպքում աշխատակիցների մեծ մասը չունի հասանելիություն բիզնեսը կառավարող կրիտիկական աղբյուր համակարգերին. սակայն նրանք ունեն հասանելիություն տվյալների պահոցին, սովորաբար՝ միայն ընթերցման ռեժիմով: Տվյալների պահոցները թույլ են տալիս աշխատակիցներին բացահայտել այնպիսի պատկերացումներ, որոնք կազմակերպության կառավարման կառուցվածքը հաճախ չի իմանում:

Տվյալների պահոցների ստեղծումը երաշխավորում է, որ սահմանվում են գաղտնիության և կարգավորող նկատառումները: Տվյալների պահոցները օգնում են ապահովել, որ տվյալները անվտանգ կերպով փոխանցվեն շահառուների միջև: Տվյալների լճերի և պահոցների հասանելիությունը նաև կարող է բարելավել այն բանի թափանցիկությունն ու հաշվետուությունը, թե ինչպես են իրականացվում կազմակերպչական գործառույթները՝ հնարավորություն տալով ունենալ ավելի կայուն գործառնական ընթացակարգեր:

Կազմակերպական Մեծ Տվյալների Վիզուալիզացիա

Մեծ տվյալների հետ կապված մարտահրավերներից մեկն այն է, թե ինչպես լավագույնս դիտել դրանք և փոխանցել այն պատմությունը, որը դրանք պատմում են: Վաղ մոտեցումները ներառում էին հաշվետու ծառայություններ, որոնք տվյալները հավաքագրում էին ստորինից դեպի վերին մակարդակ՝ ցուցադրելու համար ստանդարտ գծապատկերներում, ինչպիսիք են սյունակային գծապատկերները, գծային գծապատկերները և ցրման գծապատկերները: Այս մոտեցումները հարմար են կառավարման հաշվետու զեկույցների (այսինքն՝ վաճառքի զեկույցներ, հաշվի զեկույցներ) համար, որոնք մաս են կազմում ամեօրյա սովորական գործառնական գործընթացների: Microsoft SSRS-ը ամենատարածված գործիքն է, որն օգտագործվում է ձեռնարկության մակարդակով հաշվետուությունների համար:

Այս բացը լրացնելու համար ստեղծվել են ընդլայնված վիզուալիզացիայի ծրագրեր, որոնցից շուկայում գերակշռում են Tableau-ն և QlikView-ը: Tableau-ն մեծ ուշադրություն էր դարձնում գեղեցիկ վիզուալիզացիաներին, մինչդեռ QlikView-ը կարողացավ հավասարակշռել ավանդական հաշվետու ծառայությունները, ինչպիսիք են Microsoft SSRS-ը և Tableau-ն: Microsoft PowerBI-ը գերակշռում է շուկայում և Gartner-ի կողմից համարվում է ավելի բարդ: Այս ծրագրերը ստեղծում են վահանակներ, որոնք անհավանականորեն օգտակար են բազմաթիվ հիմնական ցուցանիշների վերահսկման և նման վերահսկման համապարփակ կազմակերպչական գործընթացների մաս դարձնելու համար: Ռազմավարական որոշումներ կայացնողները վերջերս ստեղծել են հիանալի վահանակներ՝ տվյալների վրա հիմնված որոշումներ կայացնելու համար, մինչդեռ գործառնական կառավարիչները կարող են ավելի արագ արձագանքել՝ կորպորատիվ նպատակներին հասնելու համար:

AI-ի ի հայտ գալու հետ միասին վիզուալիզացիան կունենա կենսական դեր: Արհեստական բանականության համակարգերի կողմից ստեղծվող պատկերացումները բարդ են և պետք է հաղորդակցվեն վիզուալ ներկայացման միջոցով, որը մարդիկ կարողանան հեշտությամբ հասկանալ: Դրա գերազանց օրինակ է ինքնակազմակերպվող քարտեզի (SOM) ներկայացումը՝ բազմափոփոխական տվյալները դիտելու համար:

Տվյալների միավորում՝ Արհեստական Բանականության Համակարգեր Մուտքագրելու Համար

Տրված լինելով հասանելիություն տվյալների բազաներին, այնուհետև հնարավոր է տվյալներ վերցնել ռելյացիոն տվյալների բազայից և ապահովել կապակցիչ արհեստական բանականության համակարգի համար: Ժամանակակից AI համակարգերի մեծ մասը կառուցված են Python-ի միջոցով և հիմնված են սովորաբար C/C++-ով իրականացված մոդուլների վրա՝ ապահովելու արդյունավետությունը:

Քանի որ Python-ը ներկայումս AI-ի հետ փոխազդելու հիմնական գործիքն է, հասանելի է տվյալների կապի հարուստ շարք՝ բազմաթիվ տարբեր տեսակի տվյալների բազաների հասանելիության համար: Բացի այդ, Python-ը լավ հարմարվում է տվյալների մանիպուլյացիաներին և ընդլայնում է բնական ֆունկցիոնալությունը այնպիսի հարուստ գրադարաններով, ինչպիսիք են NumPy-ը և Pandas-ը՝ օգնելու նախապես մշակել կոնկրետ AI համակարգերի մեջ մուտքագրվող տվյալները: Ներկայիս շրջանակները խիստ պահանջներ ունեն ընդունելի տվյալների ձևաչափերի վերաբերյալ: Ստատիկ տիպավորված տվյալների շրջանակները կարող են օգնել այս հարցում: GPU մշակումը պահանջում է կոնկրետ տվյալների տիպեր, որոնք քիչ հավանական է, որ փոխվեն: Այսպիսով, տվյալների տիպերի վերաբերյալ նախապես պետք է հաշվի առնել համապատասխան դասավորություններ:

Նեղ AI ոլորտի արհեստական բանականության համակարգերն ունեն հատուկ տվյալների պահանջներ, և արժե ժամանակ հատկացնել դա հաշվի առնելու նշված համակարգերում օգտագործելու համար տվյալների հավաքածուների ստեղծման պլանավորման փուլում։

Արհեստական բանականության արդյունքների գրանցում, պահպանում և մեկնաբանում

Արհեստական բանականության համակարգերը՝ տրված մուտքային տվյալներով, հետևաբար կարտադրեն արդյունքներ, որոնք անհրաժեշտ կլինի պահպանել։ Ավելի հուզիչ է, որ արդյունքները կարող են հետ մուտքագրվել տվյալների լճեր/տվյալների պահոցներ և շարունակել պատկերացումներ մատուցելու գործընթացը, քանի որ պատկերացումները կարող են հանգեցնել հետագա պատկերացումների։ Արդյունքների պահպանման կառավարումը պետք է ուշադիր դիտարկվի ավելի լայն տվյալների կառավարման շրջանակներում։

Հաշվի առնելով, որ արհեստական բանականության համակարգերը մշակում են հսկայական քանակությամբ տեղեկատվություն, հավանական է գտնել հակաինտուիտիվ պատկերացումներ, որոնք մարդը սովորաբար բաց է թողնում: Սովորաբար հենց այս պատկերացումներն են ապահովում ամենանշանակալի մրցակցային առավելությունը: Այսպիսով, կազմակերպությունները այլ ընտրություն չեն ունենա, քան ներգրավվել այս համակարգերի հետ՝ որպես մրցունակ մնալու միջոց:

Արհեստական բանականության արդյունքների մեկնաբանումը կպահանջի ուշադիր դիտարկում: Ինչպես ներկայիս հետազոտությունների դեպքում, հնարավոր է, որ դրանք սխալ մեկնաբանվեն: Հետևաբար, տվյալների վերլուծաբանները պետք է հետևեն բոլոր տվյալների կետերին և հետադարձ հետևեն, թե ինչու են AI համակարգերը տվել կոնկրետ արդյունքներ, հակառակ դեպքում նրանք ռիսկի կենթարկվեն սխալ գործել տրամաբանական եզրահանգման հիման վրա: Վերևում նկարագրված տվյալների վիզուալիզացիայի գործիքների կիրառումը կարող է կիրառվել AI-ի կողմից ստեղծված արդյունքների վրա:

Մոտենալով գալիք տասնամյակներին՝ կազմակերպությունները կսկսեն հենվել AI համակարգերի կողմից արտադրված տեղեկատվության վրա, և այն տվյալների կառավարման և իրականացման ձևը, որոնք հիմք են հանդիսանում այս համակարգերի համար, կունենա առավելագույն կարևորություն:

Կապվեք մեզ հետ այսօր՝ Telemus AI™-ը ձեր կազմակերպության մեջ ինտեգրելու վերաբերյալ անվճար խորհրդատվության համար: