Organizācijas datu sagatavošana izmantošanai ar AI

Mākslīgā Intelekta Risinājumi Prasa Augstas Kvalitātes Datus

Anthony Quattrone, PhD 2022. gada 1. maijs

Organizācijas dati tiek uztverti un uzglabāti dažādos formātos, sākot no izklājlapām līdz teksta dokumentiem, relāciju datubāzēm un teksta failiem. Organizācijas datu izmantošana ietver virkni priekšapstrādes soļu, lai tie būtu piemēroti izmantošanai biznesa informācijas sistēmās pārskatu un analītikas vajadzībām. AI sistēmām ir nepieciešami augsti specializēti datu kopas apmācībai, lai nodrošinātu augstu specializācijas pakāpi.

Organizācijas datu sagatavošana izmantošanai mākslīgā intelekta sistēmās prasa daudzus sarežģītus Extract-Transform-Load (ETL) procesus, lai izveidotu apmācības datu kopu pirms tās ievadīšanas AI. Daudzu organizāciju regulējuma ietvars nozīmē, ka pirms datu izvilkšanas jāievēro privātuma likumi un noteikumi. Turklāt stingri uzglabāšanas procesi jāatbilst noteikumiem pēc izvilkšanas pabeigšanas, lai nodrošinātu, ka dati tiek uzglabāti un izmantoti droši.

Pašreizējā organizatoriskajā vidē ir milzīgi datu apjomi, no kuriem daļa ir nestrukturēti formātā, kas ir viegli apstrādājams. Pastāv arī tehnisks izaicinājums šīs informācijas apstrādē. Datu sagatavošanas sarežģītība palielinās, ja dati nav statiski un pastāvīgi mainās reāllaikā, kā arī prasa dinamiskus procesus.

Nākamajās sadaļās mēs izpētīsim galvenos datu aspektus.

Bieži izmantotie organizācijas datu avoti

Dati tiek glabāti dažādos formātos un aptver daudzas dimensijas, sākot no finanšu datiem līdz telpiskajai informācijai. Biroja produktivitātes komplektos, piemēram, Microsoft Office, un iekšējos mērķa avotu sistēmās uzņemtie dati nav piemēroti tiešai izmantošanai mākslīgā intelekta sistēmās.

Tālāk ir uzskaitīti pazīstami datu avoti; šis saraksts nekādā gadījumā nav pilnīgs:

  • Finanšu dati ERP grāmatvedības sistēmām (Oracle, SAP)
  • Telpiskie dati no GIS sistēmām (ESRI ArcGIS)
  • Tabullapas no biroja produktivitātes rīkiem (Microsoft Excel, Microsoft Access)
  • Pielāgotas SQL datubāzes, ko izmanto aiz avota sistēmām (Microsoft SQL, MySQL, Oracle, SAP)
  • Plakanā failu datubāzes, kas uzņemtas mantojuma sistēmās (IBM māinfreimi, indeksēti faili)

Dažādas sistēmas var uzglabāt datus dažādos formātos. Datu kopas ir jāapvieno; tas rada izaicinājumus, ja ir vairākas sistēmas. Datu analītiķiem ir izplatīta prakse ievadīt informāciju manuāli, izmantojot izklājlapas. Pašreizējā tendence ir ievadīt datus datu ezerā, lai datu inženieri varētu ar tiem strādāt, neizmantojot tiešu saskarni ar kritiskajām sistēmām. Tādēļ, lai sasniegtu mērķus, ir nepieciešamas datu transformācijas.

Mākslīgā Intelekta sistēmas var lieliski izmantot šos datus. Tomēr tikai tad, kad tie vispirms ir apstrādāti atbilstošā formātā, lai tos ievadītu šādās sistēmās, datu ezeri un datu noliktavas ir būtiskas augstas kvalitātes datu kopu radīšanā.

Mākslīgais intelekts un tā saistība ar Extract-Transform-Load (ETL) procesiem

Tradicionālie ETL procesi, visticamāk, nemainīsies, kļūstot mākslīgajam intelektam izteiktākam. Iespējamāks ir, ka šādas metodes tiks pārorientētas, lai radītu datu kopas, kas veicina apmācību un labi darbojas ar AI sistēmām. Piemērs ir objektu fotogrāfiju uzņemšana un to marķēšana ar asociāciju, lai AI sistēmas varētu mācīties.

Datu zinātniekiem un datu inženieriem ir lieliskas iespējas izmantot savas datu sagatavošanas iemaņas, lai izveidotu datu kopas mākslīgā intelekta sistēmām. Būs svarīgi, lai ETL procesi būtu automatizēti un nebalstītos uz manuāliem procesiem, lai iegūtu maksimālu efektivitāti no reāllaika mākslīgā intelekta sistēmām.

Datu ezeri un datu noliktavas kā vienots patiesības avots izmantošanai mākslīgajā intelektā

Neapstrādāti dati, kas glabāti dažādās sistēmās, izraisa fragmentāciju. Lai to pārvarētu, ir vēlams novirzīt visus datus vienā vietā, piemēram, relāciju datubāzē, kas ļauj veikt vaicājumus un datu manipulācijas. Kad visi dati ir saglabāti vienā vietā, tiem var vieglāk piekļūt un ar tiem strādāt, lai izveidotu datu kopas, kas sniedz vērtīgu informāciju. Ir būtiski definēt vienu patiesības avotu.

Datu noliktavas pēc tam var definēt, izmantojot tādus standartus kā Kimball vai Inmon, lai izveidotu dimensijas faktu vai mērvienību definēšanai. Fakti parasti ir kategoriski dati, savukārt mērvienības parasti ir skaitliski dati vispārējā izpratnē. Datu apstrāde, izmantojot šādus standartus, sniedz ievērojamus ieguvumus, nodrošinot efektivitāti un precizitāti.

Varbūt vissvarīgākais ieguvums organizācijām, kuras ir investējušas laba datu noliktavas izveidē, ir tas, ka tas atver organizācijas datu kopu plašākai organizācijai. Ņemot vērā lielas organizācijas, vairums darbinieku nav piekļuves kritiskajām avota sistēmām, kas nodrošina uzņēmuma darbību; tomēr viņiem ir piekļuve datu noliktavai, parasti tikai lasīšanas režīmā. Datu noliktavas ļauj darbiniekiem identificēt atziņas, par kurām organizācijas vadības struktūra, iespējams, parasti nezina.

Datu noliktavu izveide nodrošina, ka tiek definēti privātuma un regulējuma aspekti. Datu noliktavas palīdz nodrošināt, ka dati tiek droši pārsūtīti starp ieinteresētajām pusēm. Piekļuve datu ezeriem un noliktavām var arī uzlabot organizācijas funkciju veikšanas caurskatāmību un atbildību, ļaujot izveidot stabilākas darbības procedūras.

Organizācijas Lielo Datu Vizualizācija

Lielu datu izaicinājums ir tas, kā tos vislabāk apskatīt un nodot stāstu, ko tie stāsta. Agrākās pieejas ietvēra pārskatu pakalpojumus, kas apkopo datus no zemāka līmeņa uz augstāku līmeni, lai tos parādītu standarta diagrammās, piemēram, stabiņu diagrammās, līniju diagrammās un izkliedes diagrammās. Šīs pieejas ir piemērotas vadības pārskatiem (t.i., pārdošanas pārskatiem, kontu pārskatiem), kas ir daļa no ikdienas parastajām darbībām. Microsoft SSRS ir visizplatītākais rīks, ko izmanto pārskatu veidošanai visā uzņēmumā.

Lai novērstu šo nepilnību, parādījās uzlabotas vizualizācijas programmas, kurās tirgū dominē Tableau un QlikView. Tableau īpaši koncentrējās uz iespaidīgām vizualizācijām, savukārt QlikView spēja līdzsvarot tradicionālos pārskatu pakalpojumus, piemēram, Microsoft SSRS un Tableau. Microsoft PowerBI ir dominējis tirgū, un Gartner to uzskata par sarežģītāku. Šīs programmas izveido informācijas paneļus, kas ir neticami noderīgi vairāku galveno rādītāju uzraudzībai un šādas uzraudzības integrēšanai kā daļa no visaptverošiem organizatoriskajiem procesiem. Stratēģiskā lēmumu pieņēmēji nesen ir izveidojuši lieliskus informācijas paneļus, lai pieņemtu uz datiem balstītus lēmumus, savukārt operāciju vadītāji var ātrāk reaģēt, lai sasniegtu korporatīvos mērķus.

Līdz ar AI parādīšanos vizualizācijai būs izšķiroša loma. Ieskati, ko AI sistēmas var sniegt, ir sarežģīti, un tie ir jākomunicē vizuālā attēlojumā, ko cilvēki var viegli saprast. Lielisks piemērs tam ir pašorganizējošās kartes (SOM) prezentēšana, lai skatītu daudzveidīgos datus.

Datu apvienošana mākslīgā intelekta sistēmu apgādei

Ņemot vērā piekļuvi datu kopām, pēc tam ir iespējams ņemt datus no relāciju datubāzes un nodrošināt savienotāju ar mākslīgā intelekta sistēmu. Vairākas mūsdienu AI sistēmas ir izveidotas, izmantojot Python, un paļaujas uz moduļiem, kas parasti ir ieviesti C/C++, lai nodrošinātu efektivitāti.

Tā kā Python pašlaik ir galvenais rīks mijiedarbībai ar AI, ir pieejams bagātīgs datu savienotāju klāsts daudzu dažādu veidu datubāzēm datu piekļuvei. Turklāt Python labi piemērojams datu apstrādei un paplašina savietojamo funkcionalitāti ar bagātīgām bibliotēkām, piemēram, NumPy un Pandas, lai palīdzētu iepriekš apstrādāt datus, kas tiek padoti konkrētās AI sistēmās. Pašreizējie ietvari ir īpaši izvēlīgi attiecībā uz pieņemtajiem datu formātiem. Statiski tipizēti datu ietvari var palīdzēt šajā jautājumā. GPU apstrāde prasa specifiskus datu tipus, kas maz ticams mainīsies. Tāpēc datu tipu apsvērumi ir jāveic iepriekš.

Mākslīgā Intelekta sistēmām šaurā AI jomā ir specifiskas datu prasības, un ir vērts veltīt laiku, lai to apsvērtu šādu sistēmu izmantošanai paredzēto datu kopu izveides plānošanas posmā.

Mākslīgā intelekta rezultātu uztveršana, uzglabāšana un interpretēšana

Mākslīgā Intelekta sistēmas, ņemot vērā ievaddatus, līdz ar to radīs izvaddatus, kas būs jāuzglabā. Vēl aizraujošāk ir tas, ka rezultātus var atgriezt datu ezeros/datu noliktavās un turpināt ieskatu sniegšanas procesu, jo ieskati var dot tālākus ieskatus. Izvaddatu uzglabāšanas pārvaldība būs rūpīgi jāapsver lielāka datu pārvaldības ietvara ietvaros.

Ņemot vērā, ka mākslīgā intelekta sistēmas apstrādā lielus informācijas daudzumus, ir ticami, ka tās atradīs pretintuitīvus atklājumus, kurus cilvēks parasti palaistu garām. Parasti tieši šie atklājumi rada visnozīmīgāko konkurences priekšrocību. Tādējādi organizācijām nebūs citas izvēles kā iesaistīties ar šīm sistēmām kā līdzekli, lai saglabātu konkurētspēju.

Mākslīgā intelekta rezultātu interpretēšana prasīs rūpīgu izvērtēšanu. Tieši tāpat kā ar pašreizējiem pētījumiem, ir iespējams, ka tie tiks nepareizi interpretēti. Tāpēc datu analītiķiem ir jāizseko visi datu punkti un jāatpakaļizseko, kāpēc AI sistēmas ir devušas konkrētus secinājumus, pretējā gadījumā pastāv risks rīkoties nepareizi, balstoties uz atziņām. Iepriekš aprakstītos datu vizualizācijas rīkus var piemērot AI ģenerētiem rezultātiem.

Pārejot nākamajās desmitgadēs, organizācijas sāks paļauties uz AI sistēmu radīto informāciju, un tas, kā šo sistēmu pamatā esošie dati tiek pārvaldīti un ieviesti, būs ārkārtīgi svarīgi.

Sazinieties ar mums jau šodien bezmaksas konsultācijai par to, kā Telemus AI™ var integrēt jūsu organizācijā.