Organisaation datan valmistelu tekoälyn käyttöön

Tekoälyratkaisut Edellyttävät Laadukasta Dataa

Anthony Quattrone, PhD 1. toukokuuta 2022

Organisaation data tallennetaan ja varastoidaan eri muodoissa laskentataulukoista tekstiasiakirjoihin, relaatiotietokantoihin ja tekstitiedostoihin. Organisaation datan hyödyntäminen edellyttää sarjaa esikäsittelyvaiheita, jotta se soveltuu käytettäväksi liiketoimintatietojärjestelmissä raportointia ja analytiikkaa varten. AI-järjestelmät vaativat erittäin erikoistuneita tietoaineistoja koulutukseen, jotta varmistetaan korkea erikoistumisaste.

Organisaation datan valmistelu tekoälijärjestelmien käyttöä varten vaatii monimutkaisia Extract-Transform-Load (ETL) -prosesseja koulutusaineiston tuottamiseksi ennen sen syöttämistä tekoälyyn. Monien organisaatioiden sääntelykehys edellyttää, että tietosuojalakeja ja -säädöksiä on noudatettava ennen datan poimimista. Lisäksi tiukkojen tallennusprosessien on noudatettava sääntöjä poiminnan valmistuttua, jotta data tallennetaan ja käytetään turvallisesti.

Nykyisessä organisaatioympäristössä on valtavia määriä dataa, josta osa on rakenteetonta muodossa, joka on helppo käsitellä. Tämän tiedon käsittelyyn liittyy myös tekninen haaste. Datan valmistelun monimutkaisuus kasvaa, kun data ei ole staattista vaan muuttuu jatkuvasti reaaliajassa, jolloin se vaatii dynaamisia prosesseja.

Tarkastelemme keskeisiä dataan liittyviä seikkoja seuraavissa osioissa.

Yleiset organisaation tietolähteet

Tiedot tallennetaan eri muodoissa ja ne kattavat monenlaisia ulottuvuuksia taloustiedoista paikkatietoihin. Toimisto-ohjelmistoissa, kuten Microsoft Officessa, ja sisäisissä tarkoitukseen soveltuvissa lähdejärjestelmissä tallennetut tiedot eivät sovi sellaisinaan suoraan tekoälyjärjestelmien käyttöön.

Seuraavassa on luettelo tunnetuista tietolähteistä; tämä luettelo ei ole missään nimessä tyhjentävä:

  • Talousdata ERP-kirjanpitojärjestelmille (Oracle, SAP)
  • Paikkatieto GIS-järjestelmistä (ESRI ArcGIS)
  • Taulukkolaskentataulukot toimistotuottavuustyökaluista (Microsoft Excel, Microsoft Access)
  • Lähdejärjestelmien taustalla käytetyt mukautetut SQL-tietokannat (Microsoft SQL, MySQL, Oracle, SAP)
  • Vanhoissa järjestelmissä tallennetut tasatiedostotietokannat (IBM Mainframes, indeksoidut tiedostot)

Eri järjestelmät voivat tallentaa tietoja eri muodoissa. Tietojoukot vaativat yhdistämistä; tämä aiheuttaa haasteita, kun on useita järjestelmiä. Tietoanalyytikoiden on yleistä syöttää tietoja manuaalisesti laskentataulukoiden avulla. Nykyinen suuntaus on syöttää tiedot datajärveen, jotta data-insinöörit voivat käsitellä niitä ilman, että heidän tarvitsee olla suoraan yhteydessä kriittisiin järjestelmiin. Näin ollen tavoitteiden saavuttaminen vaati datan muunnoksia.

Tekoälyjärjestelmät voivat hyödyntää tätä dataa erinomaisesti. Kuitenkin vasta kun se on ensin käsitelty sopivaan muotoon syötettäväksi tällaisiin järjestelmiin, datajärvet ja data-varastot ovat ratkaisevia laadukkaiden datasettien tuottamisessa.

Tekoäly ja sen suhde Extract-Transform-Load (ETL) -prosesseihin

Perinteiset ETL-prosessit eivät todennäköisesti muutu, kun tekoälystä tulee yleisempi. On todennäköisempää, että tällaiset tekniikat kohdennetaan uudelleen tuottamaan tietojoukkoja, jotka ovat oppimisen kannalta suotuisia ja toimivat hyvin AI-järjestelmien kanssa. Esimerkki on ottaa kuvia esineistä ja merkitä ne assosiaatiolla, jotta AI-järjestelmät voivat oppia.

Data-analyytikoille ja data-insinööreille on erinomaisia mahdollisuuksia käyttää datan valmistelutaitojaan tekoälyjärjestelmien tietoaineistojen rakentamiseen. On tärkeää, että ETL-prosessit automatisoidaan eivätkä ne nojaa manuaalisiin prosesseihin, jotta reaaliaikaisista tekoälyjärjestelmistä saadaan maksimaalinen tehokkuus.

Datajärvet ja datavarastot yksittäisen totuuden lähteenä tekoälyn käytössä

Eri järjestelmiin tallennettu raakadata johtaa pirstoutumiseen. Tämän voittamiseksi on toivottavaa ohjata kaikki data yhteen paikkaan, kuten relaatiotietokantaan, joka mahdollistaa kyselyt ja datan käsittelyn. Kun kaikki data on tallennettu yhdelle alueelle, sitä voidaan käyttää helpommin ja käsitellä sellaisten tietoaineistojen tuottamiseksi, joista saadaan arvokasta tietoa. On välttämätöntä määrittää yksittäinen totuuden lähde.

Datavarastot voidaan sen jälkeen määritellä standardeilla, kuten Kimball tai Inmon, luomalla ulottuvuuksia faktojen tai mittareiden määrittelemiseksi. Faktat ovat tyypillisesti kategorista dataa, kun taas mittarit ovat yleisen käsityksen mukaan tyypillisesti numeerista dataa. Tietojen käsittely tällaisilla standardeilla tarjoaa merkittäviä hyötyjä tehokkuuden ja tarkkuuden varmistamisessa.

Ehkä merkittävin etu organisaatioille, jotka ovat investoineet hyvän tietovaraston hankkimiseen, on se, että se avaa organisaation tietoaineiston laajemmalle organisaatiolle. Suurissa organisaatioissa useimmat työntekijät eivät ole pääsyä liiketoiminnan pyörittäviin kriittisiin lähdejärjestelmiin; heillä on kuitenkin pääsy tietovarastoon, tyypillisesti vain lukuoikeudella. Tietovarastot mahdollistavat työntekijöille oivallusten tunnistamisen, joita organisaation johtorakenne ei yleisesti tiedä.

Tietovarastojen luominen varmistaa, että yksityisyys- ja sääntelynäkökohdat on määritelty. Tietovarastot auttavat varmistamaan, että data siirretään turvallisesti sidosryhmien välillä. Pääsy datajärviin ja -varastoihin voi myös parantaa organisaation toimintojen suorittamisen läpinäkyvyyttä ja vastuullisuutta, mikä mahdollistaa vakaammat toimintamenetelmät.

Organisaation Big Datan visualisointi

Big data -haasteena on sen parhaan mahdollinen visualisointi ja sen kertoman tarinan välittäminen. Aiemmat lähestymistavat sisälsivät raportointipalveluita, jotka koostavat tiedot alemmilta tasoilta ylemmille tasoille näytettäviksi vakiokaavioina, kuten pylväskaavioina, viivakaavioina ja hajontakaavioina. Nämä lähestymistavat sopivat johtamisraportteihin (esim. myyntiraportit, tiliraportit), jotka ovat osa päivittäistä normaalia liiketoimintaa. Microsoft SSRS on yleisin yrityslaajuiseen raportointiin käytetty työkalu.

Tämän puutteen korjaamiseksi kehittyneitä visualisointiohjelmistoja on kehitetty, ja Tableau ja QlikView ovat hallinneet markkinoita. Tableau keskittyi vahvasti upeisiin visualisointeihin, kun taas QlikView onnistui tasapainottamaan perinteisiä raportointipalveluita, kuten Microsoft SSRS ja Tableau. Microsoft PowerBI on hallinnut markkinoita ja Gartner pitää sitä monimutkaisempana. Nämä ohjelmistot luovat kojelautoja, jotka ovat erittäin hyödyllisiä useiden keskeisten mittareiden seuraamisessa ja tällaisen seurannan integroimisessa osaksi kattavia organisaation prosesseja. Strategiset päätöksentekijät ovat viime aikoina luoneet erinomaisia kojelautoja tietopohjaisten päätösten tekemiseksi, kun taas operatiiviset johtajat voivat reagoida nopeammin saavuttaakseen yrityksen tavoitteet.

Tekoälyn myötä visualisoinnilla on ratkaiseva rooli. Tekoälyjärjestelmien tuottamat oivallukset ovat monimutkaisia, ja ne on kommunikoitava visuaalisessa muodossa, jota ihmiset voivat helposti ymmärtää. Erinomainen esimerkki tästä on itseorganisoituvan kartan (SOM) esittäminen monimuuttujaisen datan tarkastelua varten.

Tietojen yhdistäminen tekoälyjärjestelmien syöttämiseksi

Kun datajoukkoihin on pääsy, on sen jälkeen mahdollista ottaa dataa relaatiotietokannasta ja tarjota liitin tekoälyjärjestelmään. Useimmat nykyaikaiset AI-järjestelmät on rakennettu Pythonilla ja ne nojaavat tyypillisesti C/C++:lla toteutettuihin moduuleihin tehokkuuden varmistamiseksi.

Koska Python on tällä hetkellä ensisijainen työkalu tekoälyn käyttöliittymänä, monenlaisten tietokantojen tietoihin pääsemiseksi on saatavilla laaja valikoima dataliittimiä. Lisäksi Python soveltuu hyvin datan käsittelyyn ja laajentaa alkuperäisiä toiminnallisuuksia rikkailla kirjastoilla, kuten NumPy ja Pandas, jotka auttavat edelleen esikäsittelemään tiettyihin tekoälyjärjestelmiin syötettävää dataa. Nykyiset kehykset ovat tarkkoja hyväksyttyjen tietomuotojen suhteen. Staattisesti tyypitetyt tietokehykset voivat auttaa tässä. GPU-käsittely vaatii tietyt tietotyypit, jotka eivät todennäköisesti muutu. Siksi tietotyyppien huomioon ottaminen on tehtävä etukäteen.

Tekoälyjärjestelmät kapean AI:n alueella ovat tiettyjä datavaatimuksia, ja on syytä käyttää aikaa tämän harkitsemiseen datasettien luomisen suunnitteluvaiheissa, joita käytetään mainituissa järjestelmissä.

Tekoälyn tulosten sieppaaminen, tallentaminen ja tulkitseminen

Tekoälyjärjestelmät tuottavat syötteiden perusteella tulosteita, jotka on tallennettava. Mielenkiintoisemmin tulokset voidaan syöttää takaisin datajärviin/data-varastoihin ja jatkaa oivallusten tuottamisprosessia, koska oivallukset voivat tuottaa lisäoivalluksia. Tulosteiden tallentamisen hallintaa on harkittava huolellisesti laajemman datahallinnon viitekehyksen puitteissa.

Koska tekoälyjärjestelmät käsittelevät valtavia määriä tietoa, on todennäköistä, että ne löytävät vastaintuitiivisia oivalluksia, jotka ihminen tyypillisesti ohittaa. Yleensä juuri nämä oivallukset tuottavat merkittävimmän kilpailuedun. Siksi organisaatioilla ei ole muuta vaihtoehtoa kuin sitoutua näihin järjestelmiin keinona säilyttää kilpailukykynsä.

Tekoälyn tulosten tulkinta vaatii huolellista harkintaa. Aivan kuten nykyisessä tutkimuksessa, on mahdollista, että ne tulkitaan väärin. Siksi data-analyytikoiden on seurattava läpi kaikki datapisteet ja jäljitettävä, miksi AI-järjestelmät ovat tuottaneet tietyt havainnot, tai heidän on vaarana toimia virheellisesti saadun oivalluksen pohjalta. Yllä kuvattuja datan visualisointityökaluja voidaan soveltaa AI:n tuottamiin tuloksiin.

Siirryttäessä tuleviin vuosikymmeniin organisaatiot alkavat tukeutua AI-järjestelmien tuottamaan tietoon, ja näiden järjestelmien taustalla olevan datan hallinta ja toteutus ovat ensiarvoisen tärkeitä.

Ota meihin yhteyttä jo tänään saadaksesi ilmaisen konsultaation siitä, miten Telemus AI™ voidaan integroida organisaatioosi.