Szervezeti adatok előkészítése AI-val való használatra

A Mesterséges Intelligencia Megoldások Magas Minőségű Adatokat Igényelnek

Anthony Quattrone, PhD 2022. május 1.

A szervezeti adatok különböző formátumokban kerülnek rögzítésre és tárolásra, a táblázatoktól a szöveges dokumentumokig, a relációs adatbázisokig és a szöveges fájlokig. A szervezeti adatok hasznosítása sorozatos előfeldolgozási lépéseket igényel, hogy alkalmassá tegye őket az üzleti intelligencia rendszerekben történő jelentéskészítési és elemzési felhasználásra. Az AI rendszerek rendkívül specializált adatkészleteket igényelnek a betanításhoz a magas szintű specializáció biztosítása érdekében.

A szervezeti adatok mesterséges intelligencia rendszerekben való felhasználásra történő előkészítése számos összetett Kinyerés-Transzformáció-Betöltés (ETL) folyamatot igényel egy betanítási adathalmaz létrehozásához, mielőtt azokat egy AI-ba bevinnék. Számos szervezet szabályozási keretrendszere azt feltételezi, hogy az adatvédelmi törvényeket és szabályozásokat be kell tartani a kinyerés előtt. Továbbá, a kinyerés befejezése után a szigorú tárolási folyamatoknak meg kell felelniük a szabályoknak annak érdekében, hogy az adatok biztonságosan legyenek tárolva és felhasználva.

Hatalmas mennyiségű adat található a jelenlegi szervezeti környezetben, amelyek egy része olyan formátumban strukturálatlan, amellyel könnyű dolgozni. Ezen információk feldolgozása technikai kihívást is jelent. Az adatelőkészítés komplexitása akkor nő, ha az adatok nem statikusak és folyamatosan változnak valós időben, és dinamikus folyamatokat igényelnek.

A következő szakaszokban megvizsgáljuk a kulcsfontosságú adatszempontokat.

Gyakori Szervezeti Adatforrások

Az adatok különböző formátumokban tárolódnak és számos dimenziót fednek le, a pénzügyi adatoktól a térbeli információkig. Az olyan irodai hatékonyságnövelő csomagokban – mint a Microsoft Office – és belső, célirányos forrásrendszerekben rögzített adatok nem alkalmasak arra, hogy közvetlenül mesterséges intelligencia rendszerekben használják őket.

Az alábbiakban ismert adatforrások listája látható; ez a lista semmiképpen sem tekinthető kimerítőnek:

  • Pénzügyi adatok ERP könyvelési rendszerekhez (Oracle, SAP)
  • Térbeli adatok GIS rendszerekből (ESRI ArcGIS)
  • Táblázatok az irodai hatékonyságnövelő eszközökből (Microsoft Excel, Microsoft Access)
  • A forrásrendszerek mögött használt egyedi SQL adatbázisok (Microsoft SQL, MySQL, Oracle, SAP)
  • Örökölt rendszerekben rögzített sima fájl adatbázisok (IBM nagyszámítógépek, indexelt fájlok)

A különböző rendszerek különféle formátumokban tárolhatják az adatokat. Az adathalmazokat össze kell kapcsolni; ez kihívásokat jelent, ha több rendszer van jelen. Gyakori, hogy az adatelemzők táblázatok használatával manuálisan viszik be az információkat. A jelenlegi trend az adatok adattóba történő bevitele, így az adatmérnökök anélkül dolgozhatnak velük, hogy közvetlenül a kritikus rendszerekkel kellene kommunikálniuk. A célok elérése érdekében tehát adatátalakításra volt szükség.

A Mesterséges Intelligencia rendszerek kiválóan hasznosíthatják ezeket az adatokat. Azonban csak akkor, ha először megfelelő formátumban dolgozzák fel az ilyen rendszerekbe történő betáplálásra, itt válnak kulcsfontosságúvá az adattavak és az adatraktárak a magas minőségű adathalmazok előállításában.

A Mesterséges Intelligencia és kapcsolata az Extract-Transform-Load (ETL) folyamatokkal

A hagyományos ETL folyamatok valószínűleg nem fognak megváltozni, ahogy a mesterséges intelligencia egyre hangsúlyosabbá válik. Valószínűbb, hogy az ilyen technikák át lesznek irányítva olyan adathalmazok előállítására, amelyek alkalmasak a tanulásra, és jól együttműködnek az AI rendszerekkel. Egy példa erre a tárgyak fényképeinek készítése és azok címkézése egy társítással, hogy az AI rendszerek tanulhassanak.

Nagyszerű lehetőségek állnak rendelkezésre az adatkutatók és adatmérnökök számára, hogy adatelőkészítési készségeiket felhasználva adathalmazokat építsenek mesterséges intelligencia rendszerekhez. Fontos lesz, hogy az ETL folyamatok automatizáltak legyenek, és ne támaszkodjanak manuális folyamatokra, a valós idejű mesterséges intelligencia rendszerekből származó maximális hatékonyság elérése érdekében.

Adattavak és adatraktárak, mint a mesterséges intelligenciában való felhasználás egyetlen igazságforrása

A különböző rendszerekben tárolt nyers adatok töredezettséghez vezetnek. Ennek leküzdése érdekében kívánatos az összes adat egyetlen helyre, például egy relációs adatbázisba történő átirányítása, amely lehetővé teszi a lekérdezéseket és az adatkezelést. Miután az összes adat egyetlen területen van tárolva, könnyebben hozzáférhető és feldolgozható, hogy értékes információkat eredményező adathalmazokat hozzon létre. Elengedhetetlen egyetlen igazságforrás meghatározása.

Az adatraktárak ezután olyan szabványokkal határozhatók meg, mint a Kimball vagy az Inmon, hogy dimenziókat hozzanak létre tények vagy mértékek meghatározására. Egy tény általában kategorikus adat, míg egy mérték jellemzően numerikus adat az általános megértés szerint. Az ilyen szabványokkal történő adatfeldolgozás jelentős előnyöket kínál a hatékonyság és a pontosság biztosításában.

Talán a legjelentősebb előny azoknak a szervezeteknek, amelyek beruháztak egy jó adattárházra, hogy az hozzáférhetővé teszi a szervezeti adathalmazt a tágabb szervezet számára. A nagy szervezetek esetében a legtöbb alkalmazott nem fér hozzá az üzletet működtető kritikus forrásrendszerekhez; azonban hozzáférnek az adattárhoz, jellemzően csak olvasható módon. Az adattárházak lehetővé teszik az alkalmazottak számára olyan felismerések azonosítását, amelyeket a szervezet vezetési struktúrája esetleg nem ismer.

Az adattárházak létrehozása biztosítja az adatvédelmi és szabályozási megfontolások meghatározását. Az adattárházak hozzásegítenek ahhoz, hogy az adatok biztonságosan kerüljenek át az érdekelt felek között. Az adattavakhoz és tárházakhoz való hozzáférés javíthatja a szervezeti funkciók végrehajtásának átláthatóságát és elszámoltathatóságát is, lehetővé téve stabilabb működési eljárásokat.

A szervezeti Big Data vizualizációja

A big data egyik kihívása, hogyan lehet a legjobban megtekinteni és közvetíteni az általa elmondott történetet. A korábbi megközelítések közé tartoztak az olyan jelentéskészítő szolgáltatások, amelyek az adatokat alacsonyabb szintekről magasabb szintekre aggregálják, hogy szabványos diagramokban, például oszlopdiagramokban, vonaldiagramokban és pontdiagramokban jelenítsék meg őket. Ezek a megközelítések alkalmasak a vezetői jelentésekhez (azaz értékesítési jelentések, számlajelentések), amelyek a napi szokásos üzleti műveletek részét képezik. A Microsoft SSRS a leggyakoribb vállalati szintű jelentéskészítésre használt eszköz.

A hiány pótlására fejlett vizualizációs programok jelentek meg, közülük a Tableau és a QlikView uralta a piacot. A Tableau erősen a lenyűgöző vizualizációkra fókuszált, míg a QlikView egyensúlyozni tudta a hagyományos jelentéskészítő szolgáltatásokat, mint a Microsoft SSRS és a Tableau. A Microsoft PowerBI uralta a piacot, és a Gartner szerint összetettebbnek számít. Ezek a programok olyan irányítópultokat hoznak létre, amelyek hihetetlenül hasznosak több kulcsfontosságú mutató figyelemmel kísérésében és az ilyen figyelés átfogó szervezeti folyamatok részévé integrálásában. A stratégiai döntéshozók nemrég kiváló irányítópultokat készítettek adatalapú döntések meghozatalához, míg az operatív menedzserek gyorsabban reagálhatnak a vállalati célok elérése érdekében.

Az AI megjelenésével a vizualizáció létfontosságú szerepet fog játszani. Az AI rendszerek által előállítható elemzések összetettek, és olyan vizuális ábrázolásban kell kommunikálni őket, amelyet az emberek könnyen megértenek. Kiváló példa erre egy önrendező térkép (SOM) bemutatása többváltozós adatok megtekintésére.

Adatok Egyesítése egy Mesterséges Intelligencia Rendszerbe Történő Betáplálásához

Az adathalmazokhoz való hozzáférés adott lehetőség van adatokat kinyerni egy relációs adatbázisból, és összekötőt biztosítani egy mesterséges intelligencia rendszerhez. A legtöbb modern AI rendszer Python használatával készül, és olyan modulokra támaszkodik, amelyeket általában C/C++ nyelven valósítanak meg a hatékonyság biztosítása érdekében.

Mivel a Python jelenleg az elsődleges eszköz az AI-vel való interfész kialakítására, gazdag adatcsatlakozók sorozata áll rendelkezésre számos különböző típusú adatbázishoz az adatok eléréséhez. Továbbá a Python jól alkalmazkodik az adatkezelésekhez, és tovább bővíti a natív funkcionalitást olyan gazdag könyvtárakkal, mint a NumPy és a Pandas, hogy tovább segítsék a specifikus AI rendszerekbe betáplált adatok előfeldolgozását. A jelenlegi keretrendszerek nagyon specifikusak az elfogadott adatformátumokkal kapcsolatban. A statikusan típusos adatkeretrendszerek segíthetnek ebben. A GPU feldolgozás specifikus adattípusokat igényel, amelyek valószínűleg nem fognak változni. Így az adattípus-megfontolásokat előre meg kell tenni.

A szűk AI területén belüli Mesterséges Intelligencia rendszerek specifikus adatkövetelményekkel rendelkeznek, és érdemes időt szánni ennek figyelembevételére az említett rendszerekben használandó adathalmazok létrehozásának tervezési szakaszában.

Mesterséges Intelligencia Eredmények Rögzítése, Tárolása és Értelmezése

A Mesterséges Intelligencia rendszerek a bemenetek alapján következésképpen olyan kimeneteket állítanak elő, amelyeket tárolni kell. Még izgalmasabb, hogy az eredmények visszavezethetők az adattavakba/adatraktárakba, és folytathatják a betekintések szállításának folyamatát, mivel a betekintések további betekintéseket eredményezhetnek. A kimenetek tárolásának kezelését egy nagyobb adat-irányítási keretrendszeren belül kell gondosan megfontolni.

Mivel a mesterséges intelligencia rendszerek hatalmas mennyiségű információt dolgoznak fel, valószínű, hogy olyan ellentmondásos, de értékes felismeréseket találnak, amelyeket egy ember általában észre sem venne. Általában ezek a felismerések jelentik a legjelentősebb versenyelőnyt. Így a szervezeteknek nem lesz más választásuk, mint bevonódni ezekbe a rendszerekbe, hogy versenyképesek maradjanak.

A mesterséges intelligencia eredményeinek értelmezése alapos mérlegelést igényel. Ahogyan a mai kutatásban is, lehetséges, hogy félreértelmezik. Ezért az adatelemzőknek minden adatpontot nyomon kell követniük és vissza kell követniük, hogy miért adtak az AI rendszerek specifikus eredményeket, különben fennáll a kockázata, hogy tévesen cselekednek a felismerések alapján. A fent leírt adatvizualizációs eszközök alkalmazhatók az AI által generált eredményekre.

A következő évtizedekbe lépve a szervezetek elkezdenek majd támaszkodni az AI rendszerek által előállított információkra, és ezeknek a rendszereket megalapozó adatok kormányzása és megvalósítása lesz a legfontosabb.

Lépjen velünk kapcsolatba még ma egy ingyenes konzultációért arról, hogyan integrálható a Telemus AI™ a szervezetébe.