Pregătirea Datelor Organizaționale pentru utilizarea cu AI

Soluțiile de Inteligență Artificială Necesită Date de Înaltă Calitate

Anthony Quattrone, PhD 1 mai 2022

Datele organizaționale sunt capturate și stocate în diverse formate, de la foi de calcul la documente text, baze de date relaționale și fișiere text. Valorificarea datelor organizaționale implică o serie de etape de preprocesare pentru a le face potrivite pentru utilizarea în sistemele de business intelligence pentru raportare și analiză. Sistemele AI necesită seturi de date extrem de specializate pentru instruire, pentru a asigura un grad ridicat de specializare.

Pregătirea datelor organizaționale pentru utilizarea în sistemele de inteligență artificială necesită multe procese complexe de Extract-Transform-Load (ETL) pentru a produce un set de date de instruire înainte de a fi introduse într-un AI. Cadrul de reglementare al multor organizații implică faptul că legile și reglementările privind confidențialitatea trebuie respectate înainte de a avea loc extragerea. În plus, procesele stricte de stocare trebuie să respecte regulile odată ce extragerea este completă, pentru a se asigura că datele sunt stocate și utilizate în siguranță.

Există cantități uriașe de date în mediul organizațional actual, dintre care unele sunt nestructurate într-un format ușor de utilizat. Există, de asemenea, o provocare tehnică în procesarea acestor informații. Complexitatea pregătirii datelor crește atunci când datele nu sunt statice și se schimbă constant în timp real, necesitând procese dinamice.

Vom explora considerațiile cheie privind datele în secțiunile următoare.

Surse comune de date organizaționale

Datele sunt stocate în diverse formate și acoperă o multitudine de dimensiuni, de la date financiare la informații spațiale. Datele capturate în suita de productivitate de birou, cum ar fi Microsoft Office, și în sistemele sursă interne, create pentru un anumit scop, nu se pretează bine utilizării directe în sistemele de inteligență artificială.

Următoarele enumeră surse de date familiare; această listă nu este deloc exhaustivă:

  • Date financiare pentru sisteme contabile ERP (Oracle, SAP)
  • Date spațiale din sisteme GIS (ESRI ArcGIS)
  • Foi de calcul din instrumente de productivitate de birou (Microsoft Excel, Microsoft Access)
  • Baze de date SQL personalizate utilizate în spatele sistemelor sursă (Microsoft SQL, MySQL, Oracle, SAP)
  • Baze de date cu fișiere plate capturate în sisteme moștenite (Mainframe IBM, fișiere indexate)

Diferite sisteme pot stoca date în formate variate. Seturile de date necesită îmbinare; acest lucru prezintă provocări atunci când există sisteme multiple. Este o practică comună ca analiștii de date să introducă informațiile manual folosind foi de calcul. Tendința actuală este de a introduce datele într-un data lake, astfel încât inginerii de date să poată lucra cu ele fără a trebui să interacționeze direct cu sistemele critice. Prin urmare, au fost necesare transformări de date pentru a atinge obiectivele.

Sistemele de Inteligență Artificială pot face o mare utilizare a acestor date. Cu toate acestea, doar atunci când sunt mai întâi procesate într-un format adecvat pentru a fi introduse în astfel de sisteme, lacurile de date și depozitele de date devin cruciale în producerea seturilor de date de înaltă calitate.

Inteligența Artificială și relația sa cu procesele Extract-Transform-Load (ETL)

Procesele ETL tradiționale probabil nu se vor schimba pe măsură ce inteligența artificială devine mai proeminentă. Este mai probabil ca astfel de tehnici să fie reorientate pentru a produce seturi de date care sunt propice învățării și care funcționează bine cu sistemele AI. Un exemplu este fotografierea obiectelor și etichetarea lor cu o asociere pentru a permite sistemelor AI să învețe.

Există oportunități excelente pentru oamenii de știință în domeniul datelor și inginerii de date de a-și folosi competențele de pregătire a datelor pentru a construi seturi de date pentru sistemele de inteligență artificială. Va fi important ca procesele ETL să fie automatizate și să nu se bazeze pe procese manuale pentru a obține cea mai mare eficiență din sistemele de inteligență artificială în timp real.

Data Lakes și Data Warehouses ca sursă unică de adevăr pentru utilizarea în Inteligența Artificială

Datele brute stocate în sisteme diferite duc la fragmentare. Pentru a depăși acest lucru, este de dorit să se direcționeze toate datele într-o singură locație, cum ar fi o bază de date relațională care permite interogări și manipularea datelor. Odată ce toate datele sunt stocate într-o singură zonă, pot fi accesate și utilizate mai ușor pentru a produce seturi de date care generează informații valoroase. Este esențial să se definească o singură sursă de adevăr.

Data Warehouses pot fi apoi definite folosind standarde precum Kimball sau Inmon pentru a crea dimensiuni care să definească fapte sau măsuri. Un fapt este, de obicei, date categorice, în timp ce o măsură este, de obicei, date numerice în înțelegerea generală. Prelucrarea datelor folosind astfel de standarde oferă beneficii semnificative în asigurarea eficienței și acurateței.

Poate cel mai semnificativ avantaj pentru organizațiile care au investit în a avea un depozit de date bun este că acesta deschide setul de date organizațional către întreaga organizație. În cazul organizațiilor mari, majoritatea angajaților nu au acces la sistemele sursă critice care gestionează afacerea; cu toate acestea, au acces la depozitul de date, de obicei doar în mod citire. Depozitele de date le permit angajaților să identifice informații pe care structura de management a organizației s-ar putea să nu le cunoască în mod obișnuit.

Crearea depozitelor de date asigură că considerațiile de confidențialitate și reglementare sunt definite. Depozitele de date ajută la asigurarea transferului sigur al datelor între părțile interesate. Accesul la lacuri de date și depozite poate îmbunătăți, de asemenea, transparența și responsabilitatea modului în care sunt îndeplinite funcțiile organizaționale, permițând proceduri de operare mai stabile.

Vizualizarea Big Data Organizaționale

O provocare a big data-ului este cum să fie vizualizat optim și cum să fie transmisă povestea pe care o spune. Abordările anterioare includeau servicii de raportare care agreghează datele de la niveluri inferioare la niveluri superioare pentru a fi afișate în grafice standard, cum ar fi grafice cu bare, grafice cu linii și diagrame de dispersie. Aceste abordări sunt potrivite pentru rapoarte de management (de ex. rapoarte de vânzări, rapoarte de conturi) care fac parte din operațiunile zilnice obișnuite de afaceri. Microsoft SSRS este cel mai comun instrument folosit pentru raportarea la nivel de întreprindere.

Programe avansate de vizualizare au apărut pentru a acoperi acest decalaj, Tableau și QlikView dominând piața. Tableau s-a concentrat puternic pe vizualizări uimitoare, în timp ce QlikView a reușit să echilibreze serviciile tradiționale de raportare, cum ar fi Microsoft SSRS și Tableau. Microsoft PowerBI a dominat piața și este considerat mai complex de Gartner. Aceste programe creează tablouri de bord care sunt incredibil de utile pentru monitorizarea mai multor indicatori cheie și integrarea unei astfel de monitorizări ca parte a proceselor organizaționale cuprinzătoare. Factorii de decizie strategică au creat recent tablouri de bord excelente pentru a lua decizii bazate pe date, în timp ce managerii de operațiuni pot reacționa mai rapid pentru a atinge obiectivele corporative.

Odată cu apariția AI, vizualizarea va juca un rol vital. Perspectivele pe care sistemele de inteligență artificială le pot produce sunt complexe și trebuie comunicate într-o reprezentare vizuală pe care oamenii să o poată înțelege cu ușurință. Un exemplu excelent în acest sens este prezentarea unei harti auto-organizabile (SOM) pentru vizualizarea datelor multivariate.

Coalescența datelor pentru a fi introduse într-un sistem de inteligență artificială

Având acces la seturi de date, este apoi posibil să se preia date dintr-o bază de date relațională și să se ofere un conector către un sistem de inteligență artificială. Majoritatea sistemelor AI moderne sunt construite folosind Python și se bazează pe module implementate de obicei în C/C++ pentru a asigura eficiența.

Deoarece Python este în prezent principalul instrument pentru interfațarea cu AI, o serie bogată de conectori de date sunt disponibili pentru multe tipuri diferite de baze de date pentru a accesa date. Mai mult, Python se pretează bine la manipularea datelor și își extinde și mai mult funcționalitatea nativă cu biblioteci bogate precum NumPy și Pandas pentru a ajuta la preprocesarea datelor introduse în sisteme AI specifice. Cadrele actuale sunt pretențioase în ceea ce privește formatele de date acceptate. Cadrele de date cu tipare statice pot ajuta în acest sens. Procesarea GPU necesită tipuri de date specifice, care sunt puțin probabil să se schimbe. Astfel, considerațiile privind tipurile de date trebuie făcute din timp.

Sistemele de Inteligență Artificială din domeniul AI-îngust au cerințe specifice de date, și merită să se acorde timp pentru a lua în considerare acest aspect în etapele de planificare a creării seturilor de date care urmează să fie utilizate în sistemele menționate.

Capturarea, Stocarea și Interpretarea Rezultatelor Inteligenței Artificiale

Sistemele de Inteligență Artificială, având în vedere intrările, vor produce în consecință ieșiri care vor trebui stocate. Și mai entuziasmant, rezultatele pot fi reintroduse în lacurile de date/depozitele de date și pot continua procesul de furnizare de informații, deoarece informațiile pot genera alte informații. Gestionarea modului în care ieșirile sunt stocate va trebui luată în considerare cu atenție în cadrul unui cadru mai larg de guvernanță a datelor.

Având în vedere că sistemele de inteligență artificială procesează cantități uriașe de informații, este probabil să găsească perspective contraintuitive pe care un om le-ar rata de obicei. De obicei, aceste perspective sunt cele care produc cel mai semnificativ avantaj competitiv. Astfel, organizațiile nu vor avea altă alegere decât să se implice cu aceste sisteme ca mijloc de a rămâne competitive.

Interpretarea rezultatelor inteligenței artificiale va necesita o analiză atentă. La fel ca în cercetarea actuală de astăzi, este posibil ca acestea să fie interpretate greșit. Prin urmare, analiștii de date trebuie să parcurgă toate punctele de date și să identifice motivul pentru care sistemele AI au generat anumite concluzii, riscând altfel să acționeze incorect pe baza informațiilor. Instrumentele de vizualizare a datelor descrise mai sus pot fi aplicate rezultatelor generate de AI.

Trecând în deceniile următoare, organizațiile vor începe să se bazeze pe informațiile produse de sistemele AI, iar modul în care datele care stau la baza acestor sisteme sunt guvernate și implementate va fi de cea mai mare importanță.

Contactați-ne astăzi pentru o consultație gratuită despre modul în care Telemus AI™ poate fi integrat în organizația dumneavoastră.