Përgatitja e të Dhënave Organizative për përdorim me AI

Zgjidhjet e Inteligjencës Artificiale Kërkojnë Të Dhëna të Cilësisë së Lartë

Anthony Quattrone, PhD 1 Maj 2022

Të dhënat organizative kapen dhe ruhen në formate të ndryshme, nga fletët e llogaritjes te dokumentet word, bazat e të dhënave relacionale dhe skedarët tekst. Shfrytëzimi i të dhënave organizative përfshin një sërë hapash paraprake të përpunimit për t'i bërë të përshtatshme për përdorim në sistemet e inteligjencës së biznesit për raportim dhe analitikë. Sistemet AI kërkojnë grupe të dhënash shumë të specializuara për trajnim në mënyrë që të sigurohet një shkallë e lartë e specializimit.

Përgatitja e të dhënave organizative për përdorim në sistemet e inteligjencës artificiale kërkon shumë procese komplekse Nxirr-Transformo-Ngarko (ETL) për të prodhuar një grup të dhënash trajnimi përpara se të futet në një AI. Struktura rregullatore e shumë organizatave nënkupton që ligjet dhe rregulloret e privatësisë duhet të respektohen përpara se të ndodhë nxjerrja. Për më tepër, proceset e rrepta të ruajtjes duhet të përmbushin rregullat pasi nxjerrja të jetë plotësuar për të siguruar që të dhënat të ruhen dhe të përdoren në mënyrë të sigurt.

Ka sasi të mëdha të dhënash në mjedisin aktual organizativ, disa prej të cilave janë të pastrukturuara në një format të lehtë për t'u punuar. Gjithashtu ka një sfidë teknike në përpunimin e këtij informacioni. Kompleksiteti i përgatitjes së të dhënave rritet kur të dhënat nuk janë statike dhe ndryshojnë vazhdimisht në kohë reale, dhe kërkojnë procese dinamike.

Ne do të shqyrtojmë konsideratat kryesore të të dhënave në seksionet e mëposhtme.

Burime të Zakonshme të të Dhënave Organizative

Të dhënat ruhen në formate të ndryshme dhe mbulojnë një shumëllojshmëri dimensionesh, nga të dhënat financiare te informacioni hapësinor. Të dhënat e kapura në suitet e produktivitetit zyrtar si Microsoft Office dhe sistemet burimore të brendshme të përshtatura për qëllim nuk përshtaten mirë për përdorim direkt në sistemet e inteligjencës artificiale.

Më poshtë listohen burime të njohura të dhënash; kjo listë nuk është aspak e plotë:

  • Të dhëna financiare për sistemet kontabël ERP (Oracle, SAP)
  • Të dhëna hapësinore nga Sistemet GIS (ESRI ArcGIS)
  • Fletëllogaritje nga Mjetet e Produktivitetit të Zyrës (Microsoft Excel, Microsoft Access)
  • Baza të të dhënave SQL të personalizuara të përdorura pas sistemeve burimore (Microsoft SQL, MySQL, Oracle, SAP)
  • Baza të dhënash me skedarë të sheshtë të kapura në sistemet e trashëguara (Mainframes IBM, skedarë të indeksuar)

Sistemet e ndryshme mund të ruajnë të dhënat në formate të ndryshme. Të dhënat kërkojnë bashkim; kjo paraqet sfida kur ka sisteme të shumëfishta. Është e zakonshme që analistët e të dhënave të futen informacionin manualisht duke përdorur fletë llogaritjesh. Trendi aktual është të futet të dhënat në një liqen të dhënash, në mënyrë që inxhinierët e të dhënave të mund të punojnë me to pa pasur nevojë të ndërveprojnë drejtpërdrejt me sistemet kritike. Kështu, kërkohej transformim i të dhënave për të arritur qëllimet.

Sistemet e Inteligjencës Artificiale mund të bëjnë përdorim të madh të këtyre të dhënave. Megjithatë, vetëm kur ato përpunohen së pari në një format të përshtatshëm për t'u futur në sisteme të tilla është vendi ku liqenet e të dhënave dhe magazinat e të dhënave janë thelbësore në prodhimin e grupeve të të dhënave të cilësisë së lartë.

Inteligjenca Artificiale dhe lidhja e saj me proceset Extract-Transform-Load (ETL)

Proceset tradicionale ETL ndoshta nuk do të ndryshojnë ndërsa inteligjenca artificiale bëhet më e theksuar. Është më e mundshme që teknikat e tilla do të riorientohen për të prodhuar grupe të dhënash që janë të përshtatshme për mësim që funksionojnë mirë me sistemet AI. Një shembull është marrja e fotove të objekteve dhe etiketimi i tyre me një shoqatë për të lejuar sistemet AI të mësojnë.

Ka mundësi të mëdha në dispozicion të data scientist-ëve dhe data engineer-ëve për të përdorur setet e aftësive të përgatitjes së të dhënave të tyre për të ndërtuar dataset-e për sistemet e inteligjencës artificiale. Do të jetë e rëndësishme që proceset ETL të automatizohen dhe të mos mbështeten në procese manuale për të fituar efikasitetin më të madh nga sistemet e inteligjencës artificiale në kohë reale.

Liqene të të Dhënave dhe Magazina të të Dhënave si Burim i Vetëm i të Vërtetës për përdorim në Inteligjencën Artificiale

Të dhënat e papërpunuara të ruajtura nëpër sisteme të ndryshme rezultojnë në fragmentim. Për ta kapërcyer këtë, është e dëshirueshme të drejtohen të gjitha të dhënat në një vend, si p.sh. një bazë të dhënave relacionale që lejon pyetjet dhe manipulimin e të dhënave. Pasi të gjitha të dhënat të ruhen në një zonë, ato mund të aksesohen dhe përpunohen më lehtësisht për të prodhuar grupe të dhënash që japin informacione të vlefshme. Është thelbësore të përcaktohet një burim i vetëm i së vërtetës.

Magazinat e të Dhënave mund të përkufizohen më pas duke përdorur standarde si Kimball ose Inmon për të krijuar dimensione për të përcaktuar fakte ose masa. Një fakt është zakonisht të dhëna kategorike, ndërsa një masë është zakonisht të dhëna numerike në kuptimin e përgjithshëm. Përpunimi i të dhënave duke përdorur standarde të tilla ofron përfitime të rëndësishme në sigurimin e efikasitetit dhe saktësisë.

Ndoshta avantazhi më i rëndësishëm për organizatat që kanë investuar në pasjen e një depo të mirë të të dhënave është se ai hap grupin e të dhënave organizative për organizatën më të gjerë. Duke pasur parasysh organizatat e mëdha, shumica e punonjësve nuk kanë qasje në sistemet burimore kritike që drejtojnë biznesin; megjithatë, ata kanë qasje në depon e të dhënave, zakonisht vetëm për lexim. Depoja e të dhënave u lejon punonjësve të identifikojnë njohuri që struktura e menaxhimit të organizatës mund të mos i njohë zakonisht.

Krijimi i magazinave të të dhënave siguron që konsideratat e privatësisë dhe rregullative të përcaktohen. Magazinat e të dhënave ndihmojnë në sigurimin që të dhënat të transferohen në mënyrë të sigurt mes palëve të interesuara. Qasja në liqene të dhënash dhe magazina mund të përmirësojë gjithashtu transparencën dhe përgjegjshmërinë se si funksionet organizative kryhen, duke lejuar procedura operacionale më të qëndrueshme.

Vizualizimi i Big Data Organizative

Një sfidë e të dhënave të mëdha (big data) është se si t'i shikosh më mirë dhe t'i përcjellësh historinë që tregon. Qasjet e mëparshme përfshinin shërbime raportimi që agregojnë të dhënat nga nivelet më të ulëta në ato më të larta për t'u shfaqur në grafikë standardë si grafikë me shtylla, grafikë me vija dhe grafikë me pikë. Këto qasje janë të përshtatshme për raporte menaxheriale (p.sh. raporte shitjesh, raporte llogarish) që janë pjesë e operacioneve të përditshme të zakonshme të biznesit. Microsoft SSRS është mjeti më i zakonshëm i përdorur për raportim në nivel ndërmarrjeje.

Programe të avancuara vizualizimi dolën për të adresuar këtë boshllëk, me Tableau dhe QlikView që dominonin tregun. Tableau u përqendrua shumë te vizualizime befasuese, ndërsa QlikView arriti të balanconte shërbimet tradicionale të raportimit si Microsoft SSRS dhe Tableau. Microsoft PowerBI ka dominuar tregun dhe konsiderohet më kompleks nga Gartner. Këto programe krijojnë pulte që janë jashtëzakonisht të dobishme për monitorimin e shumë metrikave kyçe dhe integrimin e një monitorimi të tillë si pjesë e proceseve gjithëpërfshirëse organizative. Vendimmarrësit strategjikë kohët e fundit kanë krijuar pulte të shkëlqyera për të marrë vendime të bazuara në të dhëna, ndërsa menaxherët e operacioneve mund të përgjigjen më shpejt për të arritur objektivat korporative.

Me ardhjen e AI, vizualizimi do të luajë një rol jetik. Të dhënat që sistemet e Inteligjencës Artificiale mund të prodhojnë janë komplekse, dhe duhet të komunikohen në një paraqitje vizuale që njerëzit mund ta kuptojnë lehtësisht. Një shembull i shkëlqyer i kësaj është paraqitja e një harte vetë-organizuese (SOM) për të parë të dhëna shumëvariabëlshe.

Bashkimi i të Dhënave për t'i Furnizuar Sistemet e Inteligjencës Artificiale

Duke pasur hyrje në grupet e të dhënave, atëherë është e mundur të merren të dhëna nga një bazë të dhënash relacionale dhe të ofrohet një lidhës me një sistem inteligjence artificiale. Shumica e sistemeve moderne AI ndërtohen duke përdorur Python dhe mbështeten në module të zbatuara zakonisht në C/C++ për të siguruar efikasitet.

Meqenëse Python është aktualisht mjeti kryesor për të ndërvepruar me AI, një seri e pasur lidhësish të të dhënave janë në dispozicion për shumë lloje të ndryshme bazash të të dhënave për të përdorur të dhënat. Për më tepër, Python përshtatet mirë për manipulime të të dhënave dhe zgjeron më tej funksionalitetin nativ me biblioteka të pasura si NumPy dhe Pandas për të ndihmuar më tej në parapërpunimin e të dhënave që ushqehen në sisteme specifike AI. Kornizat e tanishme janë specifike me formatet e të dhënave që pranohen. Kornizat e të dhënave të tipizuara statikisht mund të ndihmojnë me këtë. Përpunimi i GPU kërkon lloje specifike të të dhënave, të cilat janë të pamundura të ndryshojnë. Kështu, konsideratat e llojeve të të dhënave duhet të bëhen paraprakisht.

Sistemet e Inteligjencës Artificiale në fushën e AI të ngushtë kanë kërkesa specifike për të dhëna, dhe ia vlen të merret kohë për t'i marrë parasysh këto gjatë fazave të planifikimit të krijimit të grupeve të të dhënave që do të përdoren në sistemet e tha.

Kapja, Ruajtja dhe Interpretimi i Rezultateve të Inteligjencës Artificiale

Sistemet e Inteligjencës Artificiale, duke i dhënë inputet, rrjedhimisht do të prodhojnë outpute që do të duhet të ruhen. Më emocionuese, rezultatet mund t'i kthehen përsëri në liqenet e të dhënave/magazinat e të dhënave dhe të vazhdojnë procesin e dhënies së njohurive pasi njohuritë mund të prodhojnë njohuri të mëtejshme. Menaxhimi i mënyrës se si ruhen outputet do të duhet të konsiderohet me kujdes brenda një kornize më të gjerë të qeverisjes së të dhënave.

Duke pasur parasysh se sistemet e inteligjencës artificiale përpunojnë sasi të mëdha informacioni, është e mundur të gjenden njohuri kundërintuitive që një njeri zakonisht do t'i humbiste. Zakonisht janë këto njohuri që prodhojnë avantazhin më të rëndësishëm konkurrues. Kështu, organizatat nuk do të kenë zgjidhje tjetër përveçse të përfshihen me këto sisteme si një mjet për të mbetur konkurruese.

Interpretimi i rezultateve të inteligjencës artificiale do të kërkojë konsideratë të kujdesshme. Ashtu si me kërkimin aktual sot, është e mundur që ato të keqinterpretohen. Prandaj, analistët e të dhënave duhet të ndjekin të gjitha pikat e të dhënave dhe të gjurmojnë prapa pse sistemet e AI kanë dhënë gjetje specifike ose rrezikojnë të veprojnë gabimisht mbi njohuri. Përdorimi i mjeteve të vizualizimit të të dhënave siç përshkruhet më lart mund të zbatohet në rezultatet e gjeneruara nga AI.

Duke kaluar në dekadat e ardhshme, organizatat do të fillojnë të mbështeten në informacionin e prodhuar nga sistemet AI dhe mënyra se si qeverisen dhe zbatohen të dhënat që mbështesin këto sisteme do të jetë e rëndësishme sa më shumë.

Na kontaktoni sot për një konsultë falas se si Telemus AI™ mund të integrohet në organizatën tuaj.