Ұйымдық деректерді AI-мен пайдалану үшін дайындау

Жасанды интеллект шешімдері жоғары сапалы деректерді қажет етеді

Энтони Кваттрон, PhD 2022 жылғы 1 мамыр

Ұйымдық деректер электронды кестелерден мәтіндік құжаттарға, қатынасқа негізделген дерекқорларға және мәтіндік файлдарға дейінгі әртүрлі пішімдерде жазылады және сақталады. Ұйымдық деректерді пайдалану оларды есеп беру және аналитика үшін бизнес-аналитика жүйелерінде пайдалануға жарамды ету үшін бірқатар алдын ала өңдеу қадамдарын қамтиды. AI жүйелері жоғары мамандану дәрежесін қамтамасыз ету үшін оқытуға арналған жоғары мамандандырылған деректер жиынтығын қажет етеді.

Ұйымдық деректерді жасанды интеллект жүйелерінде пайдалану үшін дайындау AI енгізілгенге дейін оқыту деректер жиынын шығару үшін көптеген күрделі Extract-Transform-Load (ETL) процестерін қажет етеді. Көптеген ұйымдардың реттеуші негізі құпиялылық заңдары мен ережелерін ақпаратты шығарғанға дейін сақтау керек екенін білдіреді. Сонымен қатар, деректердің қауіпсіз сақталуы мен пайдаланылуына көз жеткізу үшін ақпаратты шығару аяқталғаннан кейін қатаң сақтау процестері ережелерге сәйкес келуі керек.

Қазіргі ұйымдық ортада үлкен көлемдегі деректер бар, олардың кейбіреулері жұмыс істеуге оңай пішімде құрылымдалмаған. Сондай-ақ бұл ақпаратты өңдеуде техникалық қиындықтар бар. Деректер статикалық болмаған және нақты уақыт режимінде үздіксіз өзгеріп тұрған кезде, динамикалық процестерді қажет ететін болғанда деректерді дайындау күрделілігі артады.

Келесі бөлімдерде негізгі деректер мәселелерін қарастырамыз.

Жалпы Ұйымдық Дерек Көздері

Деректер әртүрлі пішімдерде сақталады және қаржылық деректерден кеңістіктік ақпаратқа дейінгі көптеген өлшемдерді қамтиды. Microsoft Office сияқты кеңсе өнімділік жиынтықтарында және ішкі мақсатқа арналған дереккөз жүйелерінде жиналған деректер жасанды интеллект жүйелерінде тікелей пайдалануға онша сай келмейді.

Төменде таныс деректер көздері келтірілген; бұл тізім ешқашан толық емес:

  • ERP Бухгалтериялық Жүйелері үшін Қаржылық Деректер (Oracle, SAP)
  • GIS жүйелерінен кеңістіктік деректер (ESRI ArcGIS)
  • Кеңсе өнімділік құралдарынан электронды кестелер (Microsoft Excel, Microsoft Access)
  • Дереккөз жүйелерінің артында пайдаланылатын арнайы SQL дерекқорлары (Microsoft SQL, MySQL, Oracle, SAP)
  • Ескі жүйелерде сақталған қарапайым файлдық дерекқорлар (IBM Mainframes, Indexed files)

Әртүрлі жүйелер деректерді әртүрлі пішімдерде сақтай алады. Деректер жиындарын біріктіру қажет; бұл бірнеше жүйе болған кезде тұғырлар тудырады. Деректер аналитиктерінің электрондық кестелерді пайдаланып ақпаратты қолмен енгізуі жиі кездеседі. Қазіргі тренд - деректерді деректер көліне енгізу, осылайша деректер инженерлері онымен сыни жүйелермен тікелей әрекеттеспей-ақ жұмыс істей алады. Соның салдарынан, мақсаттарға жету үшін деректерді түрлендіру қажет болды.

Жасанды интеллект жүйелері бұл деректерді өте жақсы пайдалана алады. Дегенмен, ол алдымен мұндай жүйелерге енгізу үшін тиісті пішімде өңделген кезде ғана деректер көлдері мен деректер қоймалары жоғары сапалы деректер жиынтығын құруда өте маңызды.

Жасанды интеллект және оның Extract-Transform-Load (ETL) процестерімен байланысы

Дәстүрлі ETL процестері жасанды интеллект көбірек танымал болған сайын өзгермеуі ықтимал. Мұндай әдістер AI жүйелерімен жақсы жұмыс істейтін оқуға ыңғайлы деректер жиынтықтарын шығару үшін қайта бағытталатыны ықтимал. Мысалы, нысандардың фотосуреттерін түсіріп, AI жүйелерінің оқуына мүмкіндік беру үшін оларды бірлестікпен белгілеу.

Деректер ғалымдары мен деректер инженерлеріне өздерінің деректерді дайындау дағдыларын жасанды интеллект жүйелері үшін деректер жиынтықтарын құруда қолдану үшін үлкен мүмкіндіктер бар. Нақты уақыт режиміндегі жасанды интеллект жүйелерінен ең жоғары тиімділікті алу үшін ETL процестерін автоматтандыру және қолмен жасалатын процестерге сүйенбеу маңызды болады.

Жасанды Интеллектте пайдалану үшін ақпараттың бірыңғай көзі ретіндегі Деректер көлдері мен Деректер қоймалары

Әртүрлі жүйелерде сақталған шикі деректер фрагментацияға әкеледі. Мұны жеңу үшін барлық деректерді сұраулар мен деректерді өңдеуге мүмкіндік беретін реляциялық дерекқор сияқты бір орынға жіберген жөн. Барлық деректер бір аймақта сақталғаннан кейін, оларға қол жеткізу және құнды ақпарат беретін деректер жиынтықтарын жасау үшін жұмыс істеу оңайырақ. Біртұтас ақпарат көзін анықтау маңызды.

Содан кейін фактілерді немесе өлшемдерді анықтау үшін өлшемдерді жасау мақсатында Kimball немесе Inmon сияқты стандарттарды пайдаланып Деректер қоймаларын анықтауға болады. Жалпы түсінікте факті әдетте санаттық деректер болып табылады, ал өлшем әдетте сандық деректер болып табылады. Мұндай стандарттарды пайдаланып деректерді өңдеу тиімділік пен дәлдікті қамтамасыз етуде айтарлықтай артықшылықтар береді.

Жақсы деректер қоймасына инвестиция салған ұйымдар үшін ең маңызды артықшылығы мүмкін ұйымдық деректер жиынын бүкіл ұйымға ашатыны болып табылады. Ірі ұйымдарда көптеген қызметкерлердің бизнес жүргізетін маңызды бастапқы жүйелерге қол жеткізуі жоқ; дегенмен, олардың деректер қоймасына қол жеткізуі бар, әдетте тек оқу үшін. Деректер қоймалары қызметкерлерге ұйымның басқару құрылымы білмеуі мүмкін түсініктерді анықтауға мүмкіндік береді.

Деректер қоймаларын құру құпиялылық және реттеу мәселелерінің анықталғанын қамтамасыз етеді. Деректер қоймалары деректердің мүдделі тараптар арасында қауіпсіз тасымалдануын қамтамасыз етуге көмектеседі. Деректер көлдері мен қоймаларына қол жеткізу сондай-ақ ұйымдық функциялардың қалай орындалатыны туралы ашықтық пен жауапкершілікті жақсарта алады, бұл тұрақтырақ операциялық рәсімдерге мүмкіндік береді.

Ұйымдық Үлкен Деректерді Визуализациялау

Үлкен деректердің бір мәселесі — оны ең жақсы қалай көру және ол айтатын әңгімені қалай жеткізу. Алдыңғы тәсілдер төменгі деңгейден жоғары деңгейге дейінгі деректерді жинақтап, оларды баған диаграммалары, сызықтық диаграммалар және шашырау графиктері сияқты стандартты диаграммаларда көрсету арқылы есеп беру қызметтерін қамтыды. Бұл тәсілдер күнделікті іскерлік операциялардың бір бөлігі болып табылатын басқару есептеріне (яғни сату есептері, шот есептері) өте қолайлы. Microsoft SSRS — кәсіпорын деңгейіндегі есеп беру үшін ең көп қолданылатын құрал.

Осы саңылауды жабу үшін күрделі визуализация бағдарламалары пайда болды, онда Tableau және QlikView нарықта басымдыққа ие болды. Tableau көрнекі визуализацияларға айтарлықтай назар аударды, ал QlikView Microsoft SSRS және Tableau сияқты дәстүрлі есеп беру қызметтерін тепе-теңдікке келтірді. Microsoft PowerBI нарықта басымдыққа ие болды және Gartner оны күрделірек деп санайды. Бұл бағдарламалар бірнеше негізгі көрсеткіштерді бақылау үшін өте пайдалы және мұндай бақылауды кешенді ұйымдық процестердің бір бөлігі ретінде біріктіретін басқару тақталарын жасайды. Стратегиялық шешім қабылдаушылар жуырда деректерге негізделген шешімдер қабылдау үшін тамаша басқару тақталарын жасады, ал операциялық менеджерлер корпоративті мақсаттарға жету үшін жылдам жауап бере алады.

AI пайда болуымен деректерді көрнекілендіру маңызды рөл атқарады. Жасанды Интеллект жүйелері өндіре алатын түсініктер күрделі және оларды адамдар оңай түсіне алатын көрнекі түрде жеткізу қажет. Осыған тамаша мысал — көп айнымалы деректерді көру үшін өздігінен ұйымдасатын картаны (SOM) ұсыну.

Жасанды Интеллект Жүйелеріне Енгізу Үшін Деректерді Біріктіру

Дерекқорларға қол жеткізе отырып, реляциялық дерекқордан деректерді алып, жасанды интеллект жүйесіне коннектор беруге болады. Көптеген заманауи AI жүйелері Python көмегімен құрылған және тиімділікті қамтамасыз ету үшін әдетте C/C++ тілінде жүзеге асырылған модульдерге сүйенеді.

Python қазіргі уақытта AI-мен әрекеттесудің негізгі құралы болғандықтан, деректерге қол жеткізу үшін көптеген әртүрлі деректер базаларына арналған бай деректер қосқыштары қолжетімді. Сонымен қатар, Python деректерді өңдеуге жақсы бейімделген және NumPy және Pandas сияқты бай кітапханалармен өзінің табиғи мүмкіндіктерін кеңейтіп, нақты AI жүйелеріне енгізілетін деректерді алдын ала өңдеуге көмектеседі. Қазіргі жүйелер қабылданатын деректер пішімдеріне өте талғампаз. Статикалық типтелген деректер жүйелері бұған көмектеседі. GPU өңдеуі өзгеруі екіталай болған нақты деректер түрлерін қажет етеді. Сондықтан деректер түрлері туралы шешімдер алдын ала қабылдануы тиіс.

Тар AI саласындағы жасанды интеллект жүйелерінің нақты деректер талаптары бар және аталмыш жүйелерде пайдаланылатын деректер жиынтығын құрудың жоспарлау кезеңдерінде бұны қарастыруға уақыт бөлу маңызды.

Жасанды Интеллект Нәтижелерін Түсіру, Сақтау және Түсіндіру

Жасанды интеллект жүйелері кірістер берілгенде, нәтижесінде сақтауды қажет ететін шығыстарды шығарады. Таңқаларлығы, нәтижелер деректер көлдеріне/деректер қоймаларына қайта енгізіліп, түсініктерді жеткізу процесін жалғастыра алады, өйткені түсініктер одан әрі түсініктер беруі мүмкін. Шығыстардың қалай сақталатынын басқару ірі деректерді басқару аясында мұқият қарастырылуы қажет.

Жасанды интеллект жүйелері ақпараттың үлкен көлемін өңдейтіндіктен, адамның әдетте қалып қоятын интуицияға қайшы түсініктерді табуы ықтимал. Көбінесе дәл осындай түсініктер ең маңызды бәсекелестік артықшылығын қамтамасыз етеді. Сондықтан ұйымдар бәсекеге қабілетті болып қалу құралы ретінде осы жүйелерді қолдануға мәжбүр болады.

Жасанды интеллект нәтижелерін түсіндіру мұқият қарастыруды талап етеді. Бүгінгі қолданыстағы зерттеулер сияқты, оларды дұрыс түсінбеу мүмкін. Сондықтан деректер аналитиктері барлық деректер нүктелерін қадағалап, AI жүйелерінің нақты нәтижелерге қалай қол жеткізгенін кері қадағалауы немесе түсініктерге сүйеніп қате әрекет ету қаупін бар. Жоғарыда сипатталған деректерді көрнекілендіру құралдарын AI арқылы жасалған нәтижелерге қолдануға болады.

Алдағы онжылдықтарға өте отырып, ұйымдар AI жүйелері әзірлеген ақпаратқа сүйене бастайды және бұл жүйелердің негізін құрайтын деректерді басқару мен енгізу тәсілі ең маңызды рөл атқарады.

Telemus AI™ ұйымыңызға қалай интеграциялануы мүмкін екені туралы тегін кеңес алу үшін бүгін бізбен байланысыңыз.