Подготовка на организациски податоци за употреба со AI

Решенијата за вештачка интелигенција бараат висококвалитетни податоци

Anthony Quattrone, PhD 1 мај 2022

Организационите податоци се собираат и складираат во различни формати, од табеларни пресметки до текстуални документи, релациони бази на податоци и текстуални датотеки. Искористувањето на организационите податоци вклучува серија чекори за предобработка за да се направат погодни за употреба во системите за бизнис интелигенција за известување и аналитика. AI системите бараат високо специјализирани множества на податоци за обука за да се обезбеди високо ниво на специјализација.

Подготовката на организациски податоци за употреба во системите за вештачка интелигенција бара многу сложени процеси Extract-Transform-Load (ETL) за да се создаде тренинг сет на податоци пред да се внесат во AI. Регулаторната рамка на многу организации подразбира дека законите и прописите за приватност треба да се почитуваат пред да се изврши екстракцијата. Понатаму, строгите процеси за складирање треба да се усогласат со правилата откако екстракцијата ќе биде завршена, за да се осигура дека податоците се складирани и користени безбедно.

Постојат огромни количини на податоци во тековното организационо опкружување, од кои некои се неструктурирани во формат што е лесен за работа. Исто така, постои технички предизвик при обработката на овие информации. Комплексноста на подготовката на податоците се зголемува кога податоците не се статични и постојано се менуваат во реално време, и бара динамички процеси.

Ќе ги истражиме клучните размислувања за податоците во следните секции.

Чести извори на податоци во организациите

Податоците се чуваат во различни формати и покриваат мултитудинални димензии, од финансиски податоци до просторни информации. Податоците снимени во канцелариски пакети за продуктивност како Microsoft Office и внатрешни соодветни изворни системи не се погодни за директна употреба во системи за вештачка интелигенција.

Следното ги наведува познатите извори на податоци; оваа листа никако не е исцрпна:

  • Финансиски податоци за ERP сметководствени системи (Oracle, SAP)
  • Просторни податоци од GIS системи (ESRI ArcGIS)
  • Табели за пресметки од алатки за канцеларска продуктивност (Microsoft Excel, Microsoft Access)
  • Custom SQL бази на податоци користени зад изворни системи (Microsoft SQL, MySQL, Oracle, SAP)
  • Бази на податоци со рамни датотеки снимени во застарени системи (IBM Mainframes, индексирани датотеки)

Различни системи може да чуваат податоци во различни формати. Сетовите на податоци бараат спојување; ова претставува предизвици кога има повеќе системи. Често е аналитичарите на податоци рачно да внесуваат информации користејќи табеларни пресметки. Momentалниот тренд е внесување на податоци во податочно езеро, за да можат инженерите за податоци да работат со нив без директно да се поврзуваат со критични системи. Така, беа потребни трансформации на податоци за постигнување на целите.

Системите за вештачка интелигенција можат многу да ги искористат овие податоци. Сепак, само кога прво ќе бидат обработени во соодветен формат за внесување во таквите системи, е местото каде што податочните езера и податочните складишта се клучни во создавањето висококвалитетни множества на податоци.

Вештачка интелигенција и нејзината врска со Extract-Transform-Load (ETL) процеси

Традиционалните ETL процеси најверојатно нема да се променат како што вештачката интелигенција станува поистакната. Повеќе е веројатно дека таквите техники ќе бидат пренасочени за да произведат множества на податоци кои се погодни за учење и кои работат добро со AI системи. Пример е фотографирање на објекти и нивно означување со асоцијација за да им се овозможи на AI системите да учат.

Постојат одлични можности достапни за научниците за податоци и инженерите за податоци да ги искористат своите вештини за подготовка на податоци за изградба на множества податоци за системи за вештачка интелигенција. Ќе биде важно ETL процесите да бидат автоматизирани и да не се потпираат на рачни процеси за да се добие максимална ефикасност од системите за вештачка интелигенција во реално време.

Езера на податоци и складишта на податоци како единствен извор на вистина за употреба во вештачка интелигенција

Суровите податоци складирани низ различни системи резултираат со фрагментација. За да се надмине ова, пожелно е сите податоци да се пренесат во една локација, како што е релациска база на податоци што дозволува пребарувања и манипулација со податоци. Откако сите податоци ќе бидат складирани на една област, може полесно да се пристапи и да се работи со нив за да се создадат множества на податоци што даваат вредни информации. Есенцијално е да се дефинира единствен извор на вистина.

Складиштата на податоци потоа може да се дефинираат со користење стандарди како Kimball или Inmon за креирање димензии за дефинирање факти или мерки. Факт типично е категорични податоци, додека мерка е типично нумерички податоци во општата смисла. Обработката на податоци со такви стандарди нуди значителни придобивки во обезбедувањето ефикасност и точност.

Можеби најзначајната предност за организациите што инвестирале во поседување добар магацин за податоци е тоа што им го отвора организацискиот сет на податоци на пошироката организација. Имајќи предвид големи организации, повеќето вработени немаат пристап до критичните изворни системи што го водат бизнисот; сепак, тие имаат пристап до магацинот за податоци, обично само за читање. Магацините за податоци им овозможуваат на вработените да идентификуваат увиди што менаџментската структура на организацијата обично може да не ги знае.

Создавањето на складишта за податоци осигурува дека се дефинирани приватноста и регулаторните размислувања. Складиштата за податоци помагаат да се осигура дека податоците безбедно се пренесуваат помеѓу засегнатите страни. Пристапот до езера и складишта на податоци исто така може да ја подобри транспарентноста и одговорноста за тоа како се спроведуваат организациските функции, овозможувајќи постабилни оперативни процедури.

Визуелизација на организациски Big Data

Предизвик на големи податоци е како најдобро да се прегледаат и да се пренесе приказната што ја раскажуваат. Претходните пристапи вклучуваа услуги за известување што ги агрегираат податоците од пониски кон повисоки нивоа за да се прикажат во стандардни графикони како што се столбести графикони, линијски графикони и расеани графикони. Овие пристапи се соодветни за менаџмент извештаи (т.е. извештаи за продажба, извештаи за сметки) кои се дел од секојдневните вообичаени деловни операции. Microsoft SSRS е најчестиот алатка што се користи за известување на ниво на цело претпријатие.

Напредни програми за визуелизација се појавија за да го надоместат овој јаз, при што Tableau и QlikView доминираа на пазарот. Tableau се фокусираше силно на impresивни визуелизации, додека QlikView успеа да ги балансира традиционалните услуги за извештаи како Microsoft SSRS и Tableau. Microsoft PowerBI доминира на пазарот и се смета за посложен од Gartner. Овие програми создаваат контролн табли кои се неверојатно корисни за следење на повеќе клучни метрики и интегрирање на таквото следење како дел од сеопфатни организациски процеси. Стратешките носители на одлуки неодамна создадоа одлични контролн табли за носење одлуки базирани на податоци, додека оперативните менаџери можат побрзо да реагираат за да ги постигнат корпоративните цели.

Со појавата на AI, визуелизацијата ќе игра витална улога. Увидите што системите за вештачка интелигенција може да ги произведат се сложени, и треба да се соопштат во визуелна репрезентација што луѓето лесно може да ја разберат. Одличен пример за ова е презентирањето на само-организирачка мапа (SOM) за преглед на мултиваријабилни податоци.

Спојување на податоци за внесување во системи за вештачка интелигенција

Даден пристап до множества податоци, потоа е можно да се земат податоци од релациона база на податоци и да се обезбеди конектор до систем за вештачка интелигенција. Повеќето модерни AI системи се изградени користејќи Python и се потпираат на модули типично имплементирани во C/C++ за да се обезбеди ефикасност.

Бидејќи Python е моментално примарна алатка за интерфејс со AI, достапна е богата серија на конектори за податоци за многу различни типови на бази на податоци за пристап до податоци. Понатаму, Python се покажува како одличен за манипулации со податоци и ја проширува својата вродена функционалност со богати библиотеки како NumPy и Pandas за дополнителна помош при пред-обработката на податоците кои се внесуваат во специфични AI системи. Моменталните рамки се посебни во поглед на форматите на податоци кои се прифаќаат. Статички типизираните рамки за податоци може да помогнат во ова. GPU обработката бара специфични типови на податоци, за кои е малку веројатно дека ќе се сменат. Затоа, размислувањата за типот на податоци мора да се направат однапред.

Системите за вештачка интелигенција во областа на тесната AI имаат специфични барања за податоци, и вреди да се одвои време за да се разгледа ова за време на фазите на планирање при создавањето множества на податоци што ќе се користат во споменатите системи.

Заробување, складирање и интерпретирање на резултатите од вештачката интелигенција

Системите за вештачка интелигенција, со оглед на влезовите, последователно ќе дадат излези што ќе треба да бидат складирани. Уште повозбудливо, резултатите може да се вратат во податочните езера/податочните складишта и да го продолжат процесот на доставување увиди, бидејќи увидите може да дадат понатамошни увиди. Управувањето со тоа како се складираат излезите ќе треба внимателно да се разгледа во рамките на поголема рамка за управување со податоци.

Дадено дека системите за вештачка интелигенција обработуваат огромни количини информации, веројатно е да се најдат контраинтуитивни сознанија што човек обично би ги пропуштил. Обично токму овие сознанија го произведуваат најзначајното конкурентско предност. Така, организациите нема да имаат друг избор освен да се ангажираат со овие системи како средство за останување конкурентни.

Интерпретацијата на резултатите од вештачката интелигенција ќе бара внимателно разгледување. Како и со тековното истражување денес, можно е да бидат погрешно протолкувани. Затоа, аналитичарите на податоци мора да ги следат сите точки на податоци и да го следат наназад зошто AI системите дале специфични наоди или ризикуваат погрешно да дејствуваат врз основа на увидот. Употребата на алатки за визуелизација на податоци како што е опишано погоре може да се примени на резултатите генерирани од AI.

Со преминувањето во наредните децении, организациите ќе почнат да се потпираат на информации произведени од AI системи и тоа како се управува и имплементираат податоците што ги поддржуваат овие системи ќе биде од најголема важност.

Контактирајте не денес за бесплатна консултација за тоа како Telemus AI™ може да се интегрира во вашата организација.