ორგანიზაციული მონაცემების მომზადება AI-სთან გამოსაყენებლად

ხელოვნური ინტელექტის გადაწყვეტილებებს სჭირდებათ მაღალი ხარისხის მონაცემები

ენტონი კვატრონე, PhD 1 მაისი 2022

ორგანიზაციული მონაცემები ინახება და იმახსოვრება სხვადასხვა ფორმატში, ელექტრონული ცხრილებიდან ტექსტურ დოკუმენტებამდე, რელაციურ მონაცემთა ბაზებსა და ტექსტურ ფაილებამდე. ორგანიზაციული მონაცემების გამოყენება მოიცავს წინასწარი დამუშავების ნაბიჯების სერიას, რათა ისინი გამოსაყენებლად ვარგისი გახადოს ბიზნეს ინტელექტის სისტემებში რეპორტინგისა და ანალიზისთვის. AI სისტემები მოითხოვენ ძალიან სპეციალიზებულ მონაცემთა ნაკრებებს სწავლებისთვის, რათა უზრუნველყონ მაღალი ხარისხის სპეციალიზაცია.

ორგანიზაციული მონაცემების მომზადება ხელოვნური ინტელექტის სისტემებში გამოსაყენებლად მოითხოვს მრავალ რთულ Extract-Transform-Load (ETL) პროცესს საწარმოო მონაცემთა ნაკრების შესაქმნელად AI-ში შეყვანამდე. ბევრი ორგანიზაციის რეგულაციების ჩარჩო გულისხმობს, რომ კონფიდენციალურობის კანონებსა და რეგულაციებს უნდა დაექვემდებაროს მონაცემების ექსტრაქციამდე. გარდა ამისა, მკაცრი შენახვის პროცესები უნდა შეესაბამებოდეს წესებს მონაცემების ექსტრაქციის დასრულებისთანავე, რათა უზრუნველყოფილი იყოს მონაცემების უსაფრთხოდ შენახვა და გამოყენება.

არსებობს უზარმაზარი რაოდენობის მონაცემები მიმდინარე ორგანიზაციულ გარემოში, რომელთაგან ზოგიერთი არასტრუქტურირებულია ისეთ ფორმატში, რომელთანაც მუშაობა ადვილია. ასევე არსებობს ტექნიკური გამოწვევა ამ ინფორმაციის დამუშავებაში. მონაცემთა მომზადების სირთულე იზრდება, როდესაც მონაცემები არ არის სტატიკური და მუდმივად იცვლება რეალურ დროში, რაც მოითხოვს დინამიკურ პროცესებს.

შემდეგ ნაწილებში განვიხილავთ მონაცემებთან დაკავშირებულ ძირითად ასპექტებს.

საერთო ორგანიზაციული მონაცემთა წყაროები

მონაცემები ინახება სხვადასხვა ფორმატში და მოიცავს მრავალგანზომილებიან მონაცემებს, ფინანსური მონაცემებიდან დაწყებული სივრცული ინფორმაციით დამთავრებული. Microsoft Office-ის მსგავს ოფისის პროდუქტიულობის პაკეტებში და შიდა დანიშნულებისამებრ წყაროს სისტემებში აღებული მონაცემები არ არის კარგად შესაბამისი პირდაპირ ხელოვნური ინტელექტის სისტემებში გამოსაყენებლად.

ქვემოთ ჩამოთვლილია ნაცნობი მონაცემთა წყაროები; ეს სია სრულიად არ არის ამომწურავი:

  • ERP ბუღალტრული აღრიცხვის სისტემებისთვის განკუთვნილი ფინანსური მონაცემები (Oracle, SAP)
  • სივრცული მონაცემები GIS სისტემებიდან (ESRI ArcGIS)
  • ელექტრონული ცხრილები ოფისის პროდუქტიულობის ხელსაწყოებიდან (Microsoft Excel, Microsoft Access)
  • წყაროს სისტემების უკან გამოყენებული მორგებული SQL მონაცემთა ბაზები (Microsoft SQL, MySQL, Oracle, SAP)
  • მონაცემთა ბაზები ბრტყელი ფაილების სახით, რომლებიც მოწყობილია მოძველებულ სისტემებში (IBM Mainframes, Indexed files)

სხვადასხვა სისტემა შეიძლება მონაცემებს სხვადასხვა ფორმატში ინახავდეს. მონაცემთა ნაკრებები საჭიროებს შეერთებას; ეს ქმნის გამოწვევებს, როდესაც არსებობს მრავალი სისტემა. მონაცემთა ანალიტიკოსებისთვის ჩვეულებრივი მოვლენაა ინფორმაციის ელექტრონული ცხრილების გამოყენებით ხელით შეყვანა. მიმდინარე ტენდენციაა მონაცემების მონაცემთა ტბაში შეყვანა, რათა მონაცემთა ინჟინრებმა შეძლონ მასთან მუშაობა კრიტიკულ სისტემებთან პირდაპირი კავშირის გარეშე. ამრიგად, მიზნების მისაღწევად საჭირო იყო მონაცემთა ტრანსფორმაცია.

ხელოვნური ინტელექტის სისტემებს შეუძლიათ ამ მონაცემების დიდი გამოყენება. თუმცა, მხოლოდ მაშინ, როდესაც ის ჯერ დამუშავდება შესაბამის ფორმატში ასეთ სისტემებში შესაყვანად, სადაც მონაცემთა ტბები და მონაცემთა საცავები გადამწყვეტია მაღალი ხარისხის მონაცემთა ნაკრებების შესაქმნელად.

ხელოვნური ინტელექტი და მისი კავშირი Extract-Transform-Load (ETL) პროცესებთან

ტრადიციული ETL პროცესები, სავარაუდოდ, არ შეიცვლება, რადგან ხელოვნური ინტელექტი უფრო თვალსაჩინო ხდება. უფრო სავარაუდოა, რომ ასეთი ტექნიკა ხელახლა მიმართული იქნება ისეთი მონაცემთა ნაკრებების შესაქმნელად, რომლებიც ხელს უწყობენ სწავლას და კარგად მუშაობენ AI სისტემებთან. მაგალითია ობიექტების ფოტოების გადაღება და მათი დახარისხება ასოციაციით, რათა AI სისტემებმა ისწავლონ.

არსებობს დიდი შესაძლებლობები ხელმისაწვდომი მონაცემთა მეცნიერებისა და მონაცემთა ინჟინრებისთვის, გამოიყენონ თავიანთი მონაცემთა მომზადების უნარები ხელოვნური ინტელექტის სისტემებისთვის მონაცემთა ნაკრებების ასაშენებლად. მნიშვნელოვანი იქნება, რომ ETL პროცესები ავტომატიზირებული იყოს და არ ეყრდნობოდეს ხელით პროცესებს, რათა მიიღოთ ყველაზე ეფექტური შედეგი რეალურ დროში ხელოვნური ინტელექტის სისტემებიდან.

მონაცემთა ტბები და მონაცემთა საცავები, როგორც ერთი ჭეშმარიტების წყარო ხელოვნურ ინტელექტში გამოსაყენებლად

სხვადასხვა სისტემებში შენახული დაუმუშავებელი მონაცემები იწვევს ფრაგმენტაციას. ამის დასაძლევად, სასურველია ყველა მონაცემის ერთ ადგილას მიმართვა, როგორიცაა რელაციური მონაცემთა ბაზა, რომელიც უზრუნველყოფს მოთხოვნებსა და მონაცემთა მანიპულაციას. როდესაც ყველა მონაცემი შენახულია ერთ ადგილას, მასზე წვდომა და მუშაობა უფრო ადვილია, რათა შეიქმნას მონაცემთა ნაკრებები, რომლებიც იძლევიან ღირებულ ინფორმაციას. აუცილებელია განისაზღვროს ერთი ჭეშმარიტების წყარო.

შემდეგში მონაცემთა საცავების განსაზღვრა შეიძლება ისეთი სტანდარტების გამოყენებით, როგორიცაა Kimball ან Inmon, განზომილებების შესაქმნელად, რათა განისაზღვროს ფაქტები ან ზომები. ფაქტი, როგორც წესი, კატეგორიული მონაცემებია, ხოლო ზომა არის, როგორც წესი, რიცხვითი მონაცემები ზოგადი გაგებით. ასეთი სტანდარტების გამოყენებით მონაცემების დამუშავება მნიშვნელოვან სარგებელს იძლევა ეფექტურობისა და სიზუსტის უზრუნველსაყოფად.

ალბათ ყველაზე მნიშვნელოვანი უპირატესობა ორგანიზაციებისთვის, რომლებიც ინვესტირებას ახდენენ კარგი მონაცემთა საცავის ქონაში, ის არის, რომ ის ხსნის ორგანიზაციულ მონაცემთა ნაკრებს მთლიანი ორგანიზაციისთვის. დიდი ორგანიზაციების შემთხვევაში, თანამშრომელთა უმრავლესობას არ აქვს წვდომა კრიტიკულ საწყის სისტემებზე, რომლებიც მართავენ ბიზნესს; თუმცა, მათ აქვთ წვდომა მონაცემთა საცავზე, როგორც წესი, მხოლოდ წაკითხვის რეჟიმში. მონაცემთა საცავები საშუალებას აძლევენ თანამშრომლებს იდენტიფიცირება მოახდინონ ისეთი ინსაითების, რომლებიც ორგანიზაციის მენეჯმენტის სტრუქტურას შეიძლება არ ეცოდინებოდეს.

მონაცემთა საცავების შექმნა უზრუნყოფილებს, რომ კონფიდენციალურობისა და რეგულაციების მოთხოვნები განსაზღვრულია. მონაცემთა საცავები ხელს უწყობს მონაცემების უსაფრთხოდ გადაცემას დაინტერესებულ მხარეებს შორის. მონაცემთა ტბებსა და საცავებზე წვდომა ასევე შეიძლება გააუმჯობესოს გამჭვირვალობა და პასუხისმგებლობა იმის შესახებ, თუ როგორ სრულდება ორგანიზაციული ფუნქციები, რაც საშუალებას იძლევა უფრო სტაბილური ოპერაციული პროცედურების შექმნის.

ორგანიზაციული დიდი მონაცემების ვიზუალიზაცია

დიდი მონაცემების ერთ-ერთი გამოწვევაა, თუ როგორ საუკეთესოდ დავათვალიეროთ ის და გადმოვცემთ ისტორია, რომელსაც ის ყვება. ადრინდელი მიდგომები მოიცავდა ანგარიშგების სერვისებს, რომლებიც აგრეგირებენ მონაცემებს დაბალიდან მაღალ დონემდე, რათა ისინი გამოსახული იყოს სტანდარტულ გრაფიკებში, როგორიცაა ბარის გრაფიკები, ხაზოვანი გრაფიკები და გაფანტვის გრაფიკები. ეს მიდგომები შესაფერისია მენეჯმენტის ანგარიშებისთვის (მაგ. გაყიდვების ანგარიშები, ანგარიშები), რომლებიც წარმოადგენენ ყოველდღიური ბიზნესის ჩვეულებრივი ოპერაციების ნაწილს. Microsoft SSRS არის ყველაზე გავრცელებული ინსტრუმენტი, რომელიც გამოიყენება მთელს საწარმოში ანგარიშგებისთვის.

მოწინავე ვიზუალიზაციის პროგრამები გამოჩნდა ამ ნაპრალის ამოსავსებად, სადაც Tableau და QlikView ბაზარს ინარჩუნებდნენ. Tableau მეტად ფოკუსირებული იყო სანახაობრივ ვიზუალიზაციებზე, ხოლო QlikView ახერხებდა ბალანსის შენარჩუნებას ტრადიციულ ანგარიშგების სერვისებსა და Microsoft SSRS-სა და Tableau-ს შორის. Microsoft PowerBI-მ დაიპყრო ბაზარი და ითვლება უფრო რთულად Gartner-ის მიერ. ეს პროგრამები ქმნიან დაშბორდებს, რომლებიც წარმოუდგენლად სასარგებლოა მრავალი ძირითადი მეტრიკის მონიტორინგისთვის და ასეთი მონიტორინგის ინტეგრირებისთვის, როგორც ყოვლისმომცველი ორგანიზაციული პროცესების ნაწილი. სტრატეგიულმა გადაწყვეტილების მიმღებებმა ახლახან შექმნეს შესანიშნავი დაშბორდები მონაცემებზე დაფუძნებული გადაწყვეტილებების მისაღებად, ხოლო ოპერაციების მენეჯერებს შეუძლიათ უფრო სწრაფად უპასუხონ კორპორატიული მიზნების მისაღწევად.

AI-ის გამოჩენასთან ერთად, ვიზუალიზაცია მნიშვნელოვან როლს ითამაშებს. ხელოვნური ინტელექტის სისტემების მიერ მოწოდებული ინფორმაცია რთულია და ის უნდა წარმოდგენილი იყოს ვიზუალური ფორმით, რომელიც ადამიანებს ადვილად ესმით. ამის შესანიშნავი მაგალითია თვითორგანიზებადი რუკის (SOM) წარდგენა მრავალცვლადიანი მონაცემების სანახავად.

მონაცემების შერწყმა ხელოვნური ინტელექტის სისტემებში შესატანად

მონაცემთა ნაკრებებზე წვდომის მიცემის შემდეგ, შესაძლებელია მონაცემების აღება რელაციური მონაცემთა ბაზიდან და ხელოვნური ინტელექტის სისტემასთან დაკავშირების უზრუნველყოფა. თანამედროვე AI სისტემების უმრავლესობა აგებულია Python-ის გამოყენებით და ეყრდნობა მოდულებს, რომლებიც, როგორც წესი, განხორციელებულია C/C++-ში ეფექტიანობის უზრუნველსაყოფად.

რადგან Python ამჟამად არის ძირითადი ინსტრუმენტი AI-თან ინტერფეისისთვის, ხელმისაწვდომია მონაცემთა კონექტორების მდიდარი სერია მრავალი სხვადასხვა ტიპის მონაცემთა ბაზაში მონაცემებზე წვდომისთვის. გარდა ამისა, Python კარგად ერგება მონაცემთა მანიპულაციებს და შემდგომ აფართოებს ბუნებრივ ფუნქციონირებას მდიდარი ბიბლიოთეკებით, როგორიცაა NumPy და Pandas, რათა დაგვეხმაროს კონკრეტულ AI სისტემებში შესაყვანი მონაცემების წინასწარ დამუშავებაში. ამჟამინდელი ჩარჩოები განსაკუთრებით მკაცრია მონაცემთა ფორმატებთან დაკავშირებით, რომლებიც მიღებულია. სტატიკურად ტიპიზირებული მონაცემთა ჩარჩოები ამაში დაგეხმარებათ. GPU დამუშავება მოითხოვს კონკრეტულ მონაცემთა ტიპებს, რომლებიც ნაკლებად სავარაუდოა შეიცვალოს. ამრიგად, მონაცემთა ტიპის გათვალისწინება წინასწარ უნდა მოხდეს.

ხელოვნური ინტელექტის სისტემებს narrow-AI სფეროში აქვთ კონკრეტული მონაცემთა მოთხოვნები და ღირს დროის დათმობა ამის გასათვალისწინებლად ამ სისტემებში გამოსაყენებელი მონაცემთა ნაკრებების შექმნის დაგეგმვის ეტაპებზე.

ხელოვნური ინტელექტის შედეგების ჩაჭირა, შენახვა და ინტერპრეტირება

ხელოვნური ინტელექტის სისტემები, მოცემული შეყვანის შედეგად, შესაბამისად აწარმოებენ გამოყვანას, რომელთა შენახვაც დასჭირდებათ. უფრო საინტერესოდ, შედეგები შეიძლება დაბრუნდეს მონაცემთა ტბებში/მონაცემთა საცავებში და გააგრძელოს შეხედულებების მიწოდების პროცესი, რადგან შეხედულებებს შეუძლიათ შემდგომი შეხედულებების გამომუშავება. იმის მართვა, თუ როგორ ინახება გამოყვანილი შედეგები, ფრთხილად უნდა იქნას განხილული უფრო ფართო მონაცემთა მართვის ჩარჩოში.

იმის გათვალისწინებით, რომ ხელოვნური ინტელექტის სისტემები ამუშავებს ინფორმაციის უზარმაზარ რაოდენობას, სავარაუდოა, რომ იპოვის კონტრაინტუიციურ შეხედულებებს, რომელთა გამოტოვებაც ადამიანს ჩვეულებრივ შეუძლია. სწორედ ეს შეხედულებები იძლევა ყველაზე მნიშვნელოვან კონკურენტულ უპირატესობას. ამიტომ, ორგანიზაციებს არ დარჩებათ სხვა გზა, გარდა ამ სისტემებთან ინტეგრირებისა, როგორც კონკურენტუნარიანობის შენარჩუნების საშუალებისა.

ხელოვნური ინტელექტის შედეგების ინტერპრეტაცია საფრთხელიან განხილვას მოითხოვს. ისევე როგორც დღევანდელ კვლევებში, შესაძლებელია მისი არასწორად ინტერპრეტირება. ამიტომ, მონაცემთა ანალიტიკოსებმა უნდა გადაამოწმონ ყველა მონაცემის წერტილი და უკან დაადგინონ, თუ რატომ მიიღო AI სისტემებმა კონკრეტული შედეგები, წინააღმდეგ შემთხვევაში რისკავენ არასწორ მოქმედებას მიღებულ ინფორმაციაზე. ზემოთ აღწერილი მონაცემთა ვიზუალიზაციის ხელსაწყოების გამოყენება შესაძლებელია AI-ს მიერ გენერირებულ შედეგებზე.

მომავალი ათწლეულების განმავლობაში, ორგანიზაციები დაიწყებენ ეყრდნობოდნენ AI სისტემების მიერ წარმოებულ ინფორმაციას და იმ მონაცემების მართვა და განხორციელება, რომლებიც ამ სისტემებს საფუძვლად უდევს, უმაღლესი მნიშვნელობის იქნება.

დაგვიკავშირდით დღეს უფასო კონსულტაციისთვის იმის შესახებ, თუ როგორ შეიძლება Telemus AI™ ინტეგრირებული იქნას თქვენს ორგანიზაციაში.