Προετοιμασία Οργανωτικών Δεδομένων για χρήση με AI

Οι Λύσεις Τεχνητής Νοημοσύνης Απαιτούν Δεδομένα Υψηλής Ποιότητας

Anthony Quattrone, PhD 1 Μαΐου 2022

Τα οργανωτικά δεδομένα καταγράφονται και αποθηκεύονται σε διάφορες μορφές, από υπολογιστικά φύλλα έως έγγραφα κειμένου, σχεσιακές βάσεις δεδομένων και αρχεία κειμένου. Η αξιοποίηση των οργανωτικών δεδομένων περιλαμβάνει μια σειρά βημάτων προεπεξεργασίας για να καταστούν κατάλληλα προς χρήση σε συστήματα επιχειρηματικής νοημοσύνης για αναφορές και αναλυτικά στοιχεία. Τα συστήματα AI απαιτούν εξαιρετικά εξειδικευμένα σύνολα δεδομένων για εκπαίδευση, ώστε να διασφαλίζεται υψηλός βαθμός εξειδίκευσης.

Η προετοιμασία οργανωτικών δεδομένων για χρήση σε συστήματα τεχνητής νοημοσύνης απαιτεί πολλές πολύπλοκες διαδικασίες Extract-Transform-Load (ETL) για την παραγωγή ενός συνόλου δεδομένων εκπαίδευσης πριν από την εισαγωγή τους σε ένα AI. Το κανονιστικό πλαίσιο πολλών οργανισμών συνεπάγεται ότι πρέπει να τηρούνται οι νόμοι και οι κανονισμοί περί απορρήτου πριν από την εξαγωγή. Επιπλέον, οι αυστηρές διαδικασίες αποθήκευσης πρέπει να συμμορφώνονται με τους κανόνες μόλις ολοκληρωθεί η εξαγωγή, για να διασφαλιστεί ότι τα δεδομένα αποθηκεύονται και χρησιμοποιούνται με ασφάλεια.

Υπάρχουν τεράστιες ποσότητες δεδομένων στο τρέχον οργανωτικό περιβάλλον, τα οποία ορισμένα είναι μη δομημένα σε μια μορφή εύκολη προς επεξεργασία. Υπάρχει επίσης μια τεχνική πρόκληση στην επεξεργασία αυτών των πληροφοριών. Η πολυπλοκότητα της προετοιμασίας δεδομένων αυξάνεται όταν τα δεδομένα δεν είναι στατικά και αλλάζουν συνεχώς σε πραγματικό χρόνο, και απαιτούν δυναμικές διαδικασίες.

Θα εξετάσουμε βασικές εκτιμήσεις σχετικά με τα δεδομένα στις παρακάτω ενότητες.

Κοινές Πηγές Δεδομένων Οργανισμού

Τα δεδομένα αποθηκεύονται σε διάφορες μορφές και καλύπτουν πλήθος διαστάσεων, από οικονομικά δεδομένα έως χωρικές πληροφορίες. Τα δεδομένα που καταγράφονται σε σουίτες γραφείου όπως το Microsoft Office και σε εσωτερικά συστήματα πηγής κατάλληλα για συγκεκριμένο σκοπό δεν προσφέρονται καλά για άμεση χρήση σε συστήματα τεχνητής νοημοσύνης.

Ακολουθεί μια λίστα με γνώριμες πηγές δεδομένων· αυτή η λίστα δεν είναι σε καμία περίπτωση εξαντλητική:

  • Οικονομικά Δεδομένα για Λογιστικά Συστήματα ERP (Oracle, SAP)
  • Χωρικά Δεδομένα από Συστήματα GIS (ESRI ArcGIS)
  • Υπολογιστικά φύλλα από Εργαλεία Παραγωγικότητας Γραφείου (Microsoft Excel, Microsoft Access)
  • Προσαρμοσμένες βάσεις δεδομένων SQL που χρησιμοποιούνται πίσω από τα συστήματα πηγής (Microsoft SQL, MySQL, Oracle, SAP)
  • Βάσεις δεδομένων επίπεδων αρχείων που καταγράφονται σε παλαιά συστήματα (IBM Mainframes, αρχεία με ευρετήριο)

Διαφορετικά συστήματα μπορούν να αποθηκεύουν δεδομένα σε διάφορες μορφές. Τα σύνολα δεδομένων απαιτούν σύνδεση· αυτό δημιουργεί προκλήσεις όταν υπάρχουν πολλαπλά συστήματα. Είναι σύνηθες για τους αναλυτές δεδομένων να εισάγουν πληροφορίες χειροκίνητα χρησιμοποιώντας υπολογιστικά φύλλα. Η τρέχουσα τάση είναι η εισαγωγή δεδομένων σε μια λίμνη δεδομένων, ώστε οι μηχανικοί δεδομένων να μπορούν να εργαστούν με αυτά χωρίς να χρειάζεται να αλληλεπιδρούν άμεσα με κρίσιμα συστήματα. Έτσι, απαιτήθηκαν μετασχηματισμοί δεδομένων για την επίτευξη των στόχων.

Τα συστήματα Τεχνητής Νοημοσύνης μπορούν να κάνουν μεγάλη χρήση αυτών των δεδομένων. Ωστόσο, μόνο όταν αυτά επεξεργάζονται πρώτα σε κατάλληλη μορφή για να τροφοδοτηθούν σε τέτοια συστήματα, είναι εκεί όπου οι λίμνες δεδομένων και οι αποθήκες δεδομένων είναι κρίσιμες για την παραγωγή συνόλων δεδομένων υψηλής ποιότητας.

Η Τεχνητή Νοημοσύνη και η σχέση της με τις διαδικασίες Extract-Transform-Load (ETL)

Οι παραδοσιακές διαδικασίες ETL πιθανότατα δεν θα αλλάξουν καθώς η τεχνητή νοημοσύνη γίνεται πιο εμφανής. Είναι πιο πιθανό τέτοιες τεχνικές να επαναπροσδιοριστούν για την παραγωγή συνόλων δεδομένων που ευνοούν τη μάθηση και λειτουργούν καλά με συστήματα AI. Ένα παράδειγμα είναι η λήψη φωτογραφιών αντικειμένων και η επισήμανσή τους με μια συσχέτιση για να επιτρέπεται στα συστήματα AI να μάθουν.

Υπάρχουν εξαιρετικές ευκαιρίες διαθέσιμες στους επιστήμονες δεδομένων και τους μηχανικούς δεδομένων να χρησιμοποιήσουν τα σύνολα δεξιοτήτων προετοιμασίας δεδομένων τους για την κατασκευή συνόλων δεδομένων για συστήματα τεχνητής νοημοσύνης. Θα είναι σημαντικό οι διαδικασίες ETL να αυτοματοποιηθούν και να μην βασίζονται σε χειροκίνητες διαδικασίες προκειμένου να επιτευχθεί η μέγιστη αποδοτικότητα από τα συστήματα τεχνητής νοημοσύνης σε πραγματικό χρόνο.

Data Lakes και Data Warehouses ως Μοναδική Πηγή Αλήθειας για χρήση στην Τεχνητή Νοημοσύνη

Τα ακατέργαστα δεδομένα που αποθηκεύονται σε διαφορετικά συστήματα οδηγούν σε κατακερματισμό. Για να ξεπεραστεί αυτό, είναι επιθυμητό να διοχετεύονται όλα τα δεδομένα σε μία τοποθεσία, όπως μια σχεσιακή βάση δεδομένων που επιτρέπει ερωτήματα και χειρισμό δεδομένων. Αφού όλα τα δεδομένα αποθηκευτούν σε μία περιοχή, μπορούν να προσπελαστούν και να επεξεργαστούν πιο εύκολα για την παραγωγή συνόλων δεδομένων που αποδίδουν πολύτιμες πληροφορίες. Είναι απαραίτητο να οριστεί μια ενιαία πηγή αλήθειας.

Στη συνέχεια, τα Data Warehouses μπορούν να οριστούν χρησιμοποιώντας πρότυπα όπως Kimball ή Inmon για τη δημιουργία διαστάσεων που ορίζουν γεγονότα ή μετρήσεις. Ένα γεγονός είναι συνήθως κατηγορικά δεδομένα, ενώ μια μέτρηση είναι συνήθως αριθμητικά δεδομένα στην γενική κατανόηση. Η επεξεργασία δεδομένων με χρήση τέτοιων προτύπων προσφέρει σημαντικά οφέλη στη διασφάλιση αποδοτικότητας και ακρίβειας.

Ίσως το πιο σημαντικό πλεονέκτημα για τους οργανισμούς που έχουν επενδύσει στη δημιουργία ενός καλού αποθετηρίου δεδομένων είναι ότι ανοίγει το σύνολο δεδομένων του οργανισμού στον ευρύτερο οργανισμό. Στους μεγάλους οργανισμούς, οι περισσότεροι υπάλληλοι δεν έχουν πρόσβαση στα κρίσιμα συστήματα πηγής που εκτελούν τις επιχειρηματικές δραστηριότητες· ωστόσο, έχουν πρόσβαση στο αποθετηρίου δεδομένων, συνήθως μόνο για ανάγνωση. Τα αποθετηρία δεδομένων επιτρέπουν στους υπαλλήλους να εντοπίζουν πληροφορίες που η διοικητική δομή του οργανισμού ενδέχεται να μην γνωρίζει συνήθως.

Η δημιουργία αποθηκών δεδομένων διασφαλίζει ότι οι ζητήσεις ιδιωτικότητας και κανονισμών είναι καθορισμένες. Οι αποθήκες δεδομένων βοηθούν στη διασφάλιση ότι τα δεδομένα μεταφέρονται με ασφάλεια μεταξύ των ενδιαφερόμενων μερών. Η πρόσβαση σε λίμνες δεδομένων και αποθήκες μπορεί επίσης να βελτιώσει τη διαφάνεια και τη λογοδοσία του πώς εκτελούνται οι οργανωτικές λειτουργίες, επιτρέποντας πιο σταθερές διαδικασίες λειτουργίας.

Η Οπτικοποίηση των Μεγάλων Δεδομένων Οργανισμού

Μια πρόκληση των μεγάλων δεδομένων είναι πώς να τα προβάλουν καλύτερα και να μεταδώσουν την ιστορία που αφηγούνται. Προηγούμενες προσεγγίσεις περιλάμβαναν υπηρεσίες αναφοράς που συγκεντρώνουν τα δεδομένα από χαμηλότερα σε υψηλότερα επίπεδα για να εμφανιστούν σε τυποποιημένα γραφήματα, όπως γραφήματα ράβδων, γραφήματα γραμμών και διαγράμματα διασποράς. Αυτές οι προσεγγίσεις είναι κατάλληλες για αναφορές διαχείρισης (δηλ. αναφορές πωλήσεων, αναφορές λογαριασμών) που αποτελούν μέρος των καθημερινών συνήθων επιχειρηματικών λειτουργιών. Το Microsoft SSRS είναι το πιο κοινό εργαλείο που χρησιμοποιείται για αναφορές σε επίπεδο επιχείρησης.

Προηγμένα προγράμματα οπτικοποίησης αναδύθηκαν για να καλύψουν αυτό το κενό, με τα Tableau και QlikView να κυριαρχούν στην αγορά. Το Tableau επικεντρώθηκε σε εντυπωσιακές οπτικοποιήσεις, ενώ το QlikView κατάφερε να ισορροπήσει παραδοσιακές υπηρεσίες αναφορών όπως το Microsoft SSRS και το Tableau. Το Microsoft PowerBI κυριαρχεί στην αγορά και θεωρείται πιο σύνθετο από την Gartner. Αυτά τα προγράμματα δημιουργούν ταμπλό που είναι εξαιρετικά χρήσιμα για την παρακολούθηση πολλαπλών βασικών μετρικών και την ενσωμάτωση such παρακολούθησης ως μέρος ολοκληρωμένων οργανωτικών διαδικασιών. Οι υπεύθυνοι στρατηγικών αποφάσεων έχουν πρόσφατα δημιουργήσει εξαιρετικά ταμπλό για τη λήψη αποφάσεων βάσει δεδομένων, ενώ οι διευθυντές λειτουργιών μπορούν να ανταποκριθούν πιο γρήγορα για την επίτευξη εταιρικών στόχων.

Με την έλευση της AI, η οπτικοποίηση θα παίξει ζωτικό ρόλο. Οι πληροφορίες που τα συστήματα Τεχνητής Νοημοσύνης μπορούν να παράγουν είναι σύνθετες, και πρέπει να επικοινωνηθούν σε μια οπτική αναπαράσταση που οι άνθρωποι μπορούν εύκολα να κατανοήσουν. Ένα εξαιρετικό παράδειγμα αυτού είναι η παρουσίαση ενός αυτο-οργανούμενου χάρτη (SOM) για την προβολή πολυμεταβλητών δεδομένων.

Συγχώνευση Δεδομένων για Τροφοδότηση σε Συστήματα Τεχνητής Νοημοσύνης

Δεδομένης της πρόσβασης σε σύνολα δεδομένων, είναι στη συνέχεια δυνατό να ληφθούν δεδομένα από μια σχεσιακή βάση δεδομένων και να παρεχθεί ένας συνδετήρας σε ένα σύστημα τεχνητής νοημοσύνης. Τα περισσότερα σύγχρονα συστήματα AI κατασκευάζονται χρησιμοποιώντας Python και βασίζονται σε ενότητες που υλοποιούνται συνήθως σε C/C++ για τη διασφάλιση της αποδοτικότητας.

Καθώς η Python είναι επί του παρόντος το κύριο εργαλείο για διασύνδεση με την AI, μια πλούσια σειρά συνδέσμων δεδομένων είναι διαθέσιμη για πολλούς διαφορετικούς τύπους βάσεων δεδομένων για πρόσβαση στα δεδομένα. Επιπλέον, η Python προσαρμόζεται καλά σε χειρισμούς δεδομένων και επεκτείνει περαιτέρω την εγγενή λειτουργικότητα με πλούσιες βιβλιοθήκες όπως οι NumPy και Pandas για να βοηθήσει περαιτέρω στην προεπεξεργασία δεδομένων που τροφοδοτούνται σε συγκεκριμένα συστήματα AI. Τα παρόντα πλαίσια είναι ιδιαίτερα αυστηρά όσον αφορά τις μορφές δεδομένων που γίνονται αποδεκτές. Τα στατικά πλαίσια δεδομένων με στατικούς τύπους μπορούν να βοηθήσουν σε αυτό. Η επεξεργασία GPU απαιτεί συγκεκριμένους τύπους δεδομένων, οι οποίοι είναι απίθανο να αλλάξουν. Επομένως, οι εκτιμήσεις τύπων δεδομένων πρέπει να γίνονται εκ των προτέρων.

Τα συστήματα Τεχνητής Νοημοσύνης στον τομέα της στενής AI έχουν συγκεκριμένες απαιτήσεις δεδομένων, και αξίζει να αφιερωθεί χρόνος για να το εξεταστεί αυτό κατά τα στάδια σχεδιασμού της δημιουργίας συνόλων δεδομένων που θα χρησιμοποιηθούν στα εν λόγω συστήματα.

Σύλληψη, Αποθήκευση και Ερμηνεία Αποτελεσμάτων Τεχνητής Νοημοσύνης

Τα συστήματα Τεχνητής Νοημοσύνης, δεδομένων των εισόδων, θα παράγουν κατά συνέπεια εξόδους που θα πρέπει να αποθηκευτούν. Πιο συναρπαστικά, τα αποτελέσματα μπορούν να τροφοδοτηθούν πίσω στις λίμνες δεδομένων/αποθήκες δεδομένων και να συνεχίσουν τη διαδικασία παροχής γνώσεων, καθώς οι γνώσεις μπορούν να αποδώσουν περαιτέρω γνώσεις. Η διαχείριση του τρόπου αποθήκευσης των εξόδων θα πρέπει να εξεταστεί προσεκτικά μέσα σε ένα ευρύτερο πλαίσιο διακυβέρνησης δεδομένων.

Δεδομένου ότι τα συστήματα τεχνητής νοημοσύνης επεξεργάζονται τεράστιες ποσότητες πληροφοριών, είναι πιθανό να βρουν αντιδιαισθητικές γνώσεις που ένας άνθρωπος θα παραλείπει συνήθως. Συνήθως αυτές οι γνώσεις είναι που παράγουν το πιο σημαντικό ανταγωνιστικό πλεονέκτημα. Έτσι, οι οργανισμοί δεν θα έχουν άλλη επιλογή από το να ασχοληθούν με αυτά τα συστήματα ως μέσο παραμονής ανταγωνιστικών.

Η ερμηνεία των αποτελεσμάτων της τεχνητής νοημοσύνης θα απαιτήσει προσεκτική εξέταση. Όπως ακριβώς και με την τρέχουσα έρευνα σήμερα, είναι πιθανό να παρερμηνευτεί. Επομένως, οι αναλυτές δεδομένων πρέπει να εντοπίζουν όλα τα σημεία δεδομένων και να ανιχνεύουν προς τα πίσω γιατί τα συστήματα AI παρήγαγαν συγκεκριμένα ευρήματα, διαφορετικά κινδυνεύουν να δράσουν εσφαλμένα βάσει των πληροφοριών. Τα εργαλεία οπτικοποίησης δεδομένων όπως περιγράφονται παραπάνω μπορούν να εφαρμοστούν στα αποτελέσματα που παράγονται από την AI.

Προχωρώντας στις επόμενες δεκαετίες, οι οργανισμοί θα αρχίσουν να βασίζονται σε πληροφορίες που παράγονται από συστήματα AI και ο τρόπος με τον οποίο κυβερνώνται και εφαρμόζονται τα δεδομένα που υποστηρίζουν αυτά τα συστήματα θα είναι ύψιστης σημασίας.

Επικοινωνήστε μαζί μας σήμερα για μια δωρεάν συμβουλευτική σχετικά με το πώς το Telemus AI™ μπορεί να ενσωματωθεί στον οργανισμό σας.