AI के साथ उपयोग के लिए संगठनात्मक डेटा तैयार करना

कृत्रिम बुद्धिमत्ता समाधानों को उच्च-गुणवत्ता वाले डेटा की आवश्यकता होती है

एंथोनी क्वाट्रोन, PhD 1 मई 2022

संगठनात्मक डेटा को विभिन्न प्रारूपों में कैप्चर और संग्रहीत किया जाता है, स्प्रेडशीट से लेकर वर्ड दस्तावेज़ों, रिलेशनल डेटाबेस और टेक्स्ट फाइलों तक। संगठनात्मक डेटा का लाभ उठाने में रिपोर्टिंग और एनालिटिक्स के लिए बिजनेस इंटेलिजेंस सिस्टम में उपयोग के लिए इसे उपयुक्त बनाने हेतु प्री-प्रोसेसिंग के कदमों की एक श्रृंखला शामिल है। AI सिस्टम को उच्च स्तर की विशेषज्ञता सुनिश्चित करने के लिए ट्रेनिंग हेतु अत्यधिक विशेषीकृत डेटासेट की आवश्यकता होती है।

कृत्रिम बुद्धिमत्ता प्रणालियों में उपयोग के लिए संगठनात्मक डेटा की तैयारी के लिए AI में इनपुट किए जाने से पहले प्रशिक्षण डेटासेट तैयार करने हेतु कई जटिल एक्सट्रैक्ट-ट्रांसफ़ॉर्म-लोड (ETL) प्रक्रियाओं की आवश्यकता होती है। कई संगठनों की नियामक रूपरेखा का तात्पर्य है कि निष्कर्षण से पहले गोपनीयता कानूनों और विनियमों का पालन करने की आवश्यकता है। इसके अलावा, यह सुनिश्चित करने के लिए कि डेटा को सुरक्षित रूप से संग्रहीत और उपयोग किया जाता है, निष्कर्षण पूरा होने के बाद सख्त भंडारण प्रक्रियाओं को नियमों का पालन करने की आवश्यकता है।

वर्तमान संगठनात्मक वातावरण में डेटा की विशाल मात्रा है, जिनमें से कुछ असंरचित प्रारूप में हैं जिनके साथ काम करना आसान नहीं है। इस जानकारी को संसाधित करने में एक तकनीकी चुनौती भी है। डेटा तैयारी की जटिलता तब बढ़ जाती है जब डेटा स्थिर नहीं होता और लगातार वास्तविक समय में बदलता रहता है, और इसके लिए गतिशील प्रक्रियाओं की आवश्यकता होती है।

हम निम्नलिखित अनुभागों में मुख्य डेटा विचारों का पता लगाएंगे।

सामान्य संगठनात्मक डेटा स्रोत

डेटा विभिन्न प्रारूपों में संग्रहीत किया जाता है और यह कई आयामों को कवर करता है, वित्तीय डेटा से लेकर स्थानिक जानकारी तक। Microsoft Office जैसे ऑफिस उत्पादकता सुइट्स और आंतरिक उद्देश्य-उपयुक्त स्रोत सिस्टम में कैप्चर किया गया डेटा कृत्रिम बुद्धिमत्ता सिस्टम में सीधे उपयोग के लिए उपयुक्त नहीं है।

निम्नलिखित परिचित डेटा स्रोतों को सूचीबद्ध करता है; यह सूची किसी भी मायने में संपूर्ण नहीं है:

  • ERP अकाउंटिंग सिस्टम (Oracle, SAP) के लिए वित्तीय डेटा
  • GIS सिस्टम (ESRI ArcGIS) से स्थानिक डेटा
  • ऑफिस उत्पादकता टूल (Microsoft Excel, Microsoft Access) से स्प्रेडशीट
  • स्रोत सिस्टम के पीछे उपयोग किए जाने वाले कस्टम SQL डेटाबेस (Microsoft SQL, MySQL, Oracle, SAP)
  • लीगेसी सिस्टम (IBM मेनफ्रेम, इंडेक्स्ड फाइल्स) में कैप्चर किए गए फ्लैट फाइल डेटाबेस

विभिन्न सिस्टम डेटा को विभिन्न प्रारूपों में संग्रहीत कर सकते हैं। डेटासेट को जोड़ने की आवश्यकता होती है; जब कई सिस्टम होते हैं तो यह चुनौतियाँ प्रस्तुत करता है। डेटा विश्लेषकों के लिए स्प्रेडशीट का उपयोग करके जानकारी मैन्युअल रूप से दर्ज करना आम बात है। वर्तमान रुझान डेटा को डेटा लेक में इनपुट करना है, ताकि डेटा इंजीनियर इस पर काम कर सकें बिना महत्वपूर्ण सिस्टम के साथ सीधे इंटरफ़ेस करने के। इस प्रकार, लक्ष्यों को प्राप्त करने के लिए डेटा ट्रांसफ़ॉर्मेशन की आवश्यकता थी।

कृत्रिम बुद्धिमत्ता सिस्टम इस डेटा का बहुत अच्छा उपयोग कर सकते हैं। हालाँकि, केवल जब इसे पहले ऐसे सिस्टम में फ़ीड करने के लिए उपयुक्त प्रारूप में संसाधित किया जाता है, तब डेटा लेक और डेटा वेयरहाउस उच्च-गुणवत्ता वाले डेटासेट उत्पन्न करने में महत्वपूर्ण होते हैं।

कृत्रिम बुद्धिमत्ता और इसका एक्सट्रैक्ट-ट्रांसफ़ॉर्म-लोड (ETL) प्रक्रियाओं से संबंध

जैसे-जैसे कृत्रिम बुद्धिमत्ता अधिक प्रमुख होती जाएगी, पारंपरिक ETL प्रक्रियाएं संभवतः नहीं बदलेंगी। अधिक संभावना है कि ऐसी तकनीकों को पुनर्निर्देशित किया जाएगा ताकि वे ऐसे डेटासेट तैयार कर सकें जो AI सिस्टम के साथ अच्छी तरह से काम करने वाले सीखने के अनुकूल हों। एक उदाहरण वस्तुओं की तस्वीरें लेना और उन्हें AI सिस्टम को सीखने की अनुमति देने के लिए एक संघ के साथ लेबल करना है।

डेटा वैज्ञानिकों और डेटा इंजीनियरों के लिए कृत्रिम बुद्धिमत्ता प्रणालियों के लिए डेटासेट बनाने हेतु अपने डेटा तैयारी कौशल का उपयोग करने के लिए बड़े अवसर उपलब्ध हैं। यह महत्वपूर्ण होगा कि ETL प्रक्रियाएँ स्वचालित हों और वास्तविक समय की कृत्रिम बुद्धिमत्ता प्रणालियों से अधिकतम दक्षता प्राप्त करने के लिए मैन्युअल प्रक्रियाओं पर निर्भर न हों।

कृत्रिम बुद्धिमत्ता में उपयोग के लिए सत्य के एकल स्रोत के रूप में डेटा लेक और डेटा वेयरहाउस

विभिन्न सिस्टम में संग्रहीत कच्चा डेटा विखंडन में परिणाम देता है। इससे बचने के लिए, सभी डेटा को एक स्थान पर ले जाना वांछनीय है, जैसे कि एक रिलेशनल डेटाबेस जो क्वेरी और डेटा हेरफेर की अनुमति देता है। एक बार सभी डेटा एक क्षेत्र में संग्रहीत होने पर, इसे अधिक आसानी से एक्सेस किया जा सकता है और मूल्यवान जानकारी उत्पन्न करने वाले डेटासेट तैयार करने के लिए इस पर काम किया जा सकता है। सत्य के एकमात्र स्रोत को परिभाषित करना आवश्यक है।

फिर डेटा वेयरहाउस को तथ्यों या उपायों को परिभाषित करने के लिए आयाम बनाने हेतु Kimball या Inmon जैसे मानकों का उपयोग करके परिभाषित किया जा सकता है। सामान्य समझ में, एक तथ्य आमतौर पर श्रेणीबद्ध डेटा होता है, जबकि एक उपाय आमतौर पर संख्यात्मक डेटा होता है। ऐसे मानकों का उपयोग करके डेटा को संसाधित करना दक्षता और सटीकता सुनिश्चित करने में महत्वपूर्ण लाभ प्रदान करता है।

शायद उन संगठनों के लिए सबसे महत्वपूर्ण लाभ जिन्होंने एक अच्छे डेटा वेयरहाउस के निर्माण में निवेश किया है, वह यह है कि यह संगठनात्मक डेटासेट को व्यापक संगठन के लिए खोलता है। बड़े संगठनों को देखते हुए, अधिकांश कर्मचारियों के पास उन महत्वपूर्ण स्रोत प्रणालियों तक पहुँच नहीं होती है जो व्यवसाय को चलाती हैं; हालाँकि, उनके पास डेटा वेयरहाउस तक पहुँच होती है, आमतौर पर केवल-पढ़ने के लिए। डेटा वेयरहाउस कर्मचारियों को ऐसी अंतर्दृष्टियों की पहचान करने की अनुमति देते हैं जिन्हें संगठन की प्रबंधन संरचना आमतौर पर नहीं जानती हो सकती है।

डेटा वेयरहाउस का निर्माण सुनिश्चित करता है कि गोपनीयता और नियामक विचारों को परिभाषित किया गया है। डेटा वेयरहाउस यह सुनिश्चित करने में मदद करते हैं कि डेटा को हितधारकों के बीच सुरक्षित रूप से स्थानांतरित किया जाता है। डेटा लेक और वेयरहाउस तक पहुँच संगठनात्मक कार्यों को कैसे अंजाम दिया जाता है, की पारदर्शिता और जवाबदेही को भी बढ़ा सकती है, जिससे अधिक स्थिर संचालन प्रक्रियाएँ संभव होती हैं।

संगठनात्मक बिग डेटा का विज़ुअलाइज़ेशन

बड़े डेटा की एक चुनौती यह है कि इसे सबसे अच्छा कैसे देखा जाए और यह जो कहानी कहता है उसे कैसे संप्रेषित किया जाए। पहले के दृष्टिकोणों में रिपोर्टिंग सेवाएं शामिल थीं जो डेटा को निचले स्तर से उच्च स्तर तक एकत्रित करती हैं ताकि इसे मानक चार्ट जैसे बार चार्ट, लाइन चार्ट और स्कैटर प्लॉट में प्रदर्शित किया जा सके। ये दृष्टिकोण प्रबंधन रिपोर्ट (यानी बिक्री रिपोर्ट, खाता रिपोर्ट) के लिए उपयुक्त हैं जो दैनिक व्यावसायिक हर्कतों का हिस्सा हैं। Microsoft SSRS एंटरप्राइज-वाइड रिपोर्टिंग के लिए उपयोग किया जाने वाला सबसे सामान्य उपकरण है।

इस अंतर को पाटने के लिए उन्नत विज़ुअलाइज़ेशन प्रोग्राम सामने आए, जिसमें Tableau और QlikView ने बाजार पर वर्चस्व जमाया। Tableau ने शानदार विज़ुअलाइज़ेशन पर भारी ध्यान केंद्रित किया, जबकि QlikView ने Microsoft SSRS और Tableau जैसी पारंपरिक रिपोर्टिंग सेवाओं को संतुलित करने का प्रबंधन किया। Microsoft PowerBI ने बाजार पर वर्चस्व जमाया है और Gartner द्वारा इसे अधिक जटिल माना जाता है। ये प्रोग्राम ऐसे डैशबोर्ड बनाते हैं जो कई प्रमुख मेट्रिक्स की निगरानी करने और ऐसी निगरानी को व्यापक संगठनात्मक प्रक्रियाओं के हिस्से के रूप में एकीकृत करने के लिए अविश्वसनीय रूप से उपयोगी हैं। रणनीतिक निर्णय निर्माताओं ने हाल ही में डेटा-संचालित निर्णय लेने के लिए बेहतरीन डैशबोर्ड बनाए हैं, जबकि संचालन प्रबंधक कॉर्पोरेट उद्देश्यों को प्राप्त करने के लिए तेजी से प्रतिक्रिया दे सकते हैं।

AI के आगमन के साथ, विज़ुअलाइज़ेशन एक महत्वपूर्ण भूमिका निभाएगा। कृत्रिम बुद्धिमत्ता सिस्टम द्वारा उत्पादित अंतर्दृष्टि जटिल है, और इसे एक दृश्य प्रतिनिधित्व में संप्रेषित करने की आवश्यकता है जिसे लोग आसानी से समझ सकें। इसका एक उत्कृष्ट उदाहरण बहुचर डेटा देखने के लिए एक स्व-आयोजन मानचित्र (SOM) प्रस्तुत करना है।

आर्टिफिशियल इंटेलिजेंस सिस्टम में फ़ीड करने के लिए डेटा का संयोजन

डेटासेट तक पहुँच प्राप्त होने पर, रिलेशनल डेटाबेस से डेटा लेना और आर्टिफिशियल इंटेलिजेंस सिस्टम को कनेक्टर प्रदान करना संभव है। अधिकांश आधुनिक AI सिस्टम Python का उपयोग करके बनाए जाते हैं और दक्षता सुनिश्चित करने के लिए आमतौर पर C/C++ में लागू मॉड्यूल पर निर्भर करते हैं।

चूंकि Python वर्तमान में AI के साथ इंटरफ़ेस करने का प्राथमिक टूल है, डेटा तक पहुँचने के लिए कई अलग-अलग प्रकार के डेटाबेस के लिए डेटा कनेक्टर की एक समृद्ध श्रृंखला उपलब्ध है। इसके अलावा, Python डेटा हेरफेर के लिए उपयुक्त है और NumPy और Pandas जैसी समृद्ध लाइब्रेरी के साथ मूल कार्यक्षमता का विस्तार करता है ताकि विशिष्ट AI सिस्टम में फ़ीड किए गए डेटा को प्री-प्रोसेस करने में और मदद मिल सके। वर्तमान ढांचे स्वीकार किए जाने वाले डेटा प्रारूपों के प्रति विशेष हैं। स्थिर रूप से टाइप किए गए डेटा ढांचे इसमें मदद कर सकते हैं। GPU प्रोसेसिंग के लिए विशिष्ट डेटा प्रकारों की आवश्यकता होती है, जो बदलने की संभावना नहीं है। इस प्रकार, डेटा प्रकार पर विचार समय से पहले किए जाने चाहिए।

संकुचित-AI क्षेत्र में कृत्रिम बुद्धिमत्ता सिस्टम की विशिष्ट डेटा आवश्यकताएँ होती हैं, और उक्त सिस्टम में उपयोग किए जाने वाले डेटासेट बनाने की योजना चरणों के दौरान इस पर विचार करने में समय लेना उपयुक्त है।

आर्टिफिशियल इंटेलिजेंस परिणामों को कैप्चर करना, स्टोर करना और व्याख्या करना

कृत्रिम बुद्धिमत्ता सिस्टम, इनपुट दिए जाने पर, परिणामस्वरूप ऐसे आउटपुट उत्पन्न करेंगे जिन्हें संग्रहीत करने की आवश्यकता होगी। और भी रोमांचक बात यह है कि परिणामों को डेटा लेक/डेटा वेयरहाउस में वापस फ़ीड किया जा सकता है और अंतर्दृष्टि प्रदान करने की प्रक्रिया जारी रखी जा सकती है क्योंकि अंतर्दृष्टि से और अधिक अंतर्दृष्टि प्राप्त हो सकती है। आउटपुट को कैसे संग्रहीत किया जाता है, इसके प्रबंधन पर एक बड़े डेटा शासन ढांचे के भीतर सावधानी से विचार करने की आवश्यकता होगी।

चूंकि कृत्रिम बुद्धिमत्ता प्रणालियाँ बड़ी मात्रा में जानकारी संसाधित करती हैं, इसलिए ऐसी अंतर्ज्ञान के विरुद्ध अंतर्दृष्टियाँ खोजने की संभावना है जिन्हें कोई मनुष्य आमतौर पर नज़रअंदाज़ कर देता है। आमतौर पर ये अंतर्दृष्टियाँ ही सबसे महत्वपूर्ण प्रतिस्पर्धात्मक लाभ पैदा करती हैं। इस प्रकार, संगठनों के पास प्रतिस्पर्धी बने रहने के साधन के रूप में इन प्रणालियों से जुड़ने के अलावा कोई विकल्प नहीं होगा।

कृत्रिम बुद्धिमत्ता परिणामों की व्याख्या के लिए सावधानीपूर्वक विचार की आवश्यकता होगी। आज की वर्तमान शोध की तरह ही, इसके गलत व्याख्या किए जाने की संभावना है। इसलिए, डेटा विश्लेषकों को सभी डेटा बिंदुओं का पता लगाना होगा और यह बैकट्रेस करना होगा कि AI सिस्टम ने विशिष्ट निष्कर्ष क्यों दिए हैं, अन्यथा गलत तरीके से अंतर्दृष्टि पर कार्रवाई करने का जोखिम है। ऊपर वर्णित डेटा विज़ुअलाइज़ेशन टूल का उपयोग AI द्वारा उत्पन्न परिणामों पर लागू किया जा सकता है।

आने वाले दशकों में आगे बढ़ते हुए, संगठन AI सिस्टम द्वारा उत्पादित जानकारी पर निर्भर करना शुरू करेंगे और इन सिस्टमों के अंतर्गत रहने वाले डेटा को कैसे शासित और कार्यान्वित किया जाता है, अत्यंत महत्वपूर्ण होगा।

जानने के लिए आज ही हमसे संपर्क करें कि Telemus AI™ को आपके संगठन में कैसे एकीकृत किया जा सकता है, इस पर एक निःशुल्क परामर्श के लिए।