AI உடன் பயன்படுத்துவதற்கான நிறுவன தரவைத் தயாரித்தல்

செயற்கை நுண்ணறிவு தீர்வுகளுக்கு உயர்தர தரவு தேவை

அந்தோணி குவாட்ரோன், PhD 1 மே 2022

அமைப்புசார் தரவு விரிதாள்கள் முதல் வேர்டு ஆவணங்கள், தொடர்புடைய தரவுத்தளங்கள் மற்றும் உரை கோப்புகள் வரை பல்வேறு வடிவங்களில் பிடிக்கப்பட்டு சேமிக்கப்படுகிறது. அமைப்புசார் தரவைப் பயன்படுத்துவது அறிக்கையிடல் மற்றும் பகுப்பாய்வுக்கான வணிக நுண்ணறிவு அமைப்புகளில் பயன்படுத்தப் பொருத்தமானதாக மாற்றுவதற்கு தொடர்ச்சியான முன்-செயலாக்க படிகளை உள்ளடக்குகிறது. AI அமைப்புகளுக்கு அதிக அளவிலான சிறப்பாக்கத்தை உறுதிப்படுத்தப் பயிற்சிக்காக மிகவும் சிறப்பு வாய்ந்த தரவுத்தொகுப்புகள் தேவை.

AI இல் உள்ளிடப்படுவதற்கு முன்பு பயிற்சி தரவுத்தொகுப்பை உருவாக்க செயற்கை நுண்ணறிவு அமைப்புகளில் பயன்படுத்துவதற்கான நிறுவன தரவைத் தயாரிப்பது பல சிக்கலான Extract-Transform-Load (ETL) செயல்முறைகளை உள்ளடக்கியது. பல நிறுவனங்களின் ஒழுங்குமுறை கட்டமைப்பு, பிரித்தெடுப்பு நிகழ்வதற்கு முன்பு தனியுரிமைச் சட்டங்கள் மற்றும் விதிகளைப் பின்பற்ற வேண்டும் என்பதைக் குறிக்கிறது. மேலும், தரவு பாதுகாப்பாக சேமிக்கப்பட்டு பயன்படுத்தப்படுவதை உறுதி செய்ய, பிரித்தெடுப்பு முடிந்தவுடன் கடுமையான சேமிப்பு செயல்முறைகள் விதிகளுக்கு இணங்க வேண்டும்.

தற்போதைய நிறுவன சூழலில் பெருமளவு தரவு உள்ளது, அவற்றில் சில வேலை செய்வதற்கு எளிதான வடிவத்தில் கட்டமைக்கப்படாதவை. இந்தத் தகவலைச் செயலாக்குவதிலும் ஒரு தொழில்நுட்பச் சவால் உள்ளது. தரவு நிலையானதாக இல்லாமல் நிகழ்நேரத்தில் தொடர்ந்து மாறிக்கொண்டிருக்கும்போது மற்றும் மாறும் செயல்முறைகள் தேவைப்படும்போது தரவு தயாரிப்பு சிக்கல்தன்மை அதிகரிக்கிறது.

பின்வரும் பிரிவுகளில் முக்கிய தரவு சார்ந்த கருத்துக்களை நாங்கள் ஆராய்வோம்.

பொதுவான நிறுவன தரவு ஆதாரங்கள்

தரவு பல்வேறு வடிவங்களில் சேமிக்கப்படுகிறது மற்றும் நிதி தரவு முதல் இடஞ்சார்ந்த தகவல் வரை பல பரிமாணங்களை உள்ளடக்கியது. Microsoft Office போன்ற அலுவலக உற்பத்தித் தொகுப்புகளிலும், உள் நோக்கத்திற்கான மூல அமைப்புகளிலும் பிடிக்கப்பட்ட தரவு செயற்கை நுண்ணறிவு அமைப்புகளில் நேரடியாகப் பயன்படுத்த ஏற்றதாக இருப்பதில்லை.

பின்வருவன பரிச்சயமான தரவு ஆதாரங்களை பட்டியலிடுகின்றன; இந்த பட்டியல் எந்த வகையிலும் முழுமையானது அல்ல:

  • ERP கணக்கீட்டு அமைப்புகளுக்கான நிதி தரவு (Oracle, SAP)
  • GIS அமைப்புகளிலிருந்து ஸ்பேஷியல் தரவு (ESRI ArcGIS)
  • அலுவலக உற்பத்தித்திறன் கருவிகளிலிருந்து விரிதாள்கள் (Microsoft Excel, Microsoft Access)
  • மூல அமைப்புகளுக்குப் பின்னால் பயன்படுத்தப்படும் தனிப்பயன் SQL தரவுத்தளங்கள் (Microsoft SQL, MySQL, Oracle, SAP)
  • பாரம்பரிய அமைப்புகளில் பிடிக்கப்பட்ட தட்டு கோப்பு தரவுத்தளங்கள் (IBM மெயின்ஃபிரேம்கள், இன்டெக்ஸ்டு செய்யப்பட்ட கோப்புகள்)

வெவ்வேறு அமைப்புகள் தரவை பல்வேறு வடிவங்களில் சேமிக்க முடியும். தரவுத்தொகுப்புகளுக்கு இணைப்பு தேவை; பல அமைப்புகள் இருக்கும்போது இது சவால்களை உருவாக்குகிறது. விரிதாள்களைப் பயன்படுத்தி தரவை கைமுறையாக உள்ளிடுவது தரவு ஆய்வாளர்களுக்கு பொதுவானது. தற்போதைய போக்கு தரவை ஒரு டேட்டா ஏரியில் உள்ளிடுவதாகும், இதனால் தரவு பொறியாளர்கள் முக்கிய அமைப்புகளுடன் நேரடியாக இணைக்காமல் அதனுடன் வேலை செய்ய முடியும். எனவே, இலக்குகளை அடைய தரவு மாற்றங்கள் தேவைப்பட்டன.

செயற்கை நுண்ணறிவு அமைப்புகள் இந்த தரவை பெரிதும் பயன்படுத்தலாம். இருப்பினும், அது முதலில் அத்தகைய அமைப்புகளுக்கு உள்ளீடு செய்ய பொருத்தமான வடிவமைப்பில் செயலாக்கப்படும்போது மட்டுமே, தரவு ஏரிகள் மற்றும் தரவு கிடங்குகள் உயர்தர தரவுத்தொகுப்புகளை உருவாக்குவதில் முக்கியமானவையாக இருக்கின்றன.

செயற்கை நுண்ணறிவு மற்றும் அதன் பிரித்தெடுத்தல்-மாற்றுதல்-ஏற்றுதல் (ETL) செயல்முறைகளுடனான தொடர்பு

செயற்கை நுண்ணறிவு மேலும் முக்கியத்துவம் பெறுவதால் பாரம்பரிய ETL செயல்முறைகள் மாறாமல் இருக்க வாய்ப்பில்லை. அத்தகைய நுட்பங்கள் AI அமைப்புகளுடன் நன்கு இணைந்து செயல்படும் கற்றலுக்கு ஏற்ற தரவுத்தொகுப்புகளை உருவாக்குவதற்காக மறுஇலக்கு செய்யப்படுவதற்கு வாய்ப்பே அதிகம். ஒரு உதாரணம், பொருட்களின் புகைப்படங்களை எடுத்து, AI அமைப்புகள் கற்றுக்கொள்ள அனுமதிக்க ஒரு தொடர்புடன் அவற்றை லேபிளிடுவதாகும்.

செயற்கை நுண்ணறிவு அமைப்புகளுக்கான தரவுத்தொகுப்புகளை உருவாக்கத் தங்களின் தரவு தயாரிப்பு திறன்களைப் பயன்படுத்துவதற்குத் தரவு விஞ்ஞானிகள் மற்றும் தரவு பொறியாளர்களுக்குச் சிறந்த வாய்ப்புகள் உள்ளன. நிகழ்நேர செயற்கை நுண்ணறிவு அமைப்புகளிலிருந்து அதிகபட்ச செயல்திறனைப் பெற ETL செயல்முறைகள் தானியக்கமாக்கப்பட்டு, கைமுறை செயல்முறைகளை நம்பாதிருப்பது முக்கியம்.

செயற்கை நுண்ணறிவில் பயன்பாட்டிற்காக உண்மையின் ஒரே மூலமாக தரவு ஏரிகள் மற்றும் தரவு களஞ்சியங்கள்

வெவ்வேறு அமைப்புகளில் சேமிக்கப்பட்ட மூல தரவு துண்டாக்கத்திற்கு வழிவகுக்கிறது. இதை சமாளிக்க, அனைத்து தரவையும் ஒரே இடத்திற்கு கொண்டு வர விரும்பத்தக்கது, உதாரணமாக வினவல்கள் மற்றும் தரவு கையாளுதலை அனுமதிக்கும் ஒரு ரிலேஷனல் டேட்டாபேஸ். ஒருமுறை அனைத்து தரவும் ஒரே பகுதியில் சேமிக்கப்பட்டவுடன், மதிப்புமிக்க தகவல்களை வழங்கும் தரவுத்தொகுப்புகளை உருவாக்க அதை எளிதாக அணுகலாம் மற்றும் பணியாற்றலாம். ஒரே ஒரு உண்மையான ஆதாரத்தை வரையறுப்பது அவசியம்.

பின்னர் உண்மைகள் அல்லது அளவீடுகளை வரையறுக்க பரிமாணங்களை உருவாக்க Kimball அல்லது Inmon போன்ற தரநிலைகளைப் பயன்படுத்தி தரவு களஞ்சியங்களை வரையறுக்க முடியும். பொதுவான புரிதலின்படி, ஒரு உண்மை பொதுவாக பகுப்பு தரவாக இருக்கும், அதே சமயம் ஒரு அளவீடு பொதுவாக எண் தரவாக இருக்கும். இத்தகைய தரநிலைகளைப் பயன்படுத்தி தரவைச் செயலாக்குவது செயல்திறன் மற்றும் துல்லியத்தை உறுதி செய்வதில் குறிப்பிடத்தக்க நன்மைகளை வழங்குகிறது.

ஒரு நல்ல தரவு களஞ்சியத்தை வைத்திருக்க முதலீடு செய்த அமைப்புகளுக்கான மிகக் குறிப்பிடத்தக்க நன்மை என்னவென்றால், அது அமைப்புசார் தரவுத்தொகுப்பை பரந்த அமைப்புக்குத் திறக்கிறது. பெரிய அமைப்புகளைக் கருத்தில் கொண்டால், பெரும்பாலான ஊழியர்கள் வணிகத்தை இயக்கும் முக்கியமான மூல அமைப்புகளை அணுக முடியாது; இருப்பினும், அவர்கள் தரவு களஞ்சியத்தை அணுகலாம், பொதுவாக வாசிப்பதற்கு மட்டும். தரவு களஞ்சியங்கள் ஊழியர்கள் அமைப்பின் மேலாண்மை அமைப்பு பொதுவாக அறியாத நுண்ணறிவுகளை அடையாளம் காண அனுமதிக்கின்றன.

தரவு கிடங்குகளின் உருவாக்கம் தனியுரிமை மற்றும் ஒழுங்குமுறை பரிசீலனைகள் வரையறுக்கப்படுவதை உறுதி செய்கிறது. தரவு கிடங்குகள் பங்குதாரர்களுக்கு இடையே தரவு பாதுகாப்பாக மாற்றப்படுவதை உறுதி செய்ய உதவுகின்றன. தரவு ஏரிகள் மற்றும் கிடங்குகளுக்கான அணுகல் நிறுவன செயல்பாடுகள் எவ்வாறு நிறைவேற்றப்படுகின்றன என்பதன் வெளிப்படைத்தன்மை மற்றும் பொறுப்புக்கூறலையும் மேம்படுத்த முடியும், இது மிகவும் நிலையான இயக்க நடைமுறைகளை அனுமதிக்கிறது.

நிறுவன பெருதரவின் காட்சிப்படுத்தல்

பெருத்த தரவின் சவால் அதை எவ்வாறு சிறப்பாகக் காண்பது மற்றும் அது கூறும் கதையை எவ்வாறு தெரிவிப்பது என்பதாகும். முந்தைய அணுகுமுறைகளில், கீழ் நிலையிலிருந்து உயர் நிலைக்கு தரவைத் திரட்டி, பட்டை வரைபடங்கள், கோடு வரைபடங்கள் மற்றும் சிதறடிப்பு வரைபடங்கள் போன்ற நிலையான வரைபடங்களில் காட்டும் அறிக்கையிடல் சேவைகள் அடங்கும். இந்த அணுகுமுறைகள் தினசரி வணிக வழக்காற்று செயல்பாடுகளின் ஒரு பகுதியான மேலாண்மை அறிக்கைகளுக்கு (அதாவது, விற்பனை அறிக்கைகள், கணக்கு அறிக்கைகள்) ஏற்றதாக உள்ளன. Microsoft SSRS ஆனது நிறுவன அளவிலான அறிக்கையிடலுக்கு பயன்படுத்தப்படும் மிகவும் பொதுவான கருவியாகும்.

இந்த இடைவெளியைச் சமாளிக்க மேம்பட்ட காட்சிப்படுத்தல் திட்டங்கள் உருவாயின, அதில் Tableau மற்றும் QlikView சந்தையில் ஆதிக்கம் செலுத்தின. Tableau அற்புதமான காட்சிப்படுத்தல்களில் கவனம் செலுத்தியது, அதேசமயம் QlikView பாரம்பரிய அறிக்கை சேவைகளான Microsoft SSRS மற்றும் Tableau ஆகியவற்றை சமநிலைப்படுத்த முடிந்தது. Microsoft PowerBI சந்தையில் ஆதிக்கம் செலுத்துகிறது மற்றும் Gartner ஆல் மிகவும் சிக்கலானது என்று கருதப்படுகிறது. இந்த திட்டங்கள் பல முக்கிய அளவீடுகளைக் கண்காணிப்பதற்கும், விரிவான நிறுவன செயல்முறைகளின் ஒரு பகுதியாக அத்தகைய கண்காணிப்பை ஒருங்கிணைப்பதற்கும் நம்பமுடியாத அளவுக்கு பயனுள்ள டாஷ்போர்டுகளை உருவாக்குகின்றன. தகவல் சார்ந்த முடிவுகளை எடுப்பதற்கு உத்திசார் முடிவெடுப்பவர்கள் சமீபத்தில் சிறந்த டாஷ்போர்டுகளை உருவாக்கியுள்ளனர், அதேசமயம் செயல்பாட்டு மேலாளர்கள் நிறுவன நோக்கங்களை அடைய விரைவாக பதிலளிக்க முடியும்.

AI-ன் தோற்றத்துடன், காட்சிப்படுத்தல் ஒரு முக்கியமான பங்கு வகிக்கும். Ariticical Intelligence அமைப்புகள் உருவாக்கக்கூடிய நுண்ணறிவுகள் சிக்கலானவை, மேலும் மக்கள் எளிதாகப் புரிந்துகொள்ளக்கூடிய காட்சி பிரதிநிதித்துவத்தில் அது தொடர்பு கொள்ளப்பட வேண்டும். இதற்கு ஒரு சிறந்த உதாரணம், பல மாறிலி தரவைக் காண ஒரு சுய-ஒருங்கமைவு வரைபடத்தை (SOM) வழங்குவதாகும்.

செயற்கை நுண்ணறிவு அமைப்புகளுக்கு உள்ளீடு செய்ய தரவை ஒன்றிணைத்தல்

தரவுத்தொகுப்புகளுக்கான அணுகல் கொடுக்கப்பட்டிருந்தால், ஒரு தொடர்புடைய தரவுத்தளத்திலிருந்து தரவை எடுத்து ஒரு செயற்கை நுண்ணறிவு அமைப்புக்கு இணைப்பை வழங்க முடியும். பெரும்பாலான நவீன AI அமைப்புகள் Python பயன்படுத்தி கட்டப்படுகின்றன மற்றும் செயல்திறனை உறுதிப்படுத்த C/C++ இல் பொதுவாக செயல்படுத்தப்படும் தொகுதிகளை நம்பியுள்ளன.

AI உடன் இடைமுகமாகப் பயன்படுத்த தற்போது Python முதன்மையான கருவியாக இருப்பதால், தரவை அணுகுவதற்காக பல்வேறு வகையான தரவுத்தளங்களுக்கான விரிவான தரவு இணைப்பிகள் கிடைக்கின்றன. மேலும், Python தரவு கையாளுதலுக்கு ஏற்றதாக இருப்பதுடன், NumPy மற்றும் Pandas போன்ற விரிவான நூலகங்களுடன் உள்ளமை செயல்பாட்டை மேலும் விரிவுபடுத்தி, குறிப்பிட்ட AI அமைப்புகளுக்கு உள்ளீடு செய்யப்படும் தரவை முன்-செயல்முறைப்படுத்த உதவுகிறது. தற்போதைய கட்டமைப்புகள் ஏற்றுக்கொள்ளப்படும் தரவு வடிவங்களில் குறிப்பிட்டதாக இருக்கின்றன. நிலையாக தட்டச்சு செய்யப்பட்ட தரவு கட்டமைப்புகள் இதில் உதவலாம். GPU செயலாக்கத்திற்கு குறிப்பிட்ட தரவு வகைகள் தேவைப்படுகின்றன, அவை மாற வாய்ப்பில்லை. எனவே, தரவு வகை பரிசீலனைகள் முன்கூட்டியே செய்யப்பட வேண்டும்.

குறுகிய-AI துறையில் உள்ள செயற்கை நுண்ணறிவு அமைப்புகளுக்கு குறிப்பிட்ட தரவு தேவைகள் உள்ளன, மேலும் குறிப்பிட்ட அமைப்புகளில் பயன்படுத்த தரவுத்தொகுப்புகளை உருவாக்கும் திட்டமிடல் கட்டங்களின் போது இதைக் கருத்தில் கொள்ள நேரம் ஒதுக்குவது மதிப்புக்குரியது.

செயற்கை நுண்ணறிவு முடிவுகளைப் பிடித்தல், சேமித்தல் மற்றும் விளக்குதல்

செயற்கை நுண்ணறிவு அமைப்புகள், உள்ளீடுகளைக் கொடுத்தால், பின்னர் சேமிக்கப்பட வேண்டிய வெளியீடுகளை உருவாக்கும். மேலும் அற்புதமாக, முடிவுகளை தரவு ஏரிகள்/தரவு கிடங்குகளுக்குத் திருப்பி அனுப்பலாம் மற்றும் உள்ளுணர்வுகள் மேலும் உள்ளுணர்வுகளை வழங்குவதால் உள்ளுணர்வுகளை வழங்கும் செயல்முறையைத் தொடரலாம். வெளியீடுகள் எவ்வாறு சேமிக்கப்படுகின்றன என்பதன் நிர்வாகம் ஒரு பெரிய தரவு ஆளுகை கட்டமைப்பிற்குள் கவனமாக கருத்தில் கொள்ளப்பட வேண்டும்.

செயற்கை நுண்ணறிவு அமைப்புகள் பெருமளவு தகவல்களை செயலாக்குவதால், ஒரு மனிதன் பொதுவாக தவறவிடும் நுண்ணறிவுக்கு மாறான கருத்துக்களைக் கண்டறிய வாய்ப்புள்ளது. பொதுவாக இந்த கருத்துக்கள்தான் மிகக் குறிப்பிடத்தக்க போட்டி நன்மையை உருவாக்குகின்றன. எனவே, போட்டித்தன்மையைத் தக்க வைத்துக் கொள்ளும் வழிமுறையாக நிறுவனங்கள் இந்த அமைப்புகளுடன் ஈடுபட வேறு வழியில்லை.

செயற்கை நுண்ணறிவு முடிவுகளின் விளக்கம் கவனமான பரிசீலனையை தேவைப்படும். இன்றைய தற்போதைய ஆராய்ச்சியைப் போலவே, இது தவறாக விளக்கப்படுவதற்கான வாய்ப்பு உள்ளது. எனவே, தரவு ஆய்வாளர்கள் அனைத்து தரவுப் புள்ளிகளையும் கண்காணித்து, AI அமைப்புகள் குறிப்பிட்ட கண்டுபிடிப்புகளை ஏன் வழங்கியுள்ளன என்பதைப் பின்னணியில் தேடி, இல்லையெனில் உள்ளுணர்வின் அடிப்படையில் தவறாக செயல்படும் ஆபத்தை எதிர்கொள்ள வேண்டும். மேலே விவரிக்கப்பட்ட தரவு காட்சிப்படுத்தல் கருவிகளின் பயன்பாடு AI ஆல் உருவாக்கப்பட்ட முடிவுகளுக்கு பயன்படுத்தப்படலாம்.

வரும் தசாப்தங்களில், நிறுவனங்கள் AI அமைப்புகளால் உருவாக்கப்பட்ட தகவல்களை நம்பத் தொடங்கும், மேலும் இந்த அமைப்புகளை ஆதரிக்கும் தரவு எவ்வாறு நிர்வகிக்கப்பட்டு செயல்படுத்தப்படுகிறது என்பது மிக முக்கியத்துவம் வாய்ந்ததாக இருக்கும்.

Telemus AI™ உங்கள் நிறுவனத்தில் எவ்வாறு ஒருங்கிணைக்கப்படலாம் என்பது குறித்த இலவச ஆலோசனைக்கு இன்றே எங்களைத் தொடர்பு கொள்ளவும்.