AI کے ساتھ استعمال کے لیے تنظیمی ڈیٹا تیار کرنا

مصنوعی ذہانت کے حل کو اعلیٰ معیار کے ڈیٹا کی ضرورت ہوتی ہے

انتھونی کواٹرون، پی ایچ ڈی 1 مئی 2022

تنظیمی ڈیٹا مختلف شکلوں میں قبض اور محفوظ کیا جاتا ہے، اسپریڈ شیٹس سے لے کر ورڈ دستاویزات، رشتہ دار ڈیٹا بیس اور ٹیکسٹ فائلوں تک۔ تنظیمی ڈیٹا کو استعمال میں لانے میں پری پروسیسنگ کے کئی مراحل شامل ہوتے ہیں تاکہ اسے رپورٹنگ اور تجزیہ کے لیے بزنس انٹیلیجنس سسٹمز میں استعمال کے لیے موزوں بنایا جا سکے۔ AI سسٹمز کو اعلیٰ درجے کی تخصیص کو یقینی بنانے کے لیے تربیت کے لیے انتہائی خصوصی ڈیٹا سیٹ کی ضرورت ہوتی ہے۔

مصنوعی ذہانت کے نظام میں استعمال کے لیے تنظیمی ڈیٹا کی تیاری کے لیے ایک AI میں داخل کرنے سے پہلے تربیتی ڈیٹا سیٹ تیار کرنے کے لیے بہت سے پیچیدہ Extract-Transform-Load (ETL) عمل کی ضرورت ہوتی ہے۔ بہت سی تنظیموں کا ریگولیٹری فریم ورک اس بات کی نشاندہی کرتا ہے کہ نکالنے سے پہلے پرائیویسی قوانین اور ضوابط کی پابندی کرنی ہوگی۔ مزید برآں، یہ یقینی بنانے کے لیے کہ ڈیٹا کو محفوظ طریقے سے محفوظ اور استعمال کیا جائے، نکالنے کے بعد سخت اسٹوریج عملوں کو اصولوں کی پابندی کرنی ہوگی۔

موجودہ تنظیمی ماحول میں ڈیٹا کی بڑی مقدار موجود ہے، جس میں سے کچھ ایسے فارمیٹ میں غیر منظم ہیں جس پر کام کرنا آسان ہو۔ اس معلومات کو پروسیس کرنے میں ایک تکنیکی چیلنج بھی موجود ہے۔ ڈیٹا کی تیاری کی پیچیدگی اس وقت بڑھ جاتی ہے جب ڈیٹا جامد نہ ہو اور مسلسل حقیقی وقت میں تبدیل ہو رہا ہو، اور اسے متحرک عمل کی ضرورت ہو۔

ہم مندرجہ ذیل حصوں میں اہم ڈیٹا پر غور کریں گے۔

مشترکہ تنظیمی ڈیٹا ذرائع

ڈیٹا مختلف فارمیٹس میں محفوظ کیا جاتا ہے اور یہ متعدد پہلوؤں پر محیط ہے، مالی ڈیٹا سے لے کر مکانی معلومات تک۔ Microsoft Office جیسے آفس پروڈکٹیویٹی سویٹس اور اندرونی مخصوص ذریعہ نظاموں میں محفوظ ڈیٹا براہ راست آرٹیفیشل انٹیلیجنس سسٹمز میں استعمال کے لیے موزوں نہیں ہوتا۔

درج ذیل فہرست میں جانے پہچانے ڈیٹا ذرائع شامل ہیں؛ یہ فہرست کسی بھی طرح مکمل نہیں ہے:

  • ERP اکاؤنٹنگ سسٹمز (Oracle, SAP) کے لیے مالی ڈیٹا
  • GIS سسٹمز سے اسپیشل ڈیٹا (ESRI ArcGIS)
  • آفس پروڈکٹیویٹی ٹولز (مائیکروسافٹ ایکسل، مائیکروسافٹ ایکسس) سے اسپریڈ شیٹس
  • سورس سسٹمز کے پیچھے استعمال ہونے والے کسٹم SQL ڈیٹا بیس (Microsoft SQL، MySQL، Oracle، SAP)
  • لیگیسی سسٹمز (IBM Mainframes, Indexed files) میں محفوظ فلیٹ فائل ڈیٹا بیس

مختلف نظامیں ڈیٹا کو مختلف فارمیٹس میں محفوظ کر سکتی ہیں۔ ڈیٹا سیٹس کو جوڑنے کی ضرورت ہوتی ہے؛ جب متعدد نظامیں موجود ہوں تو یہ چیلنجز پیدا کرتا ہے۔ ڈیٹا تجزیہ کاروں کے لیے اسپریڈ شیٹس کا استعمال کرتے ہوئے معلومات کو دستی طور پر درج کرنا عام بات ہے۔ موجودہ رجحان ڈیٹا کو ڈیٹا جھیل میں درج کرنا ہے، تاکہ ڈیٹا انجینئرز اس کے ساتھ کام کر سکیں بغیر اہم نظاموں کے ساتھ براہ راست رابطہ کیے۔ اس طرح، اہداف حاصل کرنے کے لیے ڈیٹا تبدیلیوں کی ضرورت تھی۔

مصنوعی ذہانت کے نظام اس ڈیٹا سے بہت فائدہ اٹھا سکتے ہیں۔ تاہم، صرف اس وقت جب اسے پہلے ایک مناسب فارمیٹ میں پروسیس کیا جائے تاکہ ایسے نظام میں داخل کیا جا سکے، یہی وہ جگہ ہے جہاں ڈیٹا جھیلوں اور ڈیٹا ویئر ہاؤسز اعلیٰ معیار کے ڈیٹا سیٹ تیار کرنے میں اہم کردار ادا کرتے ہیں۔

مصنوعی ذہانت اور اس کا Extract-Transform-Load (ETL) عمل سے تعلق

روایتی ETL عمل ممکنہ طور پر تبدیل نہیں ہوں گے جیسے جیسے آرٹیفیشل انٹیلیجنس زیادہ نمایاں ہوتی جائے گی۔ اس کے بجائے زیادہ امکان ہے کہ ایسی تکنیکوں کو دوبارہ ہدایت دی جائے گی تاکہ ایسے ڈیٹاسیٹس تیار کیے جا سکیں جو سیکھنے کے لیے سازگار ہوں اور AI سسٹمز کے ساتھ اچھی طرح کام کریں۔ ایک مثال اشیاء کی تصاویر لینا اور انہیں ایک وابستگی کے ساتھ لیبل کرنا ہے تاکہ AI سسٹمز سیکھ سکیں۔

ڈیٹا سائنٹسٹ اور ڈیٹا انجینئرز کے لیے اپنے ڈیٹا کی تیاری کی مہارتوں کو استعمال کرتے ہوئے مصنوعی ذہانت کے نظام کے لیے ڈیٹا سیٹ بنانے کے بہترین مواقع موجود ہیں۔ یہ ضروری ہوگا کہ ETL کے عمل خودکار ہوں اور وہ دستی عمل پر انحصار نہ کریں تاکہ حقیقی وقت کے مصنوعی ذہانت کے نظام سے زیادہ سے زیادہ کارکردگی حاصل کی جا سکے۔

آرٹیفیشل انٹیلیجنس میں استعمال کے لیے سچائی کے واحد ذریعہ کے طور پر ڈیٹا لیکز اور ڈیٹا ویئر ہاؤسز

مختلف سسٹمز میں محفوظ کردہ خام ڈیٹا ٹکڑے ٹکڑے ہونے کا باعث بنتا ہے۔ اس پر قابو پانے کے لیے، یہ ضروری ہے کہ تمام ڈیٹا کو ایک ہی جگہ، جیسے کہ ایک ریلیشنل ڈیٹا بیس میں منتقل کیا جائے جو استفسارات اور ڈیٹا میں ہیرا پھیری کی اجازت دیتا ہے۔ ایک بار جب تمام ڈیٹا ایک جگہ محفوظ ہو جائے، تو اس تک آسانی سے رسائی حاصل کی جا سکتی ہے اور قیمتی معلومات فراہم کرنے والے ڈیٹا سیٹ تیار کرنے کے لیے اس پر کام کیا جا سکتا ہے۔ حقیقت کے ایک ہی ذریعے کی وضاحت کرنا ضروری ہے۔

ڈیٹا ویئر ہاؤسز کو پھر Kimball یا Inmon جیسے معیارات کا استعمال کرتے ہوئے تعریف کیا جا سکتا ہے تاکہ حقائق یا پیمائشوں کی وضاحت کے لیے ابعاد بنائے جائیں۔ عمومی فہم کے مطابق ایک حقیقت عام طور پر قطعی ڈیٹا ہوتی ہے، جبکہ ایک پیمائش عام طور پر عددی ڈیٹا ہوتی ہے۔ ایسے معیارات کا استعمال کرتے ہوئے ڈیٹا کی پروسیسنگ کارکردگی اور درستگی کو یقینی بنانے میں اہم فوائد فراہم کرتی ہے۔

شاید ان تنظیموں کے لیے سب سے اہم فائدہ جنہوں نے ایک اچھے ڈیٹا ویئر ہاؤس کی ملکیت میں سرمایہ کاری کی ہے، یہ ہے کہ یہ تنظیمی ڈیٹا سیٹ کو وسیع تر تنظیم کے لیے قابل رسائی بناتا ہے۔ بڑی تنظیموں میں، زیادہ تر ملازمین کے پاس ان اہم ذریعہ سسٹمز تک رسائی نہیں ہوتی جو کاروبار چلاتے ہیں؛ تاہم، ان کے پاس ڈیٹا ویئر ہاؤس تک رسائی ہوتی ہے، جو عام طور پر صرف پڑھنے کے لیے ہوتی ہے۔ ڈیٹا ویئر ہاؤسز ملازمین کو ایسی بصیرتوں کی شناخت کرنے کی اجازت دیتے ہیں جنہیں تنظیم کا انتظامی ڈھانچہ عام طور پر نہیں جانتا۔

ڈیٹا ویئر ہاؤسز کی تخلیق یہ یقینی بناتی ہے کہ رازداری اور ریگولیٹری تحفظات متعین کیے جائیں۔ ڈیٹا ویئر ہاؤسز ڈیٹا کے اسٹیک ہولڈرز کے درمیان محفوظ طریقے سے منتقلی کو یقینی بنانے میں مدد کرتے ہیں۔ ڈیٹا لیکس اور ویئر ہاؤسز تک رسائی تنظیمی افعال کو کس طرح انجام دیا جاتا ہے اس کی شفافیت اور جواب دہی کو بھی بہتر بنا سکتی ہے، جس سے زیادہ مستحکم آپریٹنگ طریقہ کار کی اجازت ملتی ہے۔

تنظیمی بگ ڈیٹا کا بصری انداز

بڑے ڈیٹا کا ایک چیلنج یہ ہے کہ اسے بہترین طریقے سے کیسے دیکھا جائے اور جو کہانی وہ بیان کرتا ہے اسے کیسے پہنچایا جائے۔ ابتدائی طریقوں میں رپورٹنگ سروسز شامل تھیں جو ڈیٹا کو نچلے سے اعلیٰ سطح تک جمع کرتی ہیں تاکہ اسے معیاری چارٹس جیسے کہ بار چارٹس، لائن چارٹس، اور سکٹر پلاٹس میں دکھایا جا سکے۔ یہ طریقے مینجمنٹ رپورٹس (یعنی سیلز رپورٹس، اکاؤنٹ رپورٹس) کے لیے موزوں ہیں جو روزمرہ کے معمول کے کاروباری آپریشنز کا حصہ ہیں۔ Microsoft SSRS انٹرپرائز وائڈ رپورٹنگ کے لیے استعمال ہونے والا سب سے عام ٹول ہے۔

اس خلا کو پُر کرنے کے لیے جدید بصری پروگرام سامنے آئے، جس میں Tableau اور QlikView نے بازار پر غلبہ حاصل کیا۔ Tableau نے شاندار بصری نمائشوں پر بھرپور توجہ مرکوز کی، جبکہ QlikView نے Microsoft SSRS اور Tableau جیسے روایتی رپورٹنگ سروسز کے درمیان توازن قائم رکھا۔ Microsoft PowerBI نے بازار پر غلبہ حاصل کیا ہے اور Gartner کے ذریعے اسے زیادہ پیچیدہ سمجھا جاتا ہے۔ یہ پروگرام ڈیش بورڈز بناتے ہیں جو متعدد کلیدی میٹرکس کی نگرانی اور ایسی نگرانی کو جامع تنظیمی عملوں کے حصے کے طور پر ضم کرنے کے لیے غیر معمولی طور پر مفید ہیں۔ حکمت عملی کے فیصلہ سازوں نے حال ہی میں ڈیٹا پر مبنی فیصلے کرنے کے لیے بہترین ڈیش بورڈز بنائے ہیں، جبکہ آپریشنز مینیجرز کارپوریٹ مقاصد کو حاصل کرنے کے لیے تیزی سے جواب دے سکتے ہیں۔

AI کے آغاز کے ساتھ، بصری نمائش ایک اہم کردار ادا کرے گی۔ وہ بصیرتیاں جو مصنوعی ذہانت کے نظام پیدا کر سکتے ہیں پیچیدہ ہوتی ہیں، اور انہیں ایک ایسی بصری شکل میں پیش کرنے کی ضرورت ہوتی ہے جسے لوگ آسانی سے سمجھ سکیں۔ اس کی ایک بہترین مثال کثیر المتغیرات ڈیٹا کو دیکھنے کے لیے خود تنظیمی نقشہ (SOM) پیش کرنا ہے۔

مصنوعی ذہانت کے نظام میں فیڈ کرنے کے لیے ڈیٹا کا یکجا کرنا

ڈیٹاسیٹس تک رسائی دی گئی ہو، پھر ریلشنل ڈیٹا بیس سے ڈیٹا لینا اور ایک آرٹیفیشل انٹیلیجنس سسٹم کو کنیکٹر فراہم کرنا ممکن ہے۔ جدید AI سسٹمز زیادہ تر Python کا استعمال کرتے ہوئے بنائے جاتے ہیں اور کارکردگی کو یقینی بنانے کے لیے C/C++ میں لاگو کردہ ماڈیولز پر انحصار کرتے ہیں۔

چونکہ پائتھن اس وقت AI کے ساتھ انٹرفیس کرنے کا بنیادی ٹول ہے، لہذا ڈیٹا تک رسائی کے لیے مختلف قسم کے ڈیٹا بیسز کے لیے بہت سے ڈیٹا کنیکٹرز دستیاب ہیں۔ مزید برآں، پائتھن ڈیٹا میں ہیرا پھیری کے لیے بہترین ہے اور NumPy اور Pandas جیسی بھرپور لائبریریوں کے ساتھ اپنی مقامی فعالیت کو مزید بڑھاتا ہے تاکہ مخصوص AI سسٹمز میں دی جانے والی ڈیٹا کو پہلے سے پروسیس کرنے میں مزید مدد ملے۔ موجودہ فریم ورکس قبول کیے جانے والے ڈیٹا فارمیٹس میں خاص ہوتے ہیں۔ جامد طور پر ٹائپ کیے گئے ڈیٹا فریم ورکس اس میں مدد کر سکتے ہیں۔ GPU پروسیسنگ کے لیے مخصوص ڈیٹا ٹائپس کی ضرورت ہوتی ہے، جو تبدیل ہونے کے قریب نہیں ہیں۔ لہذا، ڈیٹا ٹائپ کے بارے میں غور و فکر پہلے سے کرنا ضروری ہے۔

نارو AI کے شعبے میں مصنوعی ذہانت کے نظام کی مخصوص ڈیٹا کی ضروریات ہوتی ہیں، اور مذکورہ نظام میں استعمال ہونے والے ڈیٹا سیٹ بنانے کی منصوبہ بندی کے مراحل کے دوران اس پر غور کرنے کے لیے وقت لینے کے قابل ہے۔

آرٹیفیشل انٹیلیجنس نتائج کو کیپچر کرنا، محفوظ کرنا اور تشریح کرنا

مصنوعی ذہانت کے نظام، ان پٹس کی بنیاد پر، بالآخر ایسے آؤٹ پٹس تیار کریں گے جنہیں محفوظ کرنے کی ضرورت ہوگی۔ مزید دلچسپ بات یہ ہے کہ نتائج کو ڈیٹا جھیلوں/ڈیٹا ویئر ہاؤسز میں واپس کیا جا سکتا ہے اور بصیرت فراہم کرنے کے عمل کو جاری رکھا جا سکتا ہے کیونکہ بصیرتیں مزید بصیرتیں پیدا کر سکتی ہیں۔ آؤٹ پٹس کو کیسے محفوظ کیا جائے اس کے انتظام پر ایک بڑے ڈیٹا گورننس فریم ورک کے اندر احتیاط سے غور کرنے کی ضرورت ہوگی۔

چونکہ مصنوعی ذہانت کے نظام بڑی مقدار میں معلومات پر عمل کرتے ہیں، اس لیے ایسا ہونا ممکن ہے کہ وہ ایسے غیر متوقع بصیرتیں تلاش کریں جنہیں ایک انسان عام طور پر نظر انداز کر دیتا ہے۔ عام طور پر یہی بصیرتیں سب سے زیادہ اہم مسابقتی فائدہ فراہم کرتی ہیں۔ لہذا، تنظیموں کے پاس مسابقتی رہنے کے ایک ذریعے کے طور پر ان نظاموں سے جڑنے کے سوا کوئی چارہ نہیں ہوگا۔

مصنوعی ذہانت کے نتائج کی تشریح میں احتیاط سے غور کرنے کی ضرورت ہوگی۔ بالکل آج کی موجودہ تحقیق کی طرح، یہ ممکن ہے کہ اس کی غلط تشریح کی جائے۔ لہذا، ڈیٹا تجزیہ کاروں کو تمام ڈیٹا پوائنٹس کو ٹریس کرنا چاہیے اور یہ بیک ٹریس کرنا چاہیے کہ AI سسٹمز نے مخصوص نتائج کیوں دیے ہیں، ورنہ بصارت پر غلط عمل کرنے کا خطرہ ہے۔ اوپر بیان کردہ ڈیٹا ویژولائزیشن ٹولز کا استعمال AI کے ذریعے پیدا کردہ نتائج پر لاگو کیا جا سکتا ہے۔

آنے والی دہائیوں میں بڑھتے ہوئے، تنظیمیں AI سسٹمز کے ذریعے تیار کردہ معلومات پر انحصار شروع کریں گی اور ان سسٹمز کی بنیاد بننے والے ڈیٹا کو کیسے گورن اور لاگو کیا جاتا ہے، انتہائی اہمیت کا حامل ہوگا۔

Telemus AI™ کو آپ کے ادارے میں کیسے ضم کیا جا سکتا ہے، اس پر مفت مشاورت کے لیے آج ہی ہم سے رابطہ کریں۔