AI ile Kullanım için Kurumsal Verilerin Hazırlanması

Yapay Zeka Çözümleri Yüksek Kaliteli Veri Gerektirir

Anthony Quattrone, PhD 1 Mayıs 2022

Kurumsal veriler, elektronik tablolardan kelime belgelerine, ilişkisel veritabanlarından metin dosyalarına kadar çeşitli formatlarda yakalanır ve depolanır. Kurumsal verilerden yararlanmak, raporlama ve analiz için iş zekası sistemlerinde kullanılmaya uygun hale getirilmeleri için bir dizi ön işleme adımını içerir. AI sistemleri, yüksek bir uzmanlaşma derecesi sağlamak için eğitim amacıyla son derece özelleştirilmiş veri setleri gerektirir.

Yapay zeka sistemlerinde kullanılmak üzere kurumsal verilerin hazırlanması, bir AI'a girilmeden önce bir eğitim veri seti üretmek için birçok karmaşık Extract-Transform-Load (ETL) süreci gerektirir. Birçok kurumun yasal çerçevesi, çıkarma işlemi gerçekleşmeden önce gizlilik yasalarına ve yönetmeliklerine uyulması gerektiğini ima eder. Ayrıca, verilerin güvenli bir şekilde depolanmasını ve kullanılmasını sağlamak için çıkarma işlemi tamamlandıktan sonra katı depolama süreçlerinin kurallara uyması gerekir.

Mevcut kurumsal ortamda, bir kısmı çalışması kolay bir biçimde yapılandırılmamış olan devasa miktarda veri vardır. Bu bilgileri işlemede ayrıca teknik bir zorluk da bulunmaktadır. Veri hazırlama karmaşıklığı, veriler statik olmadığında ve gerçek zamanlı olarak sürekli değiştiğinde ve dinamik süreçler gerektirdiğinde artar.

Aşağıdaki bölümlerde temel veri hususlarını inceleyeceğiz.

Yaygın Kurumsal Veri Kaynakları

Veriler çeşitli biçimlerde depolanır ve finansal verilerden uzamsal bilgilere kadar çok sayıda boyutu kapsar. Microsoft Office gibi ofis üretkenlik paketlerinde yakalanan ve yapay zeka sistemlerinde doğrudan kullanım için uygun olan dahili kaynak sistemleri, yapay zeka sistemlerinde doğrudan kullanım için uygun değildir.

Aşağıda bilinen veri kaynakları listelenmektedir; bu liste hiçbir şekilde eksiksiz değildir:

  • ERP Muhasebe Sistemleri (Oracle, SAP) için Finansal Veriler
  • GIS Sistemlerinden (ESRI ArcGIS) Mekansal Veriler
  • Ofis Verimlilik Araçlarından (Microsoft Excel, Microsoft Access) Elektronik Tablolar
  • Kaynak sistemlerin arkasında kullanılan özel SQL veritabanları (Microsoft SQL, MySQL, Oracle, SAP)
  • Eski sistemlerde yakalanan düz dosya veritabanları (IBM Ana Bilgisayarları, İndeksli dosyalar)

Farklı sistemler verileri çeşitli biçimlerde depolayabilir. Veri kümelerinin birleştirilmesi gerekir; birden fazla sistem olduğunda bu durum zorluklar yaratır. Veri analistlerinin elektronik tablolar kullanarak bilgileri manuel olarak girmesi yaygın bir durumdur. Güncel eğilim, verileri bir veri gölüne girmektir, böylece veri mühendisleri kritik sistemlerle doğrudan arabirim kurmak zorunda kalmadan onunla çalışabilir. Dolayısıyla, hedeflere ulaşmak için veri dönüşümleri gerekmiştir.

Yapay Zeka sistemleri bu verilerden büyük ölçüde yararlanabilir. Ancak, yalnızca bu tür sistemlere beslenmek üzere önce uygun bir formatta işlendiğinde, veri gölleri ve veri ambarları yüksek kaliteli veri kümeleri üretmekte kritik öneme sahiptir.

Yapay Zeka ve Extract-Transform-Load (ETL) süreçleriyle ilişkisi

Geleneksel ETL süreçleri, yapay zeka daha belirgin hale geldikçe muhtemelen değişmeyecektir. Bu tür tekniklerin AI sistemleriyle iyi çalışan öğrenmeye elverişli veri setleri üretmek için yeniden hedeflenmesi daha olasıdır. Bir örnek, nesnelerin fotoğraflarını çekmek ve AI sistemlerinin öğrenmesine izin vermek için bunları bir ilişkiyle etiketlemektir.

Veri hazırlama beceri setlerini kullanarak yapay zeka sistemleri için veri setleri oluşturmak amacıyla veri bilimciler ve veri mühendisleri için harika fırsatlar mevcuttur. Gerçek zamanlı yapay zeka sistemlerinden en yüksek verimi elde etmek için ETL süreçlerinin otomatikleştirilmesi ve manuel süreçlere dayanmaması önemli olacaktır.

Yapay Zekada Kullanım İçin Tek Doğru Kaynak Olarak Veri Gölleri ve Veri Ambarları

Farklı sistemlerde depolanan ham veriler parçalanmaya yol açar. Bunun üstesinden gelmek için tüm verilerin sorgulara ve veri manipülasyonuna izin veren ilişkisel bir veritabanı gibi tek bir konuma aktarılması istenir. Tüm veriler tek bir alanda depolandığında, değerli bilgiler üreten veri setleri oluşturmak için bunlara daha kolay erişilebilir ve üzerinde çalışılabilir. Tek bir doğru kaynak tanımlamak esastır.

Veri Ambarları daha sonra, olguları veya ölçümleri tanımlamak üzere boyutlar oluşturmak için Kimball veya Inmon gibi standartlar kullanılarak tanımlanabilir. Genel anlayışta bir olgu tipik olarak kategorik veriyken, bir ölçü tipik olarak sayısal veridir. Bu tür standartlar kullanarak verileri işlemek, verimlilik ve doğruluğu sağlamada önemli avantajlar sunar.

İyi bir veri ambarına sahip olmak için yatırım yapan kurumlar için belki de en önemli avantaj, kurumsal veri setini daha geniş kuruma açmasıdır. Büyük kurumlarda, çoğu çalışan işletmeyi yürüten kritik kaynak sistemlerine erişemez; ancak veri ambarına, tipik olarak yalnızca okuma modunda erişebilirler. Veri ambarları, çalışanların kurumun yönetim yapısının genellikle bilmediği içgörüleri belirlemesine olanak tanır.

Veri ambarlarının oluşturulması, gizlilik ve mevzuatla ilgili hususların tanımlandığından emin olunmasını sağlar. Veri ambarları, verilerin paydaşlar arasında güvenli bir şekilde aktarılmasına yardımcı olur. Veri göllerine ve ambarlarına erişim ayrıca kuruluşel işlevlerin nasıl yerine getirildiğinin şeffaflığını ve hesap verilebilirliğini de artırarak daha istikrarlı operasyonel prosedürlere olanak tanır.

Kurumsal Büyük Verinin Görselleştirilmesi

Büyük verinin zorluklarından biri, onu en iyi şekilde nasıl görüntüleyeceğiniz ve anlattığı hikayeyi nasıl aktaracağınızdır. Önceki yaklaşımlar, verileri alt seviyelerden üst seviyelere toplayarak çubuk grafikler, çizgi grafikler ve dağılım grafikleri gibi standart grafiklerde görüntülenmesini sağlayan raporlama hizmetlerini içeriyordu. Bu yaklaşımlar, günlük olağan iş operasyonlarının parçası olan yönetim raporları (yani satış raporları, hesap raporları) için uygundur. Microsoft SSRS, kurumsal çapta raporlama için kullanılan en yaygın araçtır.

Bu boşluğu gidermek için Tableau ve QlikView'un pazarı domine ettiği gelişmiş görselleştirme programları ortaya çıktı. Tableau çarpıcı görselleştirmelere odaklanırken, QlikView Microsoft SSRS ve Tableau gibi geleneksel raporlama hizmetlerini dengelemeyi başardı. Microsoft PowerBI pazarı domine etti ve Gartner tarafından daha karmaşık olarak kabul ediliyor. Bu programlar, birden fazla temel metriği izlemek ve bu tür izlemeyi kapsamlı kuruluş süreçlerinin bir parçası olarak entegre etmek için inanılmaz derecede yararlı olan panolar oluşturur. Stratejik karar vericiler yakın zamanda veri odaklı kararlar almak için harika panolar oluşturdular, operasyon yöneticileri ise kurumsal hedeflere ulaşmak için daha hızlı yanıt verebilirler.

AI'nin ortaya çıkışıyla birlikte görselleştirme hayati bir rol oynayacaktır. Yapay Zeka sistemlerinin üretebileceği içgörüler karmaşıktır ve insanların kolayca anlayabileceği bir görsel temsille iletilmesi gerekir. Bunun harika bir örneği, çok değişkenli verileri görüntülemek için kendi kendini organize eden bir harita (SOM) sunmaktır.

Bir Yapay Zeka Sistemine Beslemek İçin Verileri Birleştirme

Veri kümelerine erişim verildiğinde, daha sonra ilişkisel bir veritabanından veri almak ve bir yapay zeka sistemine bir bağlayıcı sağlamak mümkündür. Çoğu modern AI sistemi Python kullanılarak oluşturulur ve verimliliği sağlamak için genellikle C/C++ ile uygulanan modüllere dayanır.

Python şu anda AI ile etkileşim kurmak için temel araç olduğundan, verilere erişmek için birçok farklı veritabanı türüne zengin bir veri bağlayıcı serisi mevcuttur. Ayrıca, Python veri manipülasyonları için oldukça uygundur ve belirli AI sistemlerine beslenen verileri ön işlemeye yardımcı olmak için NumPy ve Pandas gibi zengin kitaplıklarla yerel işlevselliği daha da genişletir. Mevcut çerçeveler, kabul edilen veri biçimleri konusunda özeldir. Statik olarak yazılan veri çerçeveleri bu konuda yardımcı olabilir. GPU işleme, değişmesi olası olmayan belirli veri türleri gerektirir. Bu nedenle, veri türü hususları önceden yapılmalıdır.

Dar AI alanındaki Yapay Zeka sistemlerinin belirli veri gereksinimleri vardır ve bu sistemlerde kullanılacak veri kümelerini oluşturma planlama aşamalarında bunu dikkate almak için zaman ayırmaya değer.

Yapay Zeka Sonuçlarını Yakalama, Depolama ve Yorumlama

Yapay Zeka sistemleri, verilen girdiler sonucunda depolanması gereken çıktılar üretecektir. Daha heyecan verici olanı ise sonuçların veri göllerine/veri ambarlarına geri beslenmesi ve içgörüler daha fazla içgörü üretebileceğinden içgörü sunma sürecine devam etmesidir. Çıktıların nasıl depolanacağının yönetimi, daha geniş bir veri yönetişimi çerçevesi içinde dikkatlice değerlendirilmesi gerekecektir.

Yapay zeka sistemleri devasa miktarda bilgi işlediği için, bir insanın genellikle gözden kaçıracağı sezgisel olmayan içgörüleri bulması muhtemeldir. Genellikle en önemli rekabet avantajını sağlayanlar bu içgörülerdir. Bu nedenle, kurumların rekabetçi kalmak bir yana, bu sistemlerle etkileşime girmekten başka seçeneği kalmayacaktır.

Yapay zeka sonuçlarının yorumlanması dikkatli bir değerlendirme gerektirecektir. Günümüzdeki mevcut araştırmalarda olduğu gibi, bunların yanlış yorumlanması mümkündür. Bu nedenle, veri analistleri tüm veri noktalarını izlemeli ve AI sistemlerinin belirli bulguları nasıl elde ettiğini geriye doğru izlemelidir, aksi takdirde içgörülere dayalı olarak yanlış hareket etme riski taşırlar. Yukarıda açıklanan veri görselleştirme araçlarının kullanımı, AI tarafından üretilen sonuçlara uygulanabilir.

Önümüzdeki on yıllara girerken, kuruluşlar AI sistemleri tarafından üretilen bilgilere güvenmeye başlayacak ve bu sistemlerin temelini oluşturan verilerin nasıl yönetildiği ve uygulandığı son derece önemli olacaktır.

Telemus AI™'ın kuruluşunuza nasıl entegre edilebileceği konusunda ücretsiz bir danışmanlık için bugün bizimle iletişime geçin.