Big Data’nın üretilme hızı çok yüksek ve gittikçe artıyor.
Veri depolama alanının büyüklüğü ne olursa olsun günümüzde bu büyüklüğü doldurmaya yetecek miktarda veri sürekli artarak oluşmaktadır. Veri miktarı oluşumundaki hızlı artışın temel nedeni ise sosyal ağ’ın büyüyen hacmi, lokasyon duyarlı cihazların artması ve fiziksel dünya hakkında bilgi yakalayan ve ileten “akıllı sensörler”in sayısındaki artış olarak özetlenebilir. Ayrıca bunlara video ve medya kaynaklarını da eklememiz gerekmektedir.
Verinin üretilme hızı ve çeşitliliği o kadar fazla ki, veri saklama cihazlarının teknolojileri ve üretilme hızları, bu hızın gerisinde kalıyorlar. Saklama ve veri işlemenin birim maaliyetleri azalsa da, hızlı üreyen veriyi saklamak ve işlemenin toplam maaliyeti artıyor.
2020′lerde toplam sayısal verinin 36 ZettaByte olması bekleniyor. 1 ZettaByte = 1 Milyar TeraByte. Bloglar, sosyal medya, elektronik sensörler vb cihazlar tamamen yapısal olmayan yepyeni bir dünya sunuyorlar.
Cep telefonları, internet’deki yapılan her tıklama, sayısal fotoğraf makineleri veri üreten birer fabrikaya dönüştü. Geçen on yıldan beri veri tabanı sunucularının sayısı 6 kat artarak, 32.5 Milyon’a çıktı.
Mevcut verilerin % 80′i yapısal değil; Eposta, fotoğraf, video, müzik dosyası, PDF, vb şeklinde ortaya çıkan, geleneksel ilişkisel veri tabanlarında saklanmayan, “Gri Data” olarak adlandırılan “Ham” veri.
Özellikle sağlık ve finans sektörü ile hükümetlerin “BIG DATA” konusuna daha çok kafa yormaları gerekecek. Çünkü hukuki olarak geriye dönük bu devasa sayısal bilgilerin saklanması, yedeklenmesi, arşivlenmesi ve gerektiğinde hızlı olarak erişilebilir olması gerekiyor. İlk tahminler, ABD’nin sağlık sektörünün yıllık 300 Milyar Dolarlık “BIG DATA” katma değerinde iş hacmine sahip olduğu yönünde.
McKinsey’in bir raporuna göre 2010′da ABD ve Avrupa’daki toplam saklama kapasitesi 30 ExaByte ama üretilen veri 1.2 ZettaByte. Bu durumda üretilen ama saklanmayan, saklanmadığı için de işlenmeden yok olan veri oldukça fazla. Bu yaklaşımdan yola çıkarsak, “veri işleme” konusunda da ezber bozan çözümler üretilmesi gerekiyor. IBM, Samsung, GE Global saklama ve özellikle veriyi “kaynağında işleyecek” teknolojiler üretme konusunda çalışıyorlar.
“Big Data” olgusunu tarifleyen 5 bileşen bulunmaktadır.
Volume (Veri Büyüklüğü):
IDC istatistiklerine göre 2020′de ulaşılacak veri miktarı, 2009′un 44 katı olacak. Şu anda kullanılan, “büyük” diye adlandırdığımız kapasiteleri ve “büyük sistemleri” düşünüp, bunların 44 kat büyüklükte verilerle nasıl başa çıkacaklarını hayal etmek gerekiyor! Kurumun veri arşivleme, işleme, entegrasyon, saklama vb teknolojilerinin bu büyüklükte veri hacmi ile nasıl başa çıkacağının kurgulanması gerekli hem de hiç vakit kaybetmeden.
Velocity (Hız):
Big Data’nın üretilme hızı çok yüksek ve gittikçe artıyor. Daha hızlı üreyen veri, o veriye muhtaç olan işlem sayısının ve çeşitliliğinin de aynı hızda artması sonucunu doğuruyor.
Variety (Çeşitlilik):
Üretilen verinin % 80′i yapısal değil ve her yeni üretilen teknoloji, farklı formatlarda veri üretebiliyor. Telefonlardan, tabletlerden, entegre devrelerden gelen türlü çeşitlilikte “Veri Tipi” ile uğraşılması gerekiyor. Bir de bu verilerin farklı dillerde, Non-Unicode olabileceğini düşünürseniz, entegre olmaları, birbirlerine dönüşmeleri de gerekli.
Verification (Doğrulama):
Bu bilgi yoğunluğu içinde verinin akışı sırasında “güvenli” olması da bir diğer bileşen. Akış sırasında, doğru katmadan, olması gerektiği güvenlik seviyesinde izlenmesi, doğru kişiler tarafından görünebilir veya gizli kalması gerekiyor.
Value (Değer):
En önemli bileşen ise değer oluşturması. Bütün yukarıdaki eforlarla tariflenen BIG DATA’nın veri üretim ve işleme katmanlarınızdan sonra kurum için bir artı değer katıyor olması lazım. Karar veriş süreçlerinize anlık olarak etki etmesi, doğru kararı vermenizde hemen elinizin altında olması gerekiyor. Örneğin sağlık konusunda stratejik kararlar alan bir devlet kurumu anlık olarak bölge, il, ilçe vb detaylarda hastalık, ilaç, doktor dağılımlarını görebilmeli. Hava Kuvvetleri, bütün uçucu envanterindeki taşıtlarının anlık yerlerini ve durumlarını görebilmeli, geriye dönük bakım tarihçelerini izleyebilmeli. Bir Banka, kredi vereceği kişinin, sadece demografik bilgilerini değil, yemek yeme, tatil yapma alışkanlıklarını dahi izleyebilmeli, gerekirse sosyal ağlarda ne yaptığını görebilmeli.
BIG DATA’nın temel olgusu aslında yeni birşey de değil; adı değişse de geçmişte de vardı. Internet kullanımının patlama yapması ve sanal olarak da olsa insanlığın daha çok sosyalleşmesi, birçok yeni teknolojinin ulaşılabilir ve ucuz hale gelmesi bizi bu devasa büyüyen veri okyanusunda yeni arayışlara itti. İş yapış biçimi de bizi buralara getirdi; geleneksel yaklaşımda iş sahibinin soru, sorun ve ihtiyaçlarına göre, Bilişim Teknolojileri mimariyi çıkartır; ihtiyaca cevap sağlardı. Günümüzde ise Bilişim Teknolojileri sunduğu platform ile iş sahibinin özgürce veriyi keşfetmesini sağlayacak altyapılar sunmak zorunda. Geleneksel ilişkisel veri tabanları güncelliğini, OLTP işlevini artarak yerine getirmeye devam edecek olsa da, BIG DATA’nın yeni ihtiyaçlarından dolayı, veriyi kaynağında işleyecek ya da IBM-Netezza, Oracle-Exadata, IBM-DB2 Analytical Machine vb “appliance” olarak anlamlandırılan yazılım, uygulama ve donanımı içinde barındıran çözümler ve NoSQL, Hadoop, Cassandra, JAQL, HBASE vb daha emekleme aşamasındaki çözümler BIG DATA’yı adreslemeye çalışacak.
BIG DATA yeni bir platform ve veri işleme anlayışı getirecek, zaman içinde yazılım firmalarından bu konuda onlarca çözüm çıkacak ve mevcut Bilgi Depolarına entegre edilerek büyümesi ve beraber yaşamaları kaçınılmaz hale gelecek. İlk çıkan ürünlerin çoğunluğu Açık Kaynak kodlu prototip uygulamalar olduğundan, ileri seviye danışmanlık ve küresel destek hizmetlerinden yoksunlar. Ama kurumsal sürümlerinin çıkması ve yine küresel yazılım şirketleri tarafından paylaşılması an meselesi.
