Irchiver - Araştırma Amaçlı Bilgi Toplayıcı

0
bahadirkandemir
irc.freenode.net'te #fazlamesai'de sohbet ederken, network admini lilo tarafından gönderilen bir global mesaj dikkatimi çekti.

Helsinki Bilgi Teknolojileri Enstitüsü'nde Kompleks Sistem Hesaplamaları Grubu'ndan bir araştırmacı, Ville H. Tuulos, Freenode networkünü bir araştırma için kullanmak istediğini belirtmiş. İlgilenenlerin #searchengine kanalına gelmeleri istendi. Kanala girenlerin sayısı çok fazlaydı, girişler yavaşladığında proje yöneticisi Ville H. Tuulos sunuma başladı...
Google benzeri, IRC için bir arama motoru hayal edin. Google benzeri bir yaklaşımın problemi, web üzerindeki link bilgisine ağırca bağlı olması (PageRank). Ve tabii ki bu sorun IRC'de yok. Bundan başka, IRC webe göre çok daha dinamiktir, tartışma konuları her zaman değişir, vs. Böylece, kelime aramaları yeterli olmaz.

Yaptığımız şey şu, elimizde doğal dildeki konuları yakalayan çeşitli istatistiksel modeller var. Bu konularla ilgiliyseniz, MPCA ve ICA kelimeleri size birşeyler anlatmalıdır. Her istatistiksel çalışmalarda olduğu gibi, büyük miktarda veriye ihtiyaç duyar, ve biz *gerçekten* büyük miktardan bahsediyoruz, 100MB gibi değil.

Şu anda başlangıç için 1.5 terabyte'lık bir disk alanına sahip bir SAN sistemi sipariş ettik. İşte miktar bu kadar. Küçük bir etki alanındaki yapay verilerle çalışamayız. Gerçek yaşam verileriyle çalışmak zorundayız, ve bu yeterli veriye ulaşmamızın tek yolu.

İkinci konu ise, tahmin ettiğiniz gibi, modellerimiz değersiz bilgilerle başarısızlığa uğrayabilir. Birçok network ve kanaldaki tartışmalar gürültüden ibarettir. Freenode bu yönde mükemmel. Yeterli insan var ve tartışmalar gürültü değil.

Şöyle bir sisteme sahip olmak istiyoruz:
a) Bir sorgu yazacaksınız, örneğin linux ile ilgili bir soru ve sistem bu tür tartışmanın nerede yapıldığını söyleyecek.
b) Sistem tartışmaların gerçek zamanlı evrimini gösterecek
c) Birden fazla networkte çalışırken, konuların dünyanın her tarafına nasıl yayıldığını göreceksiniz.
d) İddia ediyorum, bu tartışmaları arttıracak: kişilere göre konuları göreceksiniz. Mesela bir kimsenin uzmanlık alanları nedir, vs.

Eminim olayı anladınız ve gerisini hayal edersiniz.

Yaptığımız herşey açık kaynaklı olacak. GPL'li olacak.


Sunum sonrası lilo soruları sormaya başladı:

lilo: Tüm kanallar loglanacak mı?
tuulos: Burada böyle bir sisteme sahip olmak isteyip istemeyeceğimiz size kalmış. Ama kısa cevap: hayır. Tabii ki her zaman gizlilik hakkınızı koruyabileceksiniz. Bir kamu hizmetinden bahsediyoruz, casusluk aracından değil.
lilo: Kanallar sisteme dahil olup ayrılabilecek mi?
tuulos: Sistem her zaman gizliliğe saygılı olmalı.
lilo: Teknik olarak kullanıcıların sistemden ayrılması uygun mu? Bu veri toplamada sorun yaratmaz mı?
tuulos: Evet, tabii ki. IRC trafiğini düşünün. grep -v tuulos diyebilirsiniz.
lilo: Hostlar tutulacak mı? Yoksa sadece nickler mi tutulacak?
tuulos: Bireysel olarak kullanıcılarla ilgilenmiyoruz. Kişisel şeyleri kayıt etmeyeceğiz, nickler dışında.
lilo: SPAM'ciler sistemi yanıltmanın bir yolunu bulabilir, bunu nasıl engelleyeceksiniz?
tuulos: Bu bir silahlanma yarışı. Sorun şu ki, sistem ne kadar büyükse kandırmak o kadar zordur. Örneğin PageRank'i yanıltmak önemsizdir.
lilo: Başından sonuna kadar sistemin üzerinde çalışacak mısınız?
tuulos: Zorundayız. Başka türlü sistemi kullanılabilir kılamayız.
lilo: Gizlilik bildirgesi olacak mı?
tuulos: Hayır, burada bunu tartışmak için bulunuyoruz (:

Ayrıntlı bilgi için http://cosco.hiit.fi/irchiver/ adresini ziyaret edebilirsiniz.

İlgili Yazılar

Frontbase, denenmesi gereken bir database server

anonim

Danimarkalı bir firma tarafından bizlere sunulan Frontbase gerçekten denenmesi gereken bir database server. Development lisansı bedava olan bu database server yazılımının en pahalı lisansı $15.000 civarında, Oracle database serverla yaptığınız hereşeyi bu yazılımla da yapabiliyorsunuz adresi ise http://www.frontbase.com

Ya Danimarka ya da Güney Kore

FZ

İskandinav ülkeleri bilgi teknolojileri kullanımındaki liderliğini hâlâ koruyor. EIU tarafından düzenli olarak yapılan bilişime hazır olma endeksine göre İsveç, Norveç ve Danimarka önceki senelerde olduğu gibi yine ilk 10'a girmeyi başardı. Genişband (broadband) internet erişimi, cep telefonu kullanım oranı, kamuya açık kablosuz internet erişim nokta sayısı gibi bir dizi veri sonucu elde edilen sıralamada bu seneki en büyük çıkışı ABD, İsviçre ve Slovakya aldı. Genişband erişim açısından Güney Kore hâlâ dünyanın en gelişmiş ülkesi. Geçen sene 45. sırada yer alan Türkiye'nin 2005 sıralamasıysa 43. sıraya yükseldi.

Eğitim Yönetiminde E-Dönüşüm

FZ

Yeditepe Üniversitesi ve Türkiye Bilişim Derneği'nin birlikte organize ettikleri Eğitim Yönetiminde E-Dönüşüm sempozyumu ve fuarı 3-4-5 Mayıs tarihlerinde düzenleniyor.

Türkiye'deki en büyük üniversiteleri ve eğitim konusuna yönelik çözüm ve altyapı sunan bilişim şirketlerini bir araya getiren ve ziyaretçileri bilgilendirmeyi amaçlayan bu fuarın ilk günü olan Cuma günü pek çok konuşma yapılacak.

`Satranç´ta Yenilmek İsteyenlere

sundance

Seti@home ve diğer dağıtık bilgisayar projelerinden sonra ilk defa mesaj kaygısı olmayan ;) bir dağıtık bilgisayar gridi; www.chessbrain.net

Amaç malum 200 lü yıllardan beri oynanan Satranç oyununu en iyi şekilde oynayabilecek bir sistem kurmak.

Yakın zamanda büyük ustalar ile bu gridin maçını göreceğimiz kesin, siz ne dersiniz bir denemeye ?

Evinizde/Ofisinizde Kendi Sunucularınız

sundance

Ev/Ofisinizde ISP`nizden bağımsız e-mail kurmak, spamdan korunmak istiyorsunuz, ama bütün bu email mekanizması size anlaşılmaz mı geliyor ? Artık derdiniz yok, çünkü eğer teknik okuma yapmayı seviyorsanız mükemmel bir makale ile UnixReview.com size bu işi en ince detaylarına kadar anlatıyor.

Bazen bir makale görürsünüz ve ufkunuz açılır. İşte bu da onlardan biri...