Herhangi Bir Metnin Hangi Dilden Olduğunu Hızlıca Anlama

Yapay zekâ dersim için Prolog ile boğuşurken ve comp.lang.prolog haberleşme/tartışma grubunu mesaja boğarken oraya katkıda bulunan bir hocanın, Gertrand Van Noord'un enteresan bir çalışması dikkatimi çekti.

Perl ile yazılmış bir tür dil kategorizasyon programı. Yani bir GİRDİ'ye bakıp, "hmm bu Türkçe" diyor, başka bir girdiye bakıp "hmm, bu da Portekizce" diyor ve bunu kısa sürede, yüksek başarım oranı ile, 69 farklı dil için yapıyor. Açık kodlu, özgür yazılım kategorisinde alan TextCat'in bir de web demosu var.

Van Noord, TextCat'in ticari ve ticari olmayan rakiplerini de sıralamış. Kendi yazılımına dil sayısı olarak en çok yaklaşan yazılım XEROX Language Identifier ticari bir yazılım ve 40 civarı dil ayırt edebiliyor.

Hep birlikte tekrarlıyoruz: Özgür Yazılımı Seviyoruz! :)

Görüşler

abakana
19 yıl önce

Türkçe' ye özgü ışğ karakterlerinin bulunmadğı metinleri unknown olarak gösteriyor. Bu arada ışğ olmaması kesinlikle kullanılmaması anlamında algılanmalıdır. ı -> i ğ -> g gibi bir dönüşüm yapılmadı.

roktas
19 yıl önce

Hmm... Bu denemeyi hangi ortamda yaptınız? (Tarayıcı + OS) Burada böyle bir sorun yok (Firefox + Debian 3.1 Sarge). Ayrıca ı (idotless) gibi Türkçeye çok özgü karakterleri içeren girişler programa kopya vermek gibi olmuyor mu? :-) Xerox'taki ile kıyaslandığında başarım oranını daha düşük bulsam da programı beğendim. Stallman'in sözlerini unutmamak lazım, özgürlük teknolojiden evladır. ;-)

abakana
19 yıl önce

Mozilla/5.0 (X11; U; Linux i686; en-US; rv:1.7.5) Gecko/20041107 Firefox/1.0

Slackware GNU/Linux 9.1

redline99
19 yıl önce

bende turkce karakterleri kullanmadan bir iki cumle denedim, bazilarini bildi bazilarini bilemedi. Ama bencede basarili bir program.

FZ
19 yıl önce

Türk diline özgü düşük seviyeli doğal dil işleme (morfoloji, deASCIIfying, dil tanıma (Türkçe mi değil mi), imla kontrolü,vs.) konuları ile uğraşan arkadaşlara hararetle tavsiye olunur:

http://tspell.dev.java.net/

Daha önce FM'de haberini geçmiştik:

http://www.fazlamesai.net/modules.php?name=News&file=article&sid=2337

Az zamanda, epey kısıtlı kaynakla çok iş çıkarmış sağlam bir ekibin sırtlandığı bu açık kodlu proje herkesin her türlü desteğine açık, bilginize. Türkçe için yapılan çalışmalar neden bu kadar az ve kısır diye şikayet edeceğinize siz de karınca kararınca (ya da belki aslan payını hedefleyebilecek iddialı bir programcı olarak, belli mi olur ;-) katkıda bulunabilirsiniz.

The_Patch_Mode
19 yıl önce

Az önce web sürümünü denedik arkadaşımla. Fakat programı başarılı bulmadık. Mesela program Türkçe'ye özgü karakterleri içeren kelimeleri hemen tanıyabiliyor. ı, ğ ,ş gibi. Ama bu harfleri içermeyen başka Türkçe kelimeleri yazdığımızda tanıyamıyor. Daha doğrusu yazdığım hiçbir Tütkçe kelimeyi tanımadı diyebilirim.

FZ
19 yıl önce

Kelimeler?

Burada sanırım bir yanlış anlama söz konusu. Program istatistiksel yöntemle çalışıyor gördüğüm kadarı ile, dolayısı ile dillere dair açık bir semantik bilgi içermiyor ve dolayısı ile verdiğiniz metin ne kadar uzun olursa o kadar iyi tahmin yapabiliyor. Mesela aşağıdaki paragrafı "Turkish" olarak kategorize ediyor:

--------------------------------------------------------------------------
Merhaba, bu basit bir deneme. Anadilime ait herhangi bir harf kullanmazsam acaba anlayabilecek misin benim anadilim nedir, hatta noktalama da kullanmazsam olur herhalde. Madem o kadar yetenekliyim diyorsun de bana marifetini.

Pekala, tek bir paragrafla olmuyor demek ki. Bir de bunu dene.

Gene mi bulmak kolay olmayacak emin misin. Belki bu sana daha kolay gelebilir, bir ihtimal, hadi kolay gelsin.
--------------------------------------------------------------------

Yukarıdaki metne aşağıdaki cümleleri ekleyip denediğimde yine aynı sonucu alıyorum:

--------------------------------------------------------
Peki ya bir iki laf daha eklersem o zaman da problem olmadan bana kabul edilebilir bilgi verebilecek misin
------------------------------------------------------

Tabii Türkçeye özgü harf kullanmadan yazacağım diye göbeğim çatladı o ayrı :) Ama programın performansını göstermesi açısından fena değil gibi görünüyor.

Not: Noktalama kullanmayacağım derken, doğru kullanmayacağım manasında, yani mesela soru işareti gereken yere yazmamak gibi ancak tabii bunun programı etkileyeceğini düşünmüyorum çünkü noktalama dağılımının konu ile alakası yok.

Görüş belirtmek için giriş yapın...

İlgili Yazılar

OpenOffice.org'da Türkçe Yazım Denetimi

anonim
10 Ocak 2005, 2 dakika okuma süresi

Uzun zamandır Türkçe konuşan kullanıcılar arasında OpenOffice.org'un yayılmasının önündeki en önemli engel olarak duran Türkçe yazım denetimi sorunu aşılmış görünüyor. Mehmet D. Akın ve Ahmet A. Akın liderliğindeki Zemberek ekibi tarafından geliştirilen "Zemberek" (eski adıyla tspell) adlı yazım denetimi aracının OpenOffice.org'a entegre edilmesi işlemi tamamlandı. Zemberek'in sitesinden indirilebilen bir OpenOffice.org eklentisi sayesinde Türkçe yazım denetimi yapmak mümkün hale geliyor. Konuyla ilgili olarak Görkem Çetin e-posta listelerine aşağıdaki mesaj gönderdi:

Bir Açık Yazılım - JmxMonitor

malkocoglu_2
14 Nisan 2005, 1 dakika okuma süresi

JmxMonitor, Java JMX standartını kullanan ve bir veya daha fazla servisi izlemek (monitoring) için kullanılabilecek bir yazılımdır.

http://jmxmonitor.sourceforge.net

Java JMX standartı, uygulamanızın istatistiklerini MBean temelli basit Java nesneleri üzerinden dısarıya afişe etmenizi sağlıyor. Bu istatistik MBean'leri işleme konulduktan sonra, JmxMonitor genelci bir yaklaşımla (generic) herhangi bir uygulamadaki tüm MBean'leri listeleyip, admin'e "gözlemek istediklerim" adlı bir liste olusturmasına izin vermektedir. Gözlenmesine karar verilen makina/port/obje/attribute dörtlüsü için bir eşik değeri (threshold) girildikten sonra, JmxMonitor arka plan süreci tarafindan periyodik olarak esasa değeri bu eşik değerine karşılık kontrol eder. Eşik değer ihlalleri, ana sayfadan ve e-mail ile sistem yöneticisine bildirilecektir.

Xynth'i GP32X'e Taşıdık

anhanguera
2 Şubat 2006, 1 dakika okuma süresi

Selam,

Dün şu çok ses getiren GP32X'den bir tane de ben aldım. Evet güzel bir oyuncak, ama Sony PSP ile kıyaslanamayacak kadar da amatör ;)

NetLogo 3.0 Çıktı

FZ
21 Eylül 2005, 1 dakika okuma süresi

Multi-agent programlama ve modelleme için en çok kullanılan yazılım geliştirme ortamlarından biri olan NetLogo'nun 3.0 sürümü duyuruldu.

Bu sürümde üç boyutlu grafikler, Sistem Dinamikleri Modelleme, gelişmiş grafik özellikler mevcut. 3D graphics, a System Dynamics Modeler, improved turtle pens, improved BehaviorSpace, and other enhancements. Here's a complete list of changes. Try it and let us know what you think. Detaylı değişiklik listesine buradan erişebilirsiniz. Ayrıca sistemde kullanılabilen modelleri web tarayıcınızda da görmeniz mümkün. (Dikkat, tüm gününüzü alabilir, dalıp gidebilirsiniz, tehlikeli :)

DCP-Portal Gelişiyor... v4.5

anonim
13 Şubat 2002, 1 dakika okuma süresi

Tamamen Türk içerik yönetimi uygulaması DCP-Portal'ın yeni sürümü çıktı. Yönetici alanı yeniden geliştirilen DCP-Portal, 4.5. sürümünde benzerlerinden çok daha kolay ve konfigüre edilebilir bir sistem yönetimi imkanı sunuyor. İçerisinde dosya yükleme, WYSIWYG tarzı bir HTML editör bulunduran yazılım, içerikler eklenirken ve/veya güncellenirken hiçbir HTML bilgisine gerek duymuyor.