Bağımsız araştırma laboratuvarı

Küçük, açık, Türkçe öncelikli dil modelleri.

Küçük modelleri sıfırdan, açık verilerle eğitiyoruz.

Sohbet modeli151Mparametre, Türkçe, sıfırdan

ufakzeka-1

151M parametre, Türkçe, Apache-2.0. 13,5 milyar tokenla ön eğitimden geçti, ardından sohbet için ince ayarlandı. Model ve karşılaştırma modelleri tek bir ölçüm düzeneğiyle ölçüldü; sınırlar sayılarıyla yayımlandı. Toplam maliyet 300 doların altında.

Yayın modelinden beş gerçek sohbet, olduğu gibi. Diğerleri için sekmelere dokunun.

ufakzeka-1
merhaba ben Elif
Memnun oldum, Elif!
Kerem adında bir çocuk hakkında üç cümlelik bir masal anlat
Kerem, köy evinin bahçesinde oynarken çiçeklerin arasına saklandı. Biraz sonra gözleri görünmüyordu. Yoktu! Kerem çok üzüldü. Yapraklara baktı, toprağa baktı, ama bir türlü bulamadı. Sonra küçük bir karınca gördü. Karınca bir şeyler arıyordu. Kerem merakla karıncayı takip etti. Karınca büyük bir yaprağın altında kalmış! Uçamıyordu çünkü ağırlaşmış. Kerem üzüldü. Karınca, 'Yardım edin,' dedi. Kerem önce korktu, ama sonra cesaretini topladı. Yavaşça karıncayı avucuna aldı. Yaprağı dikkatlice karıncanın üstüne koydu. Karınca havalanıp uçmayı denedi. Çok mutlu oldu! 'Teşekkürler Kerem!' dedi. Kerem ve karınca bahçede birlikte oynadılar. Çiçeklerin yanından koştular, kelebekleri takip ettiler. Güneş batarken Kerem annesine koştu. 'Bahçedeki maceramı anlatmıştım,' dedi. Annesi onu kucakladı. Kerem o gün öğrendi ki, korktuğunda bile yardım istemekten çekinmemek gerekir. Ve bir minik canlının, büyük bir dostluk gösterebileceğini gördü. Artık her akşam bahçede bugünü birlikte kutluyorlar.
benim adım ne
Elif. Sohbetin başında söylemiştin.

Model çıktıları olduğu gibi verildi; sıcaklık 0, düzenleme yok.

Projeler4üç model, bir benchmark

Geliştirdiklerimiz

ufakzeka-1

Açık lisanslı veriyle sıfırdan eğitilmiş 151M parametreli Türkçe sohbet modeli.

ufakzeka-karar

GPU gerektirmeden sıradan bir işlemcide çalışan Türkçe bir karar modeli. Bir metni ve o metinle ilgili, seçenekleri önceden belli bir soruyu okur; her seçenek için bir olasılık, her soru için de bir “emin değilim” sinyali verir.

HakemBench

ufakzeka-karar’ı ve başka modelleri ölçtüğümüz Türkçe benchmark. Yedi kategorideki 2.346 metnin tamamı açıktır.

ufakzeka-kulak

Sıfırdan eğitilmiş küçük bir Türkçe konuşma tanıma modeli. Konuşmayı internet bağlantısı olmadan, işlemcide metne döker.

Yöntem3esnetmediğimiz kural

Nasıl çalışıyoruz

Yalnızca açık veri

Her eğitim kaynağı ticari kullanıma izin veren bir lisansla yayımlanmıştır ve yalnızca bu lisansın kapsadığı ölçüde kullanılmaktadır. Koşulları belirsiz veri kümeleri kullanılmamaktadır.

Dürüst değerlendirme

Kendi modellerimizi ve karşılaştırma modellerini aynı değerlendirme koduyla ölçüyoruz. Sayılar ölçüldüğü gibi yayımlanmakta, sınırlar model kartına yazılmaktadır.

Önce küçük

151M parametreli model işlem hattının işe yaradığını gösterdi; karar modeli de bu modelin üzerine kuruldu.