_note string | questions list |
|---|---|
BU DOSYA ÖRNEK/PLACEHOLDER'DIR. Sorular data/synthetic_corpus.py'deki 6 sentetik makaleye göre yazılmıştır (sandbox'ta gerçek umutertugrul/turkish-hospital-medical-articles veri setine ağ erişimi yoktu). Gerçek teslim için: (1) build_index.py'yi EMBEDDING_BACKEND=real ile gerçek veri setine karşı çalıştırın, (2) output... | [
{
"id": "p01",
"type": "positive",
"question": "Tip 2 diyabetin en sık görülen belirtileri nelerdir?",
"expected_source_url": "https://ornek-hastane.com/tip2-diyabet"
},
{
"id": "p02",
"type": "positive",
"question": "Diyabet tanısı hangi testlerle konur?",
"expected_source_url":... |
🏥 Türkçe Tıbbi RAG Sistemi: Güvenilir ve Eşik Kontrollü Bilgi Getirimi
Bu proje, umutertugrul/turkish-hospital-medical-articles veri setindeki tıbbi makaleleri temel alan gelişmiş bir retrieval (bilgi getirimi) sistemidir. Sistemin temel amacı halüsinasyonu (uydurma bilgi üretimini) engellemektir. Gelen soruya karşılık veritabanında yeterli benzerlikte (belirlenen eşik değerinin üzerinde) bir bağlam bulunamazsa, sistem "Bu sorunun cevabı dokümanlarımda yer almamaktadır" yanıtını verir ve LLM'e (Büyük Dil Modeli) hiçbir eksik veya yanlış bilgi iletmez.
1. Veri Seti Seçimi ve Hazırlık
- Kullanılan Kaynak: 14 farklı hastane ve sağlık kurumunun web sitesinden derlenen
umutertugrul/turkish-hospital-medical-articlesveri seti tercih edilmiştir. - Neden Tercih Edildi? Veri setinin sunduğu kolon yapısı (
url,title,text,__source), projenin gerektirdiği zorunlu ve opsiyonel metadata alanlarıyla birebir uyuşmaktadır. - Veri Örnekleme: 14 farklı parquet dosyası
src/data_loader.pyüzerinden birleştirilmekte vesrc/config.pydosyasındakiSAMPLE_SIZEparametresine (varsayılan: 300) göre rastgele örneklere ayrılmaktadır.
2. Metin Parçalama (Chunking) Yaklaşımı
Makalelerin uzunlukları ve paragraf yapıları çok değişken olduğu için "paragraf bazlı bölme" yerine, sistemin istikrarını artıracak Sabit Token + Örtüşme (Overlap) stratejisi benimsenmiştir.
CHUNK_SIZE_TOKENS = 400: Embedding modelinin kapasitesi göz önünde bulundurularak, konsept bütünlüğünü bozmayacak en ideal boyut seçilmiştir.CHUNK_OVERLAP_TOKENS = 80: Bilginin parçalanma sınırlarında (chunk sınırları) kaybolmaması için yaklaşık %20 oranında bir örtüşme payı bırakılmıştır.
Not: Token sayımları doğrudan kullanılan embedding modelinin (magibu/embeddingmagibu-200m) kendi tokenizer'ı ile yapılarak tam uyumluluk sağlanmıştır.
3. Vektör Depolama Mimarisi
- Veritabanı: Ek bir sunucu kurulumu gerektirmeyen, disk tabanlı ChromaDB kullanılmıştır.
- Mimari Karar: ChromaDB'nin kendi dahili embedding özellikleri devre dışı bırakılmıştır (
embedding_function=None). Vektörlersrc/embedder.pyüzerinden bağımsız olarak üretilip veritabanına kaydedilir. Bu sayede model ve veritabanı bağımlılıkları birbirinden tamamen izole edilmiştir. - Dışa Aktarım: Oluşturulan veriler Hugging Face'e yüklenebilecek standartlarda bir parquet dosyasına (
output/turkish_medical_chunks.parquet) dönüştürülür. Çıktı şu sütunları içerir:url,chunk_text,chunk_vector,title,__source,parent_idvechunk_id.
4. Kullanılan Embedding Modeli
Semantik arama için magibu/embeddingmagibu-200m modeli entegre edilmiştir.
- Özellikleri: 768 vektör boyutuna ve 8.192 tokenlık oldukça geniş bir bağlam penceresine (context window) sahiptir.
- Tercih Sebebi: Doğrudan Türkçe diline özel distile edilmiş olması ve TR-MTEB testlerinde arama (retrieval) ile STS görevlerinde yüksek performans sergilemesidir.
5. Değerlendirme (Evaluation) ve Eşik (Threshold) Mekanizması
Proje içerisinde yer alan eval/run_eval.py dosyası, sistemin ne kadar doğru yanıt verdiğini test etmek için 20'si veri setinde olan (pozitif), 10'u olmayan (negatif) toplam 30 soruluk bir test grubunu (eval/test_questions.json) kullanır.
Sistem, 0.05 ile 0.95 arasındaki eşik (threshold) değerlerini tarayarak bir Confusion Matrix (Karmaşıklık Matrisi) çıkarır. Tıbbi uygulamalarda "yanlış bilgi uydurmak (False Positive)", "bilinen bir cevabı verememekten (False Negative)" çok daha risklidir. Bu nedenle ideal eşik değeri, F1 skorunu maksimize eden aynı zamanda False Positive oranını minimize eden nokta olarak belirlenir.
Önemli: Mock (TF-IDF) ortamında belirlenen ideal eşik değeri ile gerçek embedding modelinin üreteceği kosinüs (cosine) benzerlik skorları tamamen farklı dağılımlar gösterecektir. Gerçek modelle değerlendirme script'i çalıştırıldıktan sonra, çıkan yeni ideal oran src/config.py içerisindeki SIMILARITY_THRESHOLD değerine manuel olarak girilmelidir.
🚀 Hızlı Kurulum ve Kullanım Rehberi
Projeyi bilgisayarınıza indirin ve gerekli kütüphaneleri kurun:
git clone <bu-repo>
cd turkish-medical-rag
pip install -r requirements.txt
- Downloads last month
- 24