""" Embedding Katmanı ---------------------- İki backend destekler (EMBEDDING_BACKEND ortam değişkeni: "real" | "mock"): - "real": magibu/embeddingmagibu-200m'i sentence-transformers ile yükler, 768 boyutlu gerçek Türkçe embedding üretir. GPU önerilir ama CPU'da da (yavaş) çalışır. - "mock": Bu sandbox'ta Hugging Face model indirme erişimi olmadığı için, TF-IDF tabanlı DETERMİNİSTİK bir "sahte" embedder kullanılır. Gerçek bir semantik embedding modeli DEĞİLDİR, ancak aynı kelime kökenli sorular ile ilgili chunk'lar arasında anlamlı bir cosine similarity sıralaması üretir — bu da threshold/pozitif-negatif ayrıştırma mantığını (asıl test edilmek istenen şey) uçtan uca, GPU/internet olmadan doğrulamamıza yetiyor. İki backend de aynı arayüzü uygular: embed(texts: list[str]) -> np.ndarray (N, D) Bu sayede vector_store.py ve search.py hangi backend kullanıldığından bağımsız çalışır. """ import os import sys import numpy as np sys.path.append(os.path.join(os.path.dirname(__file__), "..")) from src import config class RealEmbedder: """magibu/embeddingmagibu-200m ile gerçek 768 boyutlu embedding üretir.""" def __init__(self, model_id: str = None): from sentence_transformers import SentenceTransformer self.model_id = model_id or config.EMBEDDING_MODEL_ID self.model = SentenceTransformer(self.model_id, trust_remote_code=True) self.dim = self.model.get_sentence_embedding_dimension() def embed(self, texts: list) -> np.ndarray: return np.asarray(self.model.encode(texts, normalize_embeddings=True)) class MockEmbedder: """ TF-IDF tabanlı, deterministik mock embedder. fit(corpus) çağrıldıktan sonra embed() aynı kelime dağarcığı (vocabulary) uzayına projekte eder. NOT: Boyut, gerçek modelin 768'i ile AYNI DEĞİLDİR (vocabulary büyüklüğüne bağlıdır) — bu sadece offline pipeline testi içindir, deliverable'daki 768 boyut şartı yalnızca gerçek magibu/embeddingmagibu-200m backend'i için geçerlidir. Küçük korpuslarda (bu sandbox'taki gibi) SVD ile boyut indirgeme konu ayrımını bozduğu için kasıtlı olarak KULLANILMAZ; ham TF-IDF vektörleri zaten kelime örtüşmesine dayalı, yorumlanabilir bir benzerlik sağlar. """ def __init__(self, dim: int = None): from sklearn.feature_extraction.text import TfidfVectorizer self.dim = dim or config.EMBEDDING_DIM self.vectorizer = TfidfVectorizer( analyzer="word", ngram_range=(1, 2), min_df=1, sublinear_tf=True, ) self._fitted = False def fit(self, corpus: list): self.vectorizer.fit(corpus) self._fitted = True def embed(self, texts: list) -> np.ndarray: if not self._fitted: # fit edilmemişse (ör. tek bir sorgu embed ediliyorsa) verilen metinlerle fit et self.fit(texts) tfidf_matrix = self.vectorizer.transform(texts) vectors = tfidf_matrix.toarray() # normalize et (cosine similarity için) norms = np.linalg.norm(vectors, axis=1, keepdims=True) norms[norms == 0] = 1.0 return vectors / norms def save(self, path: str = None): """Fit edilmiş vectorizer durumunu diske kaydeder (build_index.py çağırır). Böylece search.py AYNI süreçte olmasa bile (ör. ayrı bir script/Gradio app) chunk'ların embed edildiği vektör uzayını yeniden kullanabilir.""" import pickle path = path or config.MOCK_EMBEDDER_STATE_PATH os.makedirs(os.path.dirname(path), exist_ok=True) with open(path, "wb") as f: pickle.dump({"vectorizer": self.vectorizer, "dim": self.dim}, f) @classmethod def load(cls, path: str = None): import pickle path = path or config.MOCK_EMBEDDER_STATE_PATH with open(path, "rb") as f: state = pickle.load(f) obj = cls(dim=state["dim"]) obj.vectorizer = state["vectorizer"] obj._fitted = True return obj _embedder_singleton = {} def get_embedder(fit_corpus: list = None): """ Konfigürasyona göre embedder döner. Mock backend için, chunk metinleri külliyatıyla (fit_corpus) bir kez fit edilir ve tekrar kullanılır — bu sayede hem chunk'lar hem de daha sonra gelen sorgular AYNI vektör uzayında kalır. """ key = config.EMBEDDING_BACKEND if key in _embedder_singleton: return _embedder_singleton[key] if config.EMBEDDING_BACKEND == "real": try: embedder = RealEmbedder() except Exception as e: print(f"[UYARI] Gerçek embedding modeli yüklenemedi ({e}), mock embedder'a düşülüyor.") embedder = _get_or_fit_mock_embedder(fit_corpus) else: embedder = _get_or_fit_mock_embedder(fit_corpus) _embedder_singleton[key] = embedder return embedder def _get_or_fit_mock_embedder(fit_corpus): """Diskte kayıtlı bir mock embedder state'i varsa onu yükler (arama/search.py çağrıları için), yoksa (index build sırasında) verilen korpusla fit eder.""" if os.path.exists(config.MOCK_EMBEDDER_STATE_PATH): try: return MockEmbedder.load() except Exception as e: print(f"[UYARI] Kayıtlı mock embedder yüklenemedi ({e}), yeniden fit ediliyor.") embedder = MockEmbedder() if fit_corpus: embedder.fit(fit_corpus) return embedder if __name__ == "__main__": from data.synthetic_corpus import SYNTHETIC_ARTICLES corpus = [a["text"] for a in SYNTHETIC_ARTICLES] embedder = get_embedder(fit_corpus=corpus) vecs = embedder.embed(corpus[:2]) print("Embedding shape:", vecs.shape) print("Norm (1.0 olmalı):", np.linalg.norm(vecs[0]))