Embeddings

Numerische Repräsentationen für semantische Suche und KI-Anwendungen.

title: "Embeddings & Vektorsuche" slug: "embeddings" category: "AI & Data" description: "Wie Vektoren Text in Bedeutung übersetzen – Grundlagen, Kosinus-Ähnlichkeit und RAG-Architektur." tags: ["LLM", "RAG", "Gemini", "Vektoren", "Semantische Suche"] navigation_path: "/tiles/embeddings"

Was sind Embeddings?

Embeddings sind das Herzstück modernem Machine Learnings. Sie wandeln Texte, Bilder oder Audio in Zahlenfolgen (Vektoren) um, die von Computern verstanden werden können. So entsteht ein mathematischer Raum, in dem ähnliche Konzepte nah beieinander liegen.

🧠Wie das menschliche Gehirn?

Stell dir Embeddings wie die Art und Weise vor, wie wir Menschen Konzepte verknüpfen. „König“ und „Königin“ sind stark verwandt, genau wie „Hund“ und „Katze“. Embeddings visualisieren diese Beziehungen in dutzenden oder hunderten von Dimensionen!

Wie vergleicht man Texte?

Wenn wir zwei Sätze in Zahlen umwandeln, müssen wir messen, wie "nah" sie sich sind. Hier kommen zwei extrem wichtige mathematische Distanzmaße ins Spiel:

Kosinus-Ähnlichkeit

Misst den Winkel zwischen zwei Vektoren, egal wie lang sie sind. Perfekt für Texte: Ein kurzes und ein langes Dokument können inhaltlich identisch sein, solange sie in die gleiche „Richtung“ zeigen.

Euklidische Distanz

Misst die direkte Luftlinie zwischen zwei Punkten im Raum (wie wenn man ein Maßband anlegt). Gelingt besonders gut, wenn die exakte Länge der Vektoren relevant ist, z. B. bei bestimmten Bilderkennungen.

Probiere es selbst aus!

Tippe unten zwei Sätze in das Suchfeld und beobachte live, wie ihr Vektorwert in Echtzeit ausgelesen wird. Experimentiere mit Synonymen und schau, wie sich die Werte und Ahnlichkeit verändern!

Embedding Playground

Texte eingeben

Dimensionen reduzieren (Truncation)3072 / 3072

Reduziere die Dimensionen, um zu sehen, wie sich die Abstände verändern. Neuere Modelle konzentrieren wichtige Infos oft auf die ersten Dimensionen.

Distanzmetrik

Kosinus-Ähnlichkeit (höher = ähnlicher)

Distanzmatrix

Text	1	2	3	4	5	6	7	8
Apfel	1.000	0.794	0.717	0.618	0.688	0.571	0.742	0.687
Apple	0.794	1.000	0.588	0.658	0.523	0.624	0.588	0.512
Banane	0.717	0.588	1.000	0.641	0.676	0.603	0.730	0.711
Pizza	0.618	0.658	0.641	1.000	0.621	0.747	0.626	0.633
Eis	0.688	0.523	0.676	0.621	1.000	0.554	0.709	0.714
Spaghetti	0.571	0.624	0.603	0.747	0.554	1.000	0.593	0.586
Erdbeere	0.742	0.588	0.730	0.626	0.709	0.593	1.000	0.735
Schokolade	0.687	0.512	0.711	0.633	0.714	0.586	0.735	1.000