Skip to Content
Erklärstück

Suche nach Bedeutung: was ein Vektor ist, wo Textsuche aufhört und wie sie sehen lernt

Was ein Vektor ist, wie Textsuche nach Bedeutung auf einem gewöhnlichen Prozessor funktioniert, wo sie aufhört und wie ein Modell sehen und hören lernt.

Diese Fallakte teilen← Alle Artikel

Montag. Ein Rohr platzt, ein Schlafzimmer steht unter Wasser, und am Abend hat der Auftrag seine Spur auf dem gemeinsamen Laufwerk hinterlassen: ein Bericht, eine Sprachnotiz, Fotos, ein gescannter Lieferschein.

Drei Wochen später will jemand nur eines wissen: Zeig mir alles zur Schlafzimmerdecke. Eine Suche nach Wörtern findet den Bericht, weil im Bericht die Wörter stehen. Im Foto der Decke steht kein einziges Wort.

Ein schwarzer Tisch mit einer Festplatte, einem Besichtigungsbericht mit dem Stempel FOUND, einem Tonbandgerät, einem gescannten Lieferschein und einem Foto einer fleckigen Decke mit dem Etikett: no words in it

Dieser Artikel handelt von dem, was diese Lücke schließt: Vektoren. Was sie sind, wie Suche nach Bedeutung auf einem gewöhnlichen Prozessor funktioniert, wo sie aufhört und wie ein Modell lernt, ein Bild anzusehen und einer Aufnahme zuzuhören.

Was ein Vektor ist

Ein Vektor ist eine Liste von Zahlen, die für die Bedeutung von etwas steht. Ein Modell liest einen Satz und schreibt diese Zahlen auf.

Nimmt man nur zwei Zahlen, ist jeder Satz ein Punkt auf einer Karte. Sätze, die dasselbe bedeuten, liegen nah beieinander, auch wenn sie kein Wort teilen: „a burst pipe“ und Rohrbruch bekommen fast dieselben zwei Zahlen, „holiday rota“ (Urlaubsplan) ganz andere.

Drei Sätze auf Papierstreifen, jeder mit zwei Zahlen: a burst pipe −0,79, 0,61; Rohrbruch −0,80, 0,60; holiday rota 0,40, 0,92

Zum Suchen setzt man die Frage auf dieselbe Karte und sieht nach, was am nächsten liegt. Nähe wird als Winkel zwischen zwei Pfeilen aus der Mitte gemessen: Je kleiner der Winkel, desto näher die Bedeutung. Das ist die Kosinus-Ähnlichkeit, und die vergleicht Classifyre.

Eine Karte auf Karopapier mit Pfeilen aus ihrer Mitte: ein kleiner lindgrüner Winkel zwischen der Frage und „water through the ceiling“, ein weiter gestrichelter zu „holiday rota“

Echte Modelle nehmen statt zwei Hunderte oder Tausende Zahlen, aber die Idee ist dieselbe.

Textsuche auf dem Prozessor

Die einfachste Einrichtung läuft auf jedem Computer, und so arbeitet Classifyre ab Werk:

  1. Jede Datei wird als Text gelesen: Word-Dateien, Tabellen und Mails, wie sie sind, Bilder über ein Programm, das nach Buchstaben sucht (OCR), Aufnahmen über eine Transkription.
  2. Der Text wird in Abschnitte von bis zu 1.200 Zeichen geschnitten, die sich jeweils um 200 überlappen.
  3. Ein kleines eingebautes Modell macht aus jedem Abschnitt 384 Zahlen, auf dem Prozessor der Maschine, auf der Classifyre läuft. Nichts verlässt sie.

Das geht schnell. Auf diesem Laufwerk schrieb das Modell 716 Textstücke in 12 Sekunden auf, und eine Frage dauerte 3 bis 4 Tausendstelsekunden.

Drei Abschnitte eines Berichts gehen in einen Chip mit dem Etikett a small model und kommen als Zahlenreihen heraus; 716 Textstücke in 12 Sekunden, eine Frage in 3 bis 4 ms

Fragt man „water coming through the bedroom ceiling“, stehen die vor Ort aufgenommene Sprachnotiz und der Besichtigungsbericht vorn: Beide enthalten die Wörter. Für Text ist das ein guter Anfang.

Wo sie aufhört

Das Foto

Ein Bild wird nur über ein Programm zu Text, das nach Buchstaben sucht, und ein Fleck an der Decke hat keine. Nichts kommt auf die Karte, also bringt keine Frage es je hervor. Auf diesem Laufwerk steht in drei der fünf Fotos nichts geschrieben: die Decke, der Schimmel in der Ecke hinter dem Kleiderschrank, das Rohr unter der Spüle.

Das Deckenfoto, eine Lupe mit dem Etikett a reader looks for letters, ein leeres Blatt mit no letters und eine kleine Karte mit Bericht, Notiz und Lieferschein, aber ohne Foto, gestempelt NOT ON THE MAP

Die Sprache

Das kleine Modell hat Englisch gelernt. Auf Deutsch gefragt, „Schimmel im Schlafzimmer hinter dem Schrank“, setzte es die deutsche Sprachnotiz an die erste Stelle. An zweiter stand ein Satz aus den Beispieltexten des Laufwerks über zwei Menschen, die auf einem Sofa schlafen: Ein Mann und eine Frau schlafen auf dem Sofa. Er teilt Buchstaben mit Schlafzimmer, nicht die Bedeutung. Der englische Besichtigungsbericht, der genau diesen Schimmel beschreibt, war nicht unter den ersten zwölf.

Ein Suchzettel mit der deutschen Frage und den Ergebnissen: 1. die deutsche Notiz, 2. d-030.txt über ein Sofa, markiert; darunter der englische Bericht über denselben Schimmel, nicht unter den ersten 12, gestempelt MISSED

Wie ein Modell sehen lernt

Ein Modell, das Bilder liest, schließt die erste Lücke. Es zerlegt ein Bild in kleine Quadrate, liest sie so, wie ein Textmodell Wörter liest, und schreibt dieselbe Art von Zahlenliste, auf dieselbe Karte wie den Text. Das Foto einer fleckigen Decke landet neben dem Satz „Das Wasser kam durch die Decke“.

Das Deckenfoto mit einem lindgrünen Raster darüber, Reihen von Quadraten mit dem Etikett read like words, ein kurzer Vektor und eine Karte, auf der das Foto neben „water through the ceiling“ landet

Das lernt es an Bildern mit ihren Bildunterschriften: Jedes Bild wird zu seiner eigenen Unterschrift hingezogen und von allen anderen weggeschoben.

Drei Fotos, mit lindgrünen Fäden an ihre eigenen Bildunterschriften gebunden, gestrichelte Linien zu den anderen: a stained, sagging ceiling; black mould in a corner; a leaking pipe under a sink

Ein größeres Modell dieser Art schließt auch die zweite Lücke. Es hat viele Sprachen gelernt, also landet eine deutsche Frage neben einer englischen Antwort. Allein nach Bedeutung gefragt, gab es auf die deutsche Schimmel-Frage als erste zwei Texte englische Dateien über denselben Kleiderschrank zurück: die Messwerte („wall behind wardrobe 27.4“) und das Rundgang-Video („this is the corner behind the wardrobe, where the mould is“). Der Sofa-Satz war nicht unter den ersten vierzig.

Ton, wenn es nicht auf die Worte ankommt

Ton funktioniert genauso. Eine Aufnahme wird zu einem Bild ihres Klangs, in Scheiben von Sekundenbruchteilen geschnitten, und jede Scheibe wird wie ein Wort gelesen. Classifyre bettet eine Aufnahme in Stücken von zehn Sekunden ein, damit ein Geräusch unter einer Stimme ein Stück, und einen Vektor, fast für sich bekommt.

Das zählt, wenn es nicht auf die Worte ankommt. Um zwei Uhr nachts hinterlässt eine Nachbarin eine Nachricht auf dem Bürotelefon: Hello. It’s flat one at 14 Alder Row. Sorry it’s so late. It’s started again. Just listen. Dann fünfzehn Sekunden laufendes Wasser in ihrem Flur und Somebody come round in the morning, please.

Ein Transkript hat ihre Worte und sonst nichts. Nach „water running“ gefragt, brachte die Textsuche ihre Nachricht nicht unter die ersten zwölf. Das Wasser steckt nur im Ton.

Ihre Sprachnachricht als Wellenform, das Transkript unter der Sprache, „no words“ unter den fünfzehn Sekunden Wasser, lindgrün markiert; darunter eine reine Textsuche nach „water running“, ihre Nachricht nicht unter den ersten 12, gestempelt MISSED

Es gab eine zweite Nachricht, vom Hausmeister: Can you hear that? über einem Rauchmelder. Die fiel nicht auf. Für das Modell klingt ein Alarm im Treppenhaus ähnlich wie ein schreiendes Baby und ein Hahn, und beide waren unter den Beispielgeräuschen des Laufwerks; seine Nachricht stand weit unten. Eindeutige Geräusche werden gefunden; Geräusche, die anderen im selben Bestand ähneln, werden zwischen diesen eingeordnet.

In Classifyre

Das ist eine Einstellung, kein Projekt. Unter Harness AI → Embedding:

  1. Modell. Ab Werk steht es auf Local inference: das eingebaute Modell auf dem Prozessor. Für Bilder und Ton wählt man Remote provider und einen gespeicherten KI-Anbieter, dessen Modell sie nimmt. Die Karte darunter sagt, was das Modell außerdem nimmt (Bilder, Ton).
  2. Was eingebettet wird. Text wird immer eingebettet. Schalten Sie Pictures ein, und Sound, wenn Aufnahmen auch als Ton eingebettet werden sollen.
  3. Scan. Der nächste Scan einer Quelle liest jedes Bild und jede Aufnahme noch einmal, und sie landen auf der Karte neben dem Text.

Ein Modellwechsel bettet alles von Grund auf neu ein, und der Wechsel zurück zu einem Modell, das nur Text liest, löscht, was für Bilder und Ton gespeichert war. Die vollständige Referenz steht in der Dokumentation: Settings → Embeddings.

Die Embedding-Einstellungen des Workspaces mit eingeschalteten Pictures und Sound und markierter Zeile „the next scan reads them again“

Nach dem Scan hielt das Laufwerk 802 Vektoren, 77 davon Bilder und Tonstücke. Dieselben Fragen, vorher und nachher:

FrageEingebautes Textmodell, erste ErgebnisseModell, das Bilder und Ton liest, erste Ergebnisse
water coming through the bedroom ceilingdie Sprachnotiz, der Berichtdas Deckenfoto, die Sprachnotiz, der Bericht
black mould in the corner of a roomder Besichtigungsberichtdas Foto der Ecke
a leaking pipe under a kitchen sinkeine Notiz zu einem Boilerleckdas Rohrfoto
Schimmel im Schlafzimmer hinter dem Schrankdie deutsche Notiz, dann das Sofadas Foto der Ecke, die deutsche Notiz, der Bericht
Wasserschaden an der Decke im Schlafzimmerdie deutsche Notizdas Deckenfoto, der deutsche Bericht
water runningzwei Sätze mit den Wörtern; ihre Nachricht nicht unter den ersten zwölfdieselben zwei Sätze, dann ihre Nachricht (allein nach Bedeutung die erste)

In keinem der drei Fotos steht ein Wort, und in ihrer Nachricht steht keins der Wörter, mit denen sie gefunden wurde.

Die Asset-Liste, gefragt nach der Schlafzimmerdecke: das Deckenfoto zuerst, markiert als the photograph, first, no words in it

Die Asset-Liste mit der deutschen Schimmel-Frage: das Foto der Ecke hinter dem Kleiderschrank zuerst, dann die deutsche Notiz und der Bericht

Die Asset-Liste, gefragt nach „water running“: zuerst zwei Beispielsätze mit diesen Wörtern, markiert als sentences with the words; dann die Sprachnachricht, markiert als no words matched, found by its sound

Die Bildschirme sind Screenshots des laufenden Workspaces. Die lindgrünen Rahmen und Etiketten darauf sind von uns, ebenso die schwarzen Felder über den zwei Zeilen, die das Modell des Anbieters nennen: Es kommt darauf an, was ein solches Modell tut, nicht welches es ist.

Was ein Vektor nicht tut

  • Er sagt, dass zwei Dinge sich ähneln, nicht warum. Ein Foto nahe an Ihrer Frage ist eine Spur, keine Antwort.
  • Bei genauen Dingen ist er ungenau, etwa bei einer Auftragsnummer oder einem Namen. Allein nach Bedeutung gefragt, „HR-2242“, gab das Laufwerk drei unbeteiligte Bilder und eine Sprachnachricht vor der Notiz zu Auftrag HR-2242 zurück. Ein Name verhielt sich genauso. Deshalb ordnet das Suchfeld von Classifyre nach Bedeutung, nach den Wörtern in den Abschnitten und nach Dateinamen zugleich und führt die drei Listen zusammen.
„HR-2242“Erstes ErgebnisPlatz der Auftragsnotiz
Nur Bedeutungein unbeteiligtes Bild5.
Das Suchfeld (Bedeutung und Wörter)die Auftragsnotiz1.

Ein Suchzettel mit HR-2242 und zwei Ergebnisblättern: nur nach Bedeutung erst Bilder und eine Sprachnachricht, die Auftragsnotiz an fünfter Stelle; im Suchfeld die Auftragsnotiz zuerst

  • Ein entferntes Modell sieht, was es einbettet. Mit dem Modell eines Anbieters gehen der Text und, sobald sie eingeschaltet sind, die Bilder und Aufnahmen an diesen Anbieter. Das eingebaute Modell behält alles auf der Maschine.

Eine Faustregel

Fangen Sie mit Text an, auf dem eigenen Prozessor. Nehmen Sie ein Modell dazu, das Bilder und Ton liest, wenn Ihre Antworten darin stecken. Und prüfen Sie die ersten Ergebnisse mit eigenen Augen, an Fragen, deren Antworten Sie kennen.

Wie man es einrichtet: docs.classifyre.com/settings/embeddings.

Mehr aus dem Blog

Last updated on