Jörg Köster zeigt das neu veröffentlichte Tool Hyperlink von Nexa AI. Die kostenlose Software steht für Mac und Windows zur Verfügung und ermöglicht den lokalen Betrieb eines ChatBots für die Abfrage eigener Dokumente.
Zunächst erscheint eine Benutzeroberfläche, die sehr an ChatGPT erinnert. Das eigentliche Highlight verbirgt sich hinter dem Button “Manage Sources”. Hiermit lassen sich beliebig viele lokale Verzeichnisse einbinden, die dann automatisch per RAG indiziert werden. Laut Angaben von Nexa kommt die Software auch mit 10.000 Dateien problemlos zurecht. Es werden die Formate PDF, Word, PowerPoint, Markdown, Text sowie Bilder als JPG oder PNG unterstützt.
Fügt man eine Quelle hinzu, beginnt sofort die lokale Indizierung mit Embeddings im Hintergrund. Fügt man weitere Dokumente hinzu, erkennt Hyperlink dies und aktualisiert die Embeddings.
Bei der Verwendung des ChatBots kann man optional gezielt einzelne Verzeichnisse als Kontext für die Abfragen auswählen, um den Suchraum einzugrenzen. Anschließend beantwortet das Tool mit Hilfe eines lokalen AI Modells Fragen und erstellt Zusammenfassungen oder Analysen. Ergebnisse im Chatfenster werden mit Quellenangaben ausgestattet. Klickt man diese an, so öffnet sich das Originaldokument im Fenster und die Fundstellen werden dort hervorgehoben. Damit ist nachvollziehbar, auf Basis welcher Informationen der ChatBot seine Antworten erzeugt.
Jörg demonstrierte die Funktionsweise mit einem Verzeichnis, in dem alle Ausgaben des FileMaker Magazins als PDF gespeichert waren. Der ChatBot beantwortete Fragen zu FileMaker Themen und zeigte die jeweiligen Ausgaben des Magazins als Quellen an.
Der Hersteller wirbt mit der Leistungsfähigkeit seiner lokalen Modelle und hebt hervor, dass das Tool Datenschutz-konform eingesetzt werden kann, weil die Verarbeitung ausschließlich auf dem eigenen Rechner erfolgt und keine Daten in der Cloud geteilt werden. Außerdem ist kein Benutzerkonto in der Cloud erforderlich. Das Tool lässt sich nach dem Download ohne Registrierung direkt verwenden.
Website:
https://hyperlink.nexa.ai