lokale AI Modelle mit FM-Server nutzen
Markus Diederich berichtete von seinen Versuchen, ein lokales LLM mit dem neuen FileMaker-Server 22 einzusetzen. In der Admin-Konsole gibt es einen neuen Reiter “KI-Dienste”. Dort lassen sich Einstellungen für den integrierten KI-Modellserver vornehmen, wie zum Beispiel der API Endpunkt sowie die zu verwendenden Dienste, Serverkonfigurationen und vorgeladenen Modelle. Im Abschnitt “Modelle” können weitere KI-Modelle hinzugefügt und verwaltet werden. Dies können Modelle zur Erzeugung von Embeddings aus Texten oder Bildern sowie LLMs für Textgenerierung sein, wie man sie von ChatBots kennt....