Современные большие языковые модели (LLM), такие как Gemma, Mistral, Llama или OpenAI GPT, способны анализировать текст и отвечать на запросы пользователя. Однако у них нет прямого доступа к локальным или корпоративным данным — например, к базе 1С, трекеру судов, корпоративной почте или локальным документам.
Скрипт lmstudio-relay.py решает эту задачу. Он работает как умный HTTP/WebSocket-прокси, который стоит между моделью LM Studio и пользователем, автоматически анализируя запросы и подключая внешние источники данных при необходимости.