ИИ по документам, который не отправляет данные в облако

Почему публичные чат-боты не годятся для закрытых документов

Когда сотрудник вставляет в облачный чат выписку из договора или список клиентов, эти данные уходят на сторонний сервер. Для персональных данных это передача обработчику, для коммерческой тайны — раскрытие, а для многих организаций ещё и нарушение внутреннего регламента информационной безопасности.

Отключить обучение на присланных данных недостаточно: остаётся вопрос, где физически лежат копии, кто имеет к ним доступ и как это объяснить проверяющему. Поэтому для закрытых документов нужен ассистент, который работает там же, где лежат сами документы.

• данные и запросы не покидают ваш сервер;
• журнал обращений: видно, кто и что спрашивал;
• отдельные базы знаний по пользователям и отделам;
• модель и провайдер выбираются в настройках, а не навязываются сервисом.

Как устроен локальный контур

Ассистент не «знает» ваши документы наизусть. Он ищет по ним при каждом вопросе и передаёт модели только найденные фрагменты — поэтому ответ опирается на конкретный пункт договора или регламента, а не на общие знания интернета.

• Хранение: PostgreSQL для метаданных и прав доступа, файловая система — для самих документов.
• Индексация: документ режется на фрагменты, для каждого считается эмбеддинг, фрагменты попадают в векторный индекс.
• Модель: локальный сервер на llama.cpp либо облачный провайдер с OpenAI-совместимым API — переключается в админке.
• Ответ: модель получает вопрос и найденные фрагменты, а в ответе показывает источник, по которому отвечала.
• Доступ: вход по логину и паролю, у каждого пользователя своя база знаний, администратор управляет документами и людьми.

Какие документы понимает

Форматы, с которыми работают юристы, кадровики и техподдержка: текст, таблицы и сканы.

• PDF, DOCX, XLSX, CSV, TXT и Markdown;
• сканы и фотографии документов — через OCR, текст распознаётся и индексируется;
• несколько документов и баз одновременно: ассистент ищет по всем доступным;
• ответы со ссылками на файл и фрагмент — можно проверить, откуда взялась формулировка.

Типовые сценарии

Ассистент одинаково полезен там, где сотрудники ежедневно ищут ответ в документе, а не в голове коллеги.

• Юристы: поиск условий в договорах, типовые формулировки, сроки и штрафы.
• HR и кадры: регламенты, положения, порядок оформления, отпуска и компенсации.
• Техподдержка: инструкции, регламенты обслуживания, паспорта оборудования.
• Закупки и тендеры: требования, нормативы, условия поставки, типовые ответы на запросы.

Что нужно для запуска

Сервер с Docker или systemd — можно на вашей инфраструктуре, без выноса данных наружу. Дальше загружаете документы: индексация идёт автоматически, ассистент отвечает сразу после обработки. Развёртывание занимает около дня, наполнение базы — по объёму документов.