Senior AI Engineer in Softcloud

BusinessTwin is looking for an experienced Senior AI Engineer who is able to deeply analyze, rebuild and optimize complex AI architectures based on LLM. Our product is already working in production, but needs a significant improvement in the quality of searching, indexing and working with large documents. We need a specialist who will not only identify problems, but also personally implement solutions and help the team scale the system.

Your key tasks:

1. Audit of the existing system

• Analysis of the architecture of RAG pipelines (Python FastAPI + LangChain).
  

Document pipeline (PDF/DOCX/Images: 400; text-decoration: none">

• Indexing, retrieval, chunking. style="font-weight: 400; font-style: normal; text-decoration: none">

  Formation of a priority refactoring plan.
  
  

2. Reconstruction and optimization

• Development of an effective chunking strategy for different types of documents.
  
  

• Optimization of embedding pipelines and indexing in Weaviate.
  
  

• Improvement of RAG architecture (hybrid search, reranking, multi-pipeline ingestion).
  
  

• Settings of search quality metrics, RAG-evaluation and monitoring.
  
  

• Optimization of costs for inference, latency and throughput.
  
  

• Integration of changes with the existing Chat API.
  
  

3. Solving complex application cases

• Hierarchical retrieval in case of fragmented context.
  
  

• Map-reduce or selective summarization for large documents.
  
  

• Agent orchestration with memory windows.
  
  

• Multi-vector retrieval and cross-encoder re-ranking.
  
  

• Multi-pipeline ingestion for heterogeneous formats.
  
  

4. Knowledge Transfer

• Documentation of architecture and implemented solutions.
  
  style="font-weight: 400; font-style: normal; text-decoration: none">

  Setting up the monitoring and quality control system.
  
  

Optimized search architecture. none">System handling of large and complex documents. style="font-weight: 400; font-style: normal; text-decoration: none">

Reducing hallucinations and increasing accuracy of answers.

Nice to Have

• RAG evaluation frameworks (RAGAS, LangSmith).
  
  

• Оптимізація вартості та продуктивності LLM-систем.
  
  

• Мікросервісна архітектура.
  
  

• Node.js/TypeScript на базовому рівні.
  
  

• PostgreSQL для роботи з метаданими.
  
  

Наш технічний стек:

Backend: Python (FastAPI), LangChain, Node.js (Fastify), Go

AI: RAG, OCR, semantic search, embedding models

Data: PostgreSQL, Weaviate, MinIO, Redis

Frontend: React + TypeScript + Vite

Архітектура: Мікросервіси, WebSocket, REST

Що ми пропонуємо

• ? Заробітна плата: визначається індивідуально на основі досвіду, технічних компетенцій та очікувань кандидата. Ми відкриті до розгляду запропонованого рівня винагороди.

• Гнучкий формат роботи: повністю віддалено, часткова зайнятість (part-time).
  

• Можливість впливати на архітектуру продукту, який уже використовується бізнесами та знаходиться у стадії активного масштабування.
  

• Складні технічні задачі, що виходять за рамки класичного RAG і потребують творчого інженерного підходу.
  

• Швидке ухвалення рішень в команді, мінімум бюрократії та повна прозорість процесів.
  

• Collaboration with a strong engineering team, which is open to new technologies and architectural solutions.
  

• A real contribution to the development of a new generation AI platform, which forms the document flow automation market.