Enterprise LLM Implementation
Inteligencia Artificial 2023 - 2024

Enterprise LLM Implementation

Sr. Engineer en desarrollo interno de solucion corporativa de IA: abstraccion white label sobre Azure Cognitive Search y GPT-3 (Azure). Agente LLM capaz de aprender de documentos corporativos y responder preguntas precisas sobre la organizacion, con fine-tuning incluido.

Descripción General

Desarrollo interno de solucion de inteligencia artificial corporativa, construida cuando los LLMs comenzaron a tomar auge. La solucion es una abstraccion white label de Azure Cognitive Search y GPT-3 Azure, disenada con arquitectura Modulith usando la libreria Lato para garantizar una base modular escalable.

El Desafío

Crear una abstraccion reutilizable y white label sobre Azure Cognitive Search y GPT-3 que permitiera a una organizacion entrenar un agente LLM sobre su propia base de conocimiento documental, con respuestas precisas y sin alucinaciones.

Requerimientos

Abstraccion white label de Azure Cognitive Search y GPT-3 Azure. Agente LLM entrenado sobre documentos corporativos. Fine-tuning del modelo para respuestas precisas sobre la organizacion. Arquitectura Modulith fundacional preparada para escalar a microservicios. APIs con Python y Flask.

Solución

Implementacion con Python 3 y Flask bajo arquitectura Lato Modulith. Integracion de Azure Cognitive Search como motor de busqueda semantica y GPT-3 Azure como modelo de lenguaje. Fine-tuning del modelo con documentos corporativos para respuestas precisas. Diseno fundacional orientado a futura migracion a microservicios.

Stack Tecnológico

Ver Todos los Proyectos