Integración de Groq en OpenWebUI
Introducción
En este artículo, integraremos Groq, en OpenWebUI para aprovechar modelos avanzados de lenguaje. Asumimos que ya tienes OpenWebUI configurado. Si no es así, puedes consultar este artículo: Configuración de OpenWebUI usando Koboldcpp ROCm como API.
Integrar Groq permite acceder a un modelo innovador y potente, mejorando significativamente las capacidades de OpenWebUI. A lo largo de esta guía, te guiaremos paso a paso en el proceso de configuración para asegurarte de que todo funcione correctamente.
Pasos para la integración
1. Crear una clave API en Groq
- Accede a la plataforma oficial de Groq: Groq API.
- Haz clic en Create API Key y sigue las instrucciones para generar una clave.
- Guarda tu clave API en un lugar seguro, ya que la necesitarás más adelante.
Esta clave es esencial para autorizar el acceso a los modelos de Groq desde OpenWebUI, así que asegúrate de no compartirla con nadie para evitar problemas de seguridad o acceso no autorizado.
2. Configurar OpenWebUI con Groq
- Accede a las opciones de administrador en OpenWebUI.
- Dirígete al apartado de Conexiones y crea una nueva conexión (OpenAI API) con los siguientes datos:
- URL:
https://api.groq.com/openai/v1 - Key: Introduce tu clave API generada anteriormente.
- URL:
- Verifica la conexión haciendo clic en las dos flechitas que aparecen junto al recuadro. Si la verificación es correcta, aparecerá un mensaje indicando que la conexión está activa.
- Vuelve a la ventana de chats para explorar y seleccionar los nuevos modelos provenientes de Groq.
3. Verifica la integración
- Crea un nuevo chat en OpenWebUI.
- En la barra de selección de modelo, deberías ver los modelos proporcionados por Groq listos para usar.
Es posible que debas refrescar la página después de la instalación para asegurarte de que los nuevos modelos aparezcan correctamente.
Notas finales
Con esta integración, puedes ampliar las capacidades de OpenWebUI utilizando los modelos de Groq. Asegúrate de mantener tu clave API segura y de consultar la documentación oficial de ambos servicios para más detalles.
Además, es recomendable revisar periódicamente el estado de la integración y las actualizaciones disponibles para aprovechar mejoras y correcciones de errores.