LlamaTutor
LlamaTutor es una aplicación TypeScript que utiliza Llama 3.1 como tutor personal de IA de código abierto. Cuando la ejecutes, pedirá a la LLM que busque en la web basándose en el tema de tu consulta y, a continuación, generará contenido para que aprendas.
El programa no usó la biblioteca oficial de OpenAI, podemos usar la bifurcada que admite el uso de un nodo Gaia como backend de LLM.
Requisitos previos
Necesitará un nodo Gaia preparado para proporcionar servicios LLM a través de una URL pública. Puede
En este tutorial, utilizaremos un nodo Llama3 público.
Atributo | Valor |
---|---|
URL del punto final de la API | https://llama8b.gaia.domains/v1 |
Nombre del modelo | llama |
CLAVE API | gaia |
Ejecutar el agente
En primer lugar, tendremos que obtener el código fuente de la bifurcación LlamaTutor
https://github.com/JYC0413/llamatutor.git de clones de git
CD Llamatutor
A continuación, configure el .env
archivo.
cp .ejemplo.env .env
Aquí deberá configurar cuatro parámetros.
- SERPER_API_KEY: La clave API serper para buscar contenido en línea. También puedes usar BING_API_KEY aquí.
- LLAMAEDGE_BASE_URL: URL para la URL base de la API LLM.
- LLAMAEDGE_NOMBRE_MODELO: Nombre del modelo a utilizar.
- LLAMAEDGE_API_KEY: Clave API para acceder a los servicios LLM.
A continuación, tendremos que instalar las dependencias necesarias.
npm instalar
A continuación, vamos a ejecutar la aplicación localmente.
npm run dev
Finalmente, abra http://localhost:3000 en su navegador y comience a aprender.