Un agente de planificación
El planificador gpt es un Python aplicación que demuestre las capacidades de planificación de los LLM. Cuando lo ejecute, le preguntará al LLM para generar varios planes de acción para un objetivo o una consulta. A continuación, le pedirá al LLM que compare y seleccione el mejor plan y, a continuación, reescríbalo para responder a la consulta del usuario.
Dado que el programa utiliza la biblioteca oficial de Python de OpenAI, podemos cambiarla fácilmente para usar un nodo de Gaia.
Requisitos previos
Necesitará un nodo Gaia preparado para proporcionar servicios LLM a través de una URL pública. Puede
En este tutorial, usaremos un nodo público.
| Atributo | Valor |
|---|---|
| URL del punto final de la API | https://llama.us.gaianet.network/v1 |
| Nombre del modelo | llama |
Ejecutar el agente
Primero, cargue el libro de nodos en colab.
Edita el código para crear un cliente OpenAI. Pasaremos en el URL_base aquí.
cliente = OpenAI. OpenAI(base_url="https://llama.us.gaianet.network/v1", api_key=OPENAI_API_KEY)
A continuación, reemplace todos los GPT-4O-mini nombre del modelo con el llama nombre del modelo en el código.
He aquí un ejemplo.
response = client.chat.completions.create(
model="llama",
messages=[
{"role": "system", "content": "You are a helpful assistant. Use the given plan to create a detailed and high-quality response to the user's query."},
{"role": "user", "content": f"User Query: {user_query}\n\nPlan: {best_plan}\n\nGenerate a detailed response based on this plan."}
],
temperature=0.5,
max_tokens=2000
)
Cambie la consulta a la suya propia.
user_query = "¿Cómo depuro el tiempo de espera de una conexión TLS?"
Por último, ejecute el cuaderno para ver los resultados.