Llamada a la herramienta FlowiseAI

FlowiseAI es una herramienta de bajo código para que los desarrolladores construyan flujos de orquestación LLM personalizados y agentes AI. Puede configurar la herramienta FlowiseAI para utilizar un nodo Gaia que soporte la llamada a herramientas LLM.

Requisitos previos

Necesitará un nodo Gaia preparado para proporcionar servicios LLM a través de una URL pública. En este tutorial, necesitará configurar un nodo público con soporte para llamadas a herramientas.

Iniciar un servidor FlowiseAI

Siga la guía FlowiseAI para instalar Flowise localmente

npm install -g flowise
npx flowise start

Una vez ejecutado correctamente, puede abrir http://localhost:3000 para conocer la herramienta Flowise AI.

Construir un chatbot para la búsqueda de IP en tiempo real

Paso 1: Cree un nuevo Chatflow desde la interfaz de usuario.

Paso 2: En el lienzo Chatflow, añada un nodo llamado ChatLocalAI.

Paso 3: Configure el widget ChatLocalAI para utilizar el nodo de Gaia con soporte de llamadas a herramientas que ha creado.

• Camino base: https://YOUR-NODE-ID.us.gaianet.network/v1
• Nombre del modelo: p. ej, Mistral-7B-Instruct-v0.3.Q5_K_M

Paso 4: Añadir un nodo llamado Custom Tool

Crear una función denominada get_ip_address_geo_location. La función requiere un cadena parámetro denominado ip.

El campo Descripción de la herramienta es el "aviso" que indica al LLM cuándo utilizar esta función. En este ejemplo si la LLM detecta que el usuario está preguntando por la ciudad o el país de una dirección IP, devolverá una respuesta de llamada a la herramienta solicitando a FlowiseAI que realice primero esta llamada a la función. devolverá una respuesta de llamada a la herramienta pidiendo a FlowiseAI que realice esta llamada a la función primero.

Ahora puedes añadir código JavaScript para esta función. Busca la ubicación de la entrada ip parámetro.

const fetch = require("node-fetch")
const url = "http://ipwho.is/"+$ip

try {
  const response = await fetch(url)
  const result = await response.text()
  console.log(result)
  return result
} catch(error) {
  console.error(error)
}

Paso 5: Añade un nodo llamado Memoria intermedia al lienzo.

Paso 6: Añada un nodo llamado Tool Agent.

Paso 7: Conectar los nodos.

Conecte los nodos Custom Tool y Buffer Memory a los conectores correspondientes del nodo nodoAgente de herramientas. Conecte el nodo ChatLocalAI a la Herramienta Personalizada.

Paso 8: Guarde el Chatflow.

Pruébalo

Desde la interfaz de FlowiseAI, puedes abrir una ventana de chat para chatear con el ChatLocalAI que acabas de crear. Vamos a hacer una pregunta:

¿Cuál es la ubicación de esta dirección 35.222.115.181

El LLM entiende que la petición es encontrar una localización para una dirección IP, y ve que tenemos una función llamada get_ip_address_geo_location en herramientas, que tiene una descripción que coincide con esta tarea. Así, responde con un mensaje JSON para llamar a esta función con la dirección IP que extrae de la consulta del usuario.

Este mensaje JSON de llamada a la herramienta NO se muestra al usuario en el chatbot. En su lugar, el nodo FlowiseAI lo captura y ejecuta el código JavaScript asociado con esta llamada a la herramienta. El resultado de la llamada a la herramienta se envía de vuelta al LLM junto con la consulta original, que es por lo que necesitamos el nodo Buffer Memory BTW, y el LLM formula una respuesta legible por humanos a la pregunta original.