Integración de Langchain

nota

Las integraciones con Langchain pueden realizarse con Python o Javascript.

LangChain es un marco para el desarrollo de aplicaciones basadas en grandes modelos lingüísticos (LLM).

Puedes configurar Langchain para usar cualquier nodo de Gaia como backend LLM, de esa forma puedes construir cualquier agente de IA o aplicación potenciada por IA que use Gaia para inferencias.

Requisitos previos

Necesitará un nodo Gaia preparado para proporcionar servicios LLM a través de una URL pública. Puede hacerlo:

• Ejecute su propio nodo
• Utilizar un nodo público

Si utilizas un nodo público, necesitarás una clave API. Gaia ofrece 50.000 créditos API gratuitos para utilizar con los servicios disponibles, como los nodos públicos, al solicitar una cuenta de desarrollador.

Configurar

• Configuración del proyecto en la máquina (JavaScript o Python)

• Instalación Langchain:

JavaScript

npm install @langchain/openai @langchain/core dotenv

Python

pip install langchain langchain-openai python-dotenv

Integración con Gaia

Para empezar a ejecutar tu nodo Gaia, puedes seguir la guía de la página Configurando tu propio nodo para un inicio rápido.

En esta guía, vamos a ejecutar nuestro nodo Gaia localmente por lo que no necesitamos una clave de API, puede utilizar una cadena como: "Gaia" como marcador de posición. Cree un .env y almacene su clave API:

GAIANET_API_KEY="Gaia"

Las integraciones con Langchain y Gaia se pueden hacer con cualquier JavaScript o Python. Hay fragmentos de código a continuación que muestran cómo se ve la integración en ambos lenguajes:

JavaScript

import { ChatOpenAI, OpenAI } from "@langchain/openai";
import dotenv from "dotenv";

dotenv.config();

const model = new ChatOpenAI({
    configuration: {
        apiKey: process.env.GAIANET_API_KEY,
        model: "Llama-3-Groq-8B-Tool",
        baseURL:
        "gaia-node-url/v1",
    },
});

const response = await model.invoke("Hello, world!");

console.log(response)

Python

de langchain_openai importar ChatOpenAI, OpenAI
importar os

modelo = ChatOpenAI(
    api_key=os.entorno.get("GAIANET_API_KEY"),
    modelo="Llama-3-Groq-8B-Tool",
    URL_base="gaia-node-url/v1"
)

respuesta = modelo.invocar("¡Hola, mundo!")

imprimir(respuesta)

Invocando los modelos Gaia

Una vez que tengas la conexión básica establecida, puedes empezar a usar las potentes características de Langchain. Empieza haciendo invocaciones al modelo.

JavaScript

// ...
const respuesta = await modelo.invoke("¡Hola, mundo!");

consola.log(respuesta)

Python

# ...
respuesta = modelo.invocar("¡Hola, mundo!")

imprimir(respuesta)

El soporte de LangChain también abre integraciones con LangGraph y LangSmith.