Aplicaciones del ecosistema OpenAI

Dado que cada nodo de GaiaNet proporciona un servicio API compatible con OpenAI, puede ser un sustituto directo de OpenAI en casi todas las aplicaciones y frameworks LLM. Echa un vistazo a los artículos de esta sección para obtener instrucciones y ejemplos de cómo utilizar GaiaNet en aplicaciones LLM populares.

La biblioteca OpenAI Python

Puedes instalar la librería oficial de OpenAI en Python de la siguiente manera.

pip install openai

Cuando se crea un cliente OpenAI utilizando la biblioteca, se puede pasar el punto final de la API como la variable URL_base. Recuerde añadir el /v1 después del nombre del host. Puede encontrar una lista de nodos públicos aquí.

importar openai

cliente = openai.OpenAI(base_url="https://YOUR-NODE-ID.us.gaianet.network/v1", api_key="")

Como alternativa, puede establecer una variable de entorno a nivel del sistema operativo.

export OPENAI_API_BASE=https://YOUR-NODE-ID.us.gaianet.network/v1

A continuación, cuando realice llamadas a la API desde el clienteAsegúrese de que modelo se establece en el nombre del modelo disponible en su nodo.

response = client.chat.completions.create(
    model="Meta-Llama-3-8B-Instruct-Q5_K_M",
    messages=[
        {"role": "system", "content": "You are a strategic reasoner."},
            {"role": "user", "content": "What is the purpose of life?"}
        ],
        temperature=0.7,
        max_tokens=500
    ]
)

Ya está. Ahora puedes tomar cualquier aplicación construida con la librería oficial OpenAI Python y usar un nodo Gaia como backend.

La biblioteca OpenAI Node API

Puede instalar la biblioteca OpenAI Node, que proporciona un cómodo acceso a la API REST de OpenAI desde TypeScript o JavaScript, como se indica a continuación:

npm install openai

Impórtalo a tu proyecto como:

// Ejemplo de uso en Node.js
const OpenAI = require('openai');

Crea un cliente OpenAI con una URL base personalizada. Recuerda añadir el /v1 después del nombre del host.

const client = new OpenAI({
  baseURL: 'https://YOUR-NODE-ID.us.gaianet.network/v1',
  apiKey: '' // Leave this empty when using Gaia
});

Alternativamente, puede establecer una variable de entorno utilizando dotenv en Nodo.

process.env.OPENAI_API_BASE = 'https://YOUR-NODE-ID.us.gaianet.network/v1';

A continuación, cuando realice llamadas a la API desde el clienteAsegúrese de que modelo se establece en el nombre del modelo disponible en su nodo.

async function callOpenAI() {
  try {
    const response = await client.chat.completions.create({
      model: "Meta-Llama-3-8B-Instruct-Q5_K_M",
      messages: [
        { role: "system", content: "You are a strategic reasoner." },
        { role: "user", content: "What is the purpose of life?" }
      ],
      temperature: 0.7,
      max_tokens: 500
    });

    console.log(response.choices[0].message.content);
  } catch (error) {
    console.error('Error:', error);
  }
}

//Usage
callOpenAI();