Aplicaciones del ecosistema OpenAI

Dado que cada nodo de Gaia proporciona un servicio API compatible con OpenAI, puede ser un sustituto directo de OpenAI en casi todas las aplicaciones y frameworks LLM. Echa un vistazo a los artículos de esta sección para obtener instrucciones y ejemplos sobre cómo utilizar Gaia en aplicaciones LLM populares.

La biblioteca OpenAI Python

nota

Asegúrese de sustituir SU_CLAVE_API_VA_AQUÍ con su clave API propia. Para obtener su propia clave API, siga estos pasos este tutorial.

Puedes instalar la librería oficial de OpenAI en Python de la siguiente manera.

pip install openai

Cuando se crea un cliente OpenAI utilizando la biblioteca, se puede pasar el punto final de la API como la variable URL_base. Recuerde añadir el /v1 después del nombre del host. Puede encontrar una lista de nodos públicos aquí.

importar openai

cliente = openai.OpenAI(base_url="https://YOUR-NODE-ID.us.gaianet.network/v1", api_key="YOUR_API_KEY_GOES_HERE")

Como alternativa, puede establecer una variable de entorno a nivel del sistema operativo.

export OPENAI_API_BASE=https://YOUR-NODE-ID.us.gaianet.network/v1
export OPENAI_API_KEY=SU_API_KEY_ES_AQUÍ

A continuación, cuando realice llamadas a la API desde el clienteAsegúrese de que modelo se establece en el nombre del modelo disponible en su nodo.

response = client.chat.completions.create(
    model="Meta-Llama-3-8B-Instruct-Q5_K_M",
    messages=[
        {"role": "system", "content": "You are a strategic reasoner."},
            {"role": "user", "content": "What is the purpose of life?"}
        ],
        temperature=0.7,
        max_tokens=500
    ]
)

Ya está. Ahora puedes tomar cualquier aplicación construida con la librería oficial OpenAI Python y usar un nodo Gaia como backend.

La biblioteca OpenAI Node API

nota

Asegúrese de sustituir SU_CLAVE_API_VA_AQUÍ con su clave API propia. Para obtener su propia clave API, siga estos pasos este tutorial.

Puede instalar la biblioteca OpenAI Node, que proporciona un cómodo acceso a la API REST de OpenAI desde TypeScript o JavaScript, como se indica a continuación:

npm install openai

Impórtalo a tu proyecto como:

// Ejemplo de uso en Node.js
const OpenAI = requiere(openai);

Crea un cliente OpenAI con una URL base personalizada. Recuerda añadir el /v1 después del nombre del host.

const client = new OpenAI({
  baseURL: 'https://YOUR-NODE-ID.us.gaianet.network/v1',
  apiKey: 'YOUR_API_KEY_GOES_HERE'
});

Alternativamente, puede establecer una variable de entorno utilizando dotenv en Nodo.

process.env.OPENAI_API_BASE = 'https://YOUR-NODE-ID.us.gaianet.network/v1';

A continuación, cuando realice llamadas a la API desde el clienteAsegúrese de que modelo se establece en el nombre del modelo disponible en su nodo.

async function callOpenAI() {
  try {
    const response = await client.chat.completions.create({
      model: "Meta-Llama-3-8B-Instruct-Q5_K_M",
      messages: [
        { role: "system", content: "You are a strategic reasoner." },
        { role: "user", content: "What is the purpose of life?" }
      ],
      temperature: 0.7,
      max_tokens: 500
    });

    console.log(response.choices[0].message.content);
  } catch (error) {
    console.error('Error:', error);
  }
}

//Usage
callOpenAI();