В быстро меняющемся мире искусственного интеллекта Google продолжает раздвигать границы инноваций, выпустив PaLM-2 (модель языка пути) в своей Generative AI Studio. Этот выпуск знаменует собой важную веху в разработке приложений для чата, позволяя разработчикам использовать расширенные возможности генеративного ИИ. В этой статье мы рассмотрим возможности и последствия использования Google PaLM-2 для чат-приложений.

PaLM-2, последняя версия большой языковой модели, представляет собой прорыв в технологии искусственного интеллекта на основе чата. Она предназначен для понимания и создания человеческих ответов в разговорах на естественном языке. Благодаря алгоритмам глубокого обучения и обучению на огромных объемах текстовых данных PaLM-2 демонстрирует поразительную беглость и понимание контекста, что делает ее бесценным инструментом для разработчиков чат-приложений.

API Google PaLM для чата (chat-bison) предоставляют разработчикам мощный интерфейс для интеграции PaLM-2 в их приложения для чата. Эти API предлагают ряд функций, включая анализ настроений, языковой перевод и генерацию ответов. Используя возможности PaLM-2, разработчики могут создавать чат-приложения, обеспечивающие более естественные, контекстно-зависимые ответы, тем самым улучшая взаимодействие с пользователем.

Интеграция и использование:

Вы можете начать использовать PaLM-2 в Vertex AI, Generative AI Studio следующим образом:

Разработчики могут взаимодействовать с моделью аналогично ChatGPT, инициируя беседы и получая ответы:

Также имеется доступ через API, что позволяет разработчикам интегрировать PaLM-2 в свои приложения. Например, в Node.JS доступ к API можно легко реализовать, указав имя файла JSON-файла учетной записи службы Google, полученного из Cloud Console:

import { JWT } from "google-auth-library";

const API_ENDPOINT = "us-central1-aiplatform.googleapis.com";
const URL = `https://${API_ENDPOINT}/v1/projects/${process.env.GOOGLE_KEY}/locations/us-central1/publishers/google/models/chat-bison@001:predict`;

const getIdToken = async () => {
    const client = new JWT({
        keyFile: "./google.json",
        scopes: ["https://www.googleapis.com/auth/cloud-platform"],
    });
    const idToken = await client.authorize();
    return idToken.access_token;
};

export const getTextPalm = async (prompt, temperature) => {
    const headers = {
        Authorization: `Bearer ` + (await getIdToken()),
        "Content-Type": "application/json",
    };

    const data = {
        instances: [
            {
                context: "",
                examples: [],
                messages: [
                    {
                        author: "user",
                        content: prompt,
                    },
                ],
            },
        ],
        parameters: {
            temperature: temperature || 0.5,
            maxOutputTokens: 1024,
            topP: 0.8,
            topK: 40,
        },
    };

    const response = await fetch(URL, {
        method: "POST",
        headers,
        body: JSON.stringify(data),
    });

    if (!response.ok) {
        console.error(response.statusText);
        throw new Error("Request failed " + response.statusText);
    }

    const result = await response.json();
    return result.predictions[0].candidates[0].content;
};

В настоящее время PaLM-2 отвечает только на английском языке, но в ближайшем будущем ожидается добавление поддержки других языков. Стоимость использования API PaLM-2 относительно доступна и составляет 0,0005 доллара США за 1 тыс. символов. Однако стоит отметить, что Google в настоящее время предлагает полную скидку на плату за использование.

Тестирование и впечатляющие результаты:

Во время тестирования PaLM-2 продемонстрировал впечатляющие возможности, особенно в сторителлинге. Сгенерированные истории, созданные PaLM-2, сравнимы с результатами, достигнутыми такими моделями, как GPT-4. Это демонстрирует потенциал PaLM-2 в создании высококачественного повествовательного контента: