Open WebUI

Что такое Open WebUI?

Open WebUI — это self-hosted веб-интерфейс для работы с большими языковыми моделями (LLM). Он предоставляет удобный чат-интерфейс, похожий на ChatGPT, но с возможностью использования собственных моделей и полным контролем над данными.

Создание инстанса Open WebUI

Выбор тарифа

Aister предлагает три тарифа Open WebUI:

• Starter (1490 ₽/мес) — 1 пользователь, базовые модели, 10 GB хранилище
• Team (4990 ₽/мес) — до 10 пользователей, все модели, 50 GB хранилище
• Enterprise (от 14990 ₽/мес) — неограниченные пользователи, кастомные модели, 200 GB хранилище

Создание инстанса

1. В личном кабинете выберите «Open WebUI»
2. Нажмите «Создать инстанс»
3. Выберите тариф
4. Укажите имя инстанса
5. Выберите модели для подключения (можно изменить позже)
6. Нажмите «Создать»

Через 1-2 минуты вы получите URL для доступа и учётные данные администратора.

Первый запуск

Вход в систему

1. Откройте URL вашего инстанса в браузере
2. Войдите с учётными данными из email
3. При первом входе вам будет предложено изменить пароль
4. Настройте профиль (имя, аватар)

Выбор модели

В верхней части интерфейса выберите модель для работы:

• GPT-4 Turbo — лучшее качество для сложных задач
• GPT-3.5 Turbo — быстрые ответы для простых задач
• Claude 3 Opus — отличное понимание контекста
• Llama 3 70B — open-source альтернатива
• Mistral Large — баланс скорости и качества

Первый чат

1. Нажмите «New Chat» или используйте поле ввода
2. Введите ваш запрос
3. Нажмите Enter или кнопку отправки
4. Дождитесь ответа модели

Работа с чатами

Создание и управление

• Новый чат — кнопка «New Chat» в боковой панели
• Переименование — клик на название чата → «Rename»
• Удаление — клик на название → «Delete»
• Архивация — клик на название → «Archive»

Организация чатов

Используйте папки для организации диалогов:

1. В боковой панели нажмите «Create Folder»
2. Укажите название (например, «Работа», «Личное», «Проекты»)
3. Перетащите чаты в папки

Поиск по чатам

Используйте поиск для быстрого доступа к диалогам:

• Нажмите на иконку поиска в боковой панели
• Введите ключевые слова
• Результаты отображаются в реальном времени
• Поиск работает по названиям чатов и содержимому сообщений

Настройка моделей

Параметры генерации

Настройте поведение модели для каждого чата:

• Temperature (0-2) — креативность ответов (0 = детерминированный, 2 = очень креативный)
• Top P (0-1) — разнообразие токенов (0.9 рекомендуется)
• Max Tokens — максимальная длина ответа
• Frequency Penalty — штраф за повторения
• Presence Penalty — штраф за использование уже упомянутых тем

Системные промпты

Создайте системные промпты для специализированных задач:

1. Перейдите в Settings → Prompts
2. Нажмите «Create Prompt»
3. Укажите название и описание
4. Напишите системный промпт (например, «Ты опытный программист на Python»)
5. Сохраните промпт

Теперь вы можете выбрать этот промпт в любом чате через меню.

Примеры системных промптов

# Программист Python
Ты опытный Python разработчик. Пиши чистый, читаемый код с комментариями. 
Следуй PEP 8. Объясняй сложные концепции простым языком.

# Копирайтер
Ты профессиональный копирайтер. Пиши убедительные тексты для маркетинга.
Используй storytelling и эмоциональные триггеры. Будь кратким и конкретным.

# Аналитик данных
Ты data scientist. Анализируй данные, находи паттерны, делай выводы.
Используй статистические методы. Визуализируй результаты когда возможно.

Работа с документами

Загрузка файлов

Open WebUI поддерживает работу с различными форматами:

• PDF — анализ документов, извлечение информации
• TXT, MD — текстовые файлы
• DOCX — документы Word
• CSV, XLSX — таблицы и данные
• Изображения — PNG, JPG, WebP (для мультимодальных моделей)

Анализ документов

1. В чате нажмите на иконку скрепки
2. Выберите файл для загрузки
3. Дождитесь обработки
4. Задайте вопрос о содержимом документа

Примеры запросов:

• «Суммируй основные тезисы этого документа»
• «Найди все упоминания о ценах»
• «Переведи этот текст на английский»
• «Создай краткое резюме для презентации»

Работа с изображениями

Для работы с изображениями используйте мультимодальные модели (GPT-4 Vision, Claude 3):

• Описание изображений
• Извлечение текста (OCR)
• Анализ графиков и диаграмм
• Поиск объектов на фото

Интеграция с API

Получение API ключа

1. Перейдите в Settings → Account
2. Найдите раздел «API Keys»
3. Нажмите «Create API Key»
4. Укажите название ключа
5. Скопируйте ключ (он больше не будет показан)

Использование API

Open WebUI совместим с OpenAI API:

import openai

openai.api_base = "https://your-webui.aister.store/api/v1"
openai.api_key = "your-api-key"

response = openai.ChatCompletion.create(
    model="gpt-4-turbo",
    messages=[
        {"role": "system", "content": "Ты полезный ассистент."},
        {"role": "user", "content": "Привет! Как дела?"}
    ]
)

print(response.choices[0].message.content)

Интеграция с приложениями

Используйте Open WebUI API в ваших приложениях:

• Чат-боты для Telegram, Discord, Slack
• Автоматизация через n8n
• Интеграция в веб-приложения
• CLI инструменты

Управление пользователями

Добавление пользователей

Для тарифов Team и Enterprise:

1. Перейдите в Settings → Users (только для администраторов)
2. Нажмите «Add User»
3. Укажите email, имя и роль
4. Отправьте приглашение

Роли пользователей

• Admin — полный доступ к настройкам и управлению
• User — доступ к чатам и моделям
• Viewer — только просмотр (без создания чатов)

Квоты и лимиты

Настройте лимиты для пользователей:

• Максимальное количество запросов в день
• Максимальная длина контекста
• Доступные модели
• Размер загружаемых файлов

Продвинутые функции

RAG (Retrieval-Augmented Generation)

Создайте базу знаний для более точных ответов:

1. Перейдите в Settings → Knowledge Base
2. Нажмите «Create Collection»
3. Загрузите документы (PDF, TXT, MD)
4. Дождитесь индексации
5. В чате выберите коллекцию через меню

Теперь модель будет использовать ваши документы для ответов.

Function Calling

Подключите внешние функции к моделям:

1. Перейдите в Settings → Functions
2. Создайте новую функцию
3. Опишите функцию в формате JSON Schema
4. Укажите endpoint для вызова
5. Модель сможет вызывать эту функцию при необходимости

Веб-поиск

Включите веб-поиск для актуальной информации:

1. Перейдите в Settings → Web Search
2. Включите опцию
3. Настройте поисковый движок (Google, Bing, DuckDuckGo)
4. В чате используйте команду /search или включите автопоиск

Безопасность и приватность

Шифрование данных

• Все чаты хранятся в зашифрованном виде
• HTTPS для всех соединений
• Опциональное E2E шифрование для особо важных данных

Контроль доступа

• Двухфакторная аутентификация (2FA)
• SSO через OAuth (Google, GitHub, Microsoft)
• IP whitelist для ограничения доступа
• Аудит логи всех действий

Соответствие требованиям

• GDPR compliant — данные хранятся в России
• Возможность экспорта всех данных
• Удаление данных по запросу
• Прозрачная политика обработки данных

Оптимизация использования

Выбор правильной модели

• Простые задачи — GPT-3.5 Turbo (быстро и дёшево)
• Сложный анализ — GPT-4 Turbo или Claude 3 Opus
• Код — GPT-4 или Claude 3
• Креатив — Claude 3 или GPT-4
• Длинный контекст — Claude 3 (200K токенов)

Экономия токенов

• Используйте краткие промпты
• Очищайте историю чата когда контекст не нужен
• Используйте системные промпты вместо повторения инструкций
• Для простых задач выбирайте более лёгкие модели

Повышение качества ответов

• Будьте конкретны в запросах
• Предоставляйте контекст и примеры
• Используйте системные промпты для специализации
• Итеративно уточняйте запросы

Устранение неполадок

Медленные ответы

• Проверьте загрузку сервера в панели Aister
• Уменьшите max_tokens для более быстрых ответов
• Используйте более лёгкие модели
• Очистите историю чата для уменьшения контекста

Ошибки генерации

• Проверьте баланс API ключей моделей
• Убедитесь, что модель доступна
• Проверьте лимиты запросов
• Попробуйте другую модель

Проблемы с загрузкой файлов

• Проверьте размер файла (лимит зависит от тарифа)
• Убедитесь, что формат поддерживается
• Попробуйте конвертировать файл в другой формат
• Проверьте свободное место на инстансе

Примеры использования

Анализ кода

Промпт: "Проанализируй этот код и найди потенциальные проблемы"

[Загрузите файл с кодом]

Модель найдёт:
- Уязвимости безопасности
- Неоптимальные участки
- Нарушения best practices
- Предложит улучшения

Создание контента

Промпт: "Напиши статью на 1000 слов о преимуществах автоматизации"

Параметры:
- Temperature: 0.8 (для креативности)
- Model: GPT-4 или Claude 3

Результат: Структурированная статья с введением, основной частью и заключением

Обработка данных

Промпт: "Проанализируй эту таблицу продаж и выдели ключевые инсайты"

[Загрузите CSV файл]

Модель предоставит:
- Статистику по продажам
- Тренды и паттерны
- Рекомендации по улучшению