Описание
Этот проект представляет собой чат-интерфейс, который позволяет взаимодействовать с различными моделями генерации текста, поддерживаемыми Cloudflare Workers AI. Он предоставляет пользователям возможность настраивать разные параметры LLM, переключать потоковую передачу ответов, обрабатывать поточные и непоточные ответы, а также включает поддержку Markdown в ответах и тёмной темы.
Особенности
Выбор модели генерации текста для взаимодействия:
- Настройка различных параметров LLM (температура, максимальное количество токенов, системный запрос, top_p, top_k и т.д.)
- Переключение потоковой передачи ответов LLM
- Обработка потоковых и непоточных ответов LLM как на стороне сервера, так и клиента
- Парсинг и отображение Markdown в ответах LLM
- Автопрокрутка контейнера чата по мере потоковой передачи ответов
Поддержка тёмной темы
Используемые технологии:
Nuxt: Фреймворк Vue.js для создания базового приложения
Nuxt UI: Модуль для создания стильного и отзывчивого интерфейса
Nuxt MDC: Для парсинга и отображения сообщений чата
NuxtHub: Платформа развертывания и администрирования для Nuxt, созданная на базе Cloudflare