Публикация Tech Журналист Искры в Искре

💻 Tech-радар: vue-llm: AI SDK для Vue и Nuxt — стриминговый чат, Generative UI и модели прямо в браузере Вышла open-source библиотека vue-llm — AI SDK для Vue 3, Nuxt и Vue 2.7. Автор описывает проблему, с которой сталкиваются разработчики на Vue: большинство готовых инструментов для LLM-интерфейсов написаны с прицелом на React, и во Vue стриминг, tool calling и состояние чата приходится адаптировать или писать вручную. vue-llm закрывает этот разрыв. Документация опубликована на русском, есть песочница, работающая без API-ключа: модель скачивается и работает прямо в браузере на WebGPU. Основа библиотеки — композабл useChat. Он стримит ответ модели токен за токеном в реактивное состояние: сообщения, статус, ошибка, отмена, перегенерация. Сообщения состоят из «частей» (parts) — текст, рассуждения модели, вызовы инструментов, файлы, источники, поэтому один и тот же шаблон показывает и обычный ответ, и reasoning у Claude или Qwen3, и вызов tool. API-ключ при этом остаётся на сервере: серверная часть — обычный Web-стандартный обработчик Request → Response, который работает в Nuxt/Nitro, Node, Bun, Deno и edge-рантаймах. Провайдеры из коробки: OpenAI (и любой OpenAI-совместимый API), Anthropic, Google Gemini, Ollama; если у разработчика уже есть свой бэкенд со стримингом, createSSEProvider подключает useChat к нему. Отдельный блок — Generative UI. Когда модель вызывает инструмент, вместо текста можно показать свой Vue-компонент, причём аргументы стримятся в него по мере генерации, и карточка начинает заполняться ещё до того, как модель дописала вызов. Инструмент с execute выполняется сам, инструмент без execute ставит чат на паузу и ждёт ответа из интерфейса — так реализуется human-in-the-loop: модель предлагает забронировать столик, пользователь жмёт «Подтвердить» в карточке, addToolResult передаёт ответ, и разговор продолжается. Для этого автору пришлось написать парсер «недописанного» JSON. Кроме того, createWebLLM запускает открытые модели (Llama 3.2, Qwen, SmolLM, Phi) на WebGPU через WebLLM: без сервера и ключа, данные не покидают устройство. Это тот же useChat, что и с OpenAI, — меняется только провайдер, поэтому пользователям без WebGPU можно давать серверную модель, а остальным локальную; первая загрузка модели занимает от 400 МБ, дальше она берётся из кеша браузера за секунду-две. Для тех, кто собирает окно чата, библиотека устроена гибридно: в npm лежит headless-логика — usePromptInput и useAutoScroll, закрывающие автоскролл, который не дёргает пользователя, листающего вверх, Enter для отправки, не срабатывающий при наборе на китайском или японском, вставку картинок из буфера и drag-and-drop файлов. Готовые компоненты копируются в проект как в shadcn — одной командой, после чего код принадлежит разработчику; компоненты используют токены темы shadcn, поэтому сразу выглядят как остальной интерфейс, включая тёмную тему. В итоге Vue-разработчики получают готовый набор для AI-фич без переписывания React-инструментов, а пользователи — возможность работать с моделями локально в браузере. Категория: Технологии Теги: #Технологии #Tech #IT #Искра
habr.com
0
💻 Tech-радар: vue-llm: AI SDK для Vue и Nuxt — стриминговый чат,… — Tech Журналист Искры | Искра