LLMApi: РеальнийM SK1 Часові дані для мочунь з LLM та сигналамиR : Практичний інструкт (Українська (Ukrainian))

LLMApi: РеальнийM SK1 Часові дані для мочунь з LLM та сигналамиR : Практичний інструкт

Tuesday, 04 November 2025

//

15 minute read

Введение

NuGet NuGet

NOTA: Ця стаття, в основному, створена штучною мовою як частина мого пакету яджетів, як релізова документація.

Як частина мого Nuget package LLMApi / mostlylucidM SK1mockllmapi Мені потрібно було мати сторінку, щоб використати характеристики SignalR, які він має. ( він може симулувати сигнали SignalR за допомогою LLM, щоб забезпечити дані.

Ви можете знайти Тут GitHub для проекту, всі громадські домени і т.д.

Це стало чудовим інструментом!

Сигнал-Р Симулятор

Якщо ви' коли-небудь потребували побудувати панель керування або реальну інтерфейсу(МSK1) перед тим, як з 'явиться реальний вихід даних(МСК2), ви знаєте проблему(М СК3). І врешті-решт, ви пишете важкі коди JSON чи розробляєте setInterval() петлі, що обертаються через ту ж купу об 'єктів.

Я збудував цю демонстрацію SignalR, щоб розв 'язати цю проблему більш гнучким способом. Ви описуєте, які дані вам потрібні в простому англійськомуM SK1 і локальний LLM генерує реалістичні , різноманітні JSON, які надсилаються до вашого браузеру в реальному часі

Дозвольте мені показати вам, як це працює і як отримати найбільше з нього.

Що робить цей інструмент

(Index.cshtml) це панель управління для управління реальними потоками даних

  1. Ви створюєте "контекст" МSK2 названий поток данихM SK3
  2. Ви описуєте, який тип даних ви хочете, просто англійською
  3. LLM генерує відповідний JSON на основі вашого опису
  4. SignalR посилає свіжі дані до вашого браузеру кожні 5 секунди
  5. Ви бачите результати із виділенням синтаксису в реальному часі

Це особливо корисно, коли ви робите прототипи, демонструєте моделі, або працюєте над фронтовими функціями, очікуючи на готовність зворотнього інтерфейсу. Дані виглядають реалістично, тому що LLM розуміє контекст і генерує необхідні значення.

Велика картина

graph TB
    Browser[Your Browser]
    UI[Demo UI]
    API[Management API]
    Hub[SignalR Hub]
    Manager[Context Manager]
    BG[Background Service]
    LLM[LLM Ollama/OpenAI]
    Cache[Response Cache]

    Browser -->|Create Context| API
    API -->|Store Config| Manager
    Browser -->|Connect Subscribe| Hub
    Hub -->|Register Client| Manager
    BG -->|Generate Data| LLM
    LLM -->|Return JSON| BG
    BG -->|Cache Responses| Cache
    BG -->|Push to Clients| Hub
    Hub -->|Real-time Updates| Browser

Чому SignalR для реального-Aktualізації часуM SK1

СигналR підтримує тривалий веб-сокетний зв 'язок між вашим браузером та сервером. Замість того, щоб кожні кілька секунд перевіряти кінцевий пункт за допомогою HTTP запитів , сервер відсилає дані, коли вони є готові МSK2 це дає вам справді справжнє -time обновлення з мінімальними надрахунками M SK5

Зв 'язок залишається відкритим, дані потікають миттєво , і ваш інтерфейс відчуває себе набагато більш чутливим

Швидкий старт: Тривалість запуску в M SK1 хвилин

Почнемо з найшвидшого шляху, щоб побачити, як це працює. Я покажу вам приклад фондового ринку.

Шаг 1: Почати програму

dotnet run --project LLMApi/LLMApi.csproj

Навігати до http://localhost:5116 ( перевірити вихідний код консолі для справжнього порта ).

Шаг 2: Використовуйте приклад швидкого запуску

Ви побачите п ’ ять попередньо запрограмованих прикладів з зеленими кнопками "LaunchM SK3 . Натисніть на кнопку МSK5Stock Market" і ви МSK7 закінчите M. Страница автоматично закінчиться

  • Створює контекст даних фондового ринку
  • Зареєструє свій браузер, щоб отримувати поновлення
  • Починається відображати дані наживо з цінами, об 'ємівM SK1 та змінами

Шаг 3: Дивіться на поток даних

Кожна 5 секунда , нові дані появляються з виділенням синтаксису МSK2 Кожне оновлення показує різні акції з реалістичними цінами та торговими об 'ємами M SK3 LLM генерує свіжі дані кожного разу , так, що ви бачите різноманіття, зберігаючи послідовну структуру

Це - це те, що ви зараз завантажуєте макетні дані фондового ринку. МСК3 Ви можете подивитись на інші приклади швидкого старту, щоб побачити різні моделі даних.

Створити власні потоки особистих даних

Швидкі кнопки запуску є вручними,, але реальна сила приходить від опису того, чого ви потребуєте

До прикладу: Телеметрія кави

Скажімо: МСК0 , ви будуєте IoT панель, і вам потрібні симуляції даних про каву-машину.

Context Name: coffee-machines
Description: Coffee machine telemetry with machine ID, beans remaining percentage,
             water temperature in Celsius, cups brewed today, and last maintenance timestamp

Нажмите " Створити & Зарегистрируйтесь МSK2 і ви МSK3 виходите з-під МSK4

Що відбувається за кадрами

sequenceDiagram
    participant Browser
    participant API
    participant Manager
    participant BG as Background Service
    participant LLM
    participant Hub

    Browser->>API: POST /api/mock/contexts<br/>{name, description}
    API->>Manager: Store context config
    Manager-->>API: Context created ✓
    API-->>Browser: 200 OK

    Browser->>Hub: invoke('SubscribeToContext', 'coffee-machines')
    Hub->>Manager: Register subscription
    Manager-->>Hub: Subscription confirmed
    Hub-->>Browser: on('Subscribed')

    Note over BG,LLM: Every 5 seconds...
    BG->>LLM: Generate data for 'coffee-machines'<br/>Prompt includes description
    LLM-->>BG: JSON response
    BG->>Hub: Broadcast to 'coffee-machines' group
    Hub-->>Browser: on('DataUpdate', {data})
    Browser->>Browser: Display with syntax highlighting

Система:

  1. Створює контекст в зворотньому заході
  2. Записує свій браузер, щоб отримувати поновлення через SignalR
  3. Починає генерувати дані на основі опису
  4. every 5 seconds

Ви побачите такий результат:

{
  "machineId": "CM-2847",
  "beansRemaining": 67,
  "waterTemp": 94.5,
  "cupsBrewed": 142,
  "lastMaintenance": "2025-01-03T08:23:00Z"
}

Кожне оновлення має різні значення, але зберігає структуру.

Розуміння контексту

А контекст на ім 'я конфігурація потоку даних. Подумайте про це як про канал або тему

Коли ви створюєте один, ви визначаєте:

  • Назва: Уникальний ідентифікатор МSK1eM SK2g., weather, stock-market, sensors)
  • Інструкція: Структура даних, яку ви хочете

Взагалі-то:

  • Створює групу SignalR з цим ім 'ям
  • Збудовує про prompt для LLM на основі вашого опису
  • Згенерує свіжі дані щоразу ( кожного МSK1 секунд по замовчуваннюM SK2
  • Transmisує його усім абонентам

Множество браузерів можуть підключатися до одного контексту і всі вони отримують однакові дані одночасно. Це чудово для тестування панелей приладів, які мають показувати синхронизовані поновлення на різних екранах або компонентахM SK1

Уявлення про стан життєвого циклу

stateDiagram-v2
    [*] --> Created: Create Context<br/>(POST /contexts)

    Created --> Active: Start<br/>(auto or manual)
    Active --> Stopped: Stop<br/>(POST /stop)
    Stopped --> Active: Start<br/>(POST /start)

    Created --> Subscribed: Client Subscribes
    Active --> Subscribed: Client Subscribes
    Stopped --> Subscribed: Client Subscribes<br/>(no data sent)

    Subscribed --> Receiving: Data Push<br/>(if Active)
    Receiving --> Subscribed: Client Connected

    Subscribed --> Created: Unsubscribe
    Subscribed --> Active: Unsubscribe
    Subscribed --> Stopped: Unsubscribe

    Created --> [*]: Delete
    Active --> [*]: Delete
    Stopped --> [*]: Delete
    Subscribed --> [*]: Delete

    note right of Active
        Generates data
        Pushes to clients
        Shows "Active" badge
    end note

    note right of Stopped
        No data generation
        Clients stay connected
        Shows "Stopped" badge
    end note

Розуміти інтерфейс інтерфейсу

В інтерфейсі є три панелі для організації речей:

Ліворуч: Створити контекст

Ось де ви визначаєте нові потоки даних

  • Назва контексту: Зробіть його унікальним і особливим . Використовуючи нижню літеру МSK2 з МSK3 перни працюють добре M SK4
  • Інструкція: Будьте особливими щодо того, чого ви хочетеM SK1 LLM працює найкраще з чіткими описами, такими як " профілі користувачів з ім 'ям МSK3 електронні листи МСК4 вік М СК5 і премійний статус boolів М S К6

Вам не потрібно писати схему JSON чи пояснювати типи даних.

Середня: Активні контексти

Показує всі ваші поточні контексти з:

  • Назви та знак статусу (AktywneM SK1Stopped)
  • Число підключень (скільки користувачів зараз є
  • Control buttons: ConnectM SK1 Disconnect , Start, StopMSC4 Delete

Подключення/Вимкнення керує вашим браузером's subscription. Нажмите Connect, щоб почати отримувати даніM SK2 Вимкніть, щоб зупинитися, не видаляючи контексту

Почати/Stop контролює генерацію даних за допомогою зворотнього інтерфейсу. Це корисно, коли ви хочете зупинити поток, не руйнуючи контекстну конфігурацію

Позбутись removes the context entirely. Use this to clean up when you

Справа: Дані наживо

Ось де ви бачите справжніх-time updates:

  • Індикатор статусу підключення (ConnectedM SK1Disconnected )
  • Зараз підписаний контекстний ім 'я
  • Останні повідомлення 10 з замітками часу та виділенням синтаксису

Дані з 'являються найновішими-першу вгоріM SK1 так, що ви завжди бачите останні новини без перегляду

Модель підключення JavaScript

Ця сторінка використовує HTMX для надсилання бланку і СигналР для реального-здатності підключенняM SK1 Якщо ви' створюєте свій власний клієнт , ось тут МSK4 це шаблон СигналаР, який вам потрібний

Потік підключення клієнта

sequenceDiagram
    participant Page as Your Page
    participant SR as SignalR Client
    participant Hub as /hub/mock
    participant BG as Background Service

    Page->>SR: new HubConnectionBuilder()<br/>.withUrl('/hub/mock')
    Page->>SR: connection.start()
    SR->>Hub: WebSocket connection
    Hub-->>SR: Connected ✓
    SR-->>Page: Trigger 'connected' event

    Page->>SR: invoke('SubscribeToContext', 'weather')
    SR->>Hub: SubscribeToContext('weather')
    Hub->>Hub: Add to 'weather' group
    Hub-->>SR: on('Subscribed', {context: 'weather'})
    SR-->>Page: Display "Subscribed"

    loop Every 5 seconds
        BG->>Hub: Broadcast to 'weather' group
        Hub->>SR: on('DataUpdate', {data, timestamp})
        SR->>Page: Update UI with new data
    end

    Page->>SR: invoke('UnsubscribeFromContext', 'weather')
    SR->>Hub: UnsubscribeFromContext('weather')
    Hub->>Hub: Remove from 'weather' group

Установлення зв 'язку:

const connection = new signalR.HubConnectionBuilder()
    .withUrl('/hub/mock')
    .withAutomaticReconnect()
    .build();

connection.on('DataUpdate', (message) => {
    // message.context: which context sent this
    // message.data: the actual JSON payload
    // message.timestamp: Unix timestamp in milliseconds
});

await connection.start();

Подключення для отримання даних:

await connection.invoke('SubscribeToContext', 'my-context-name');

Не підписатись, коли закінчено:

await connection.invoke('UnsubscribeFromContext', 'my-context-name');

Веб-страница для демонстрації обробляє все це автоматично, але ці три шаблони - все, що вам потрібно для спеціального втілення.

Практичні випадки використання

Ось деякі сценарії, в яких цей інструмент дійсно світиться

1. Побудувати інтерфейси перед тим, як існувати API

Ви' працюєте на панелі управления, а команда ззаду все ще проектує схему інтерфейсу . Замість блокування їхньої роботи МSK2 описує структуру даних, яку ви очікуєте, і будує ваші інтерфейси на основі макетного потоку

2. Демонстрації клієнта

Ви' демонструєте наживо контрольну панель для клієнта , але реальний ланцюг даних ще не готовий M SK2 МSK3 Створіть контексти, які співпадуть з запланованою структурою даних і показують реалістичні дані MSC4 змінюючи дані під час презентації . Це виглядає професійно і допомагає клієнту візуалізувати кінцевий продукт Mسک6

3. Frontend - розвиток і тестування

Вам потрібні реалістичні, різні дані, щоб перевірити, як ваші діаграмиМSK1 таблиціM SK2 і компоненти працюють з aktualizaціями МSK3 Створити контексти з структурами, які вам потрібні, та розробити інтерфейс з впевненістю в тому, що він працює з реальними-схемами світових даних .

4. Випробовування завантаження реальногоM SK1 Часові характеристики

Ви хочете побачити, як працює ваш інтерфейс під швидкими оновленнями. Створити високийM SK1частотний контекст і спостерігати за тим, як ваші компоненти управляють потоком даних. Це допомагає визначити проблеми з продуктивністю перед виробництвом .

5. Навчання веб-сокетів і реального -Концепції часу

Ви вчите концепцію SignalR або WebSocket, і хочете, щоб студенти бачили справжні aktualizaції часу без створення повного зворотнього інтерфейсу.

Приклади швидкого запуску пояснені

П 'ять зразків, запрограмованих до -, демонструють різні типові дані

Сенсори IoT: Розрахунки цифрових сенсорів з метаданками пристрою Фондовий ринокМСК0 Финансові дані з цінамиМSK1 обсяги, та відсоткові зміни E-закази на торгівлю: Вбудовані об 'єкти з массивами замовлення Серверна метрика: Системне стеження з різними показниками ефективності Лідерборд гри: ранги гравців з статистикою та статусами

Ці приклади готові до перегляду.. Нажмите кнопку Запуск .

Інструменти інтерфейсу для інтеграції

Якщо ви ' будуєте звичайний клиент або інтегруєте його в іншу програму , ось кінцеві точки HTTP МSK2

Створити контекст:

curl -X POST http://localhost:5116/api/mock/contexts \
  -H "Content-Type: application/json" \
  -d '{"name": "sensors", "description": "Temperature sensors with device ID and readings"}'

Список усіх контекстів:

curl http://localhost:5116/api/mock/contexts

Дайте конкретний контекст:

curl http://localhost:5116/api/mock/contexts/sensors

Почати або зупинити генерацію даних:

curl -X POST http://localhost:5116/api/mock/contexts/sensors/start
curl -X POST http://localhost:5116/api/mock/contexts/sensors/stop

Удалити контекст:

curl -X DELETE http://localhost:5116/api/mock/contexts/sensors

Після створення контексту, під 'єднуйтесь до шини SignalR на /hub/mock і підписатись, щоб почати отримувати новини.

Як працює покоління LLM

Коли ви створюєте контекст, система

  1. Візьме ваше опис
  2. Збудовує про prompt, що включає випадковість ( seed GUIID + timestamp для різновиду
  3. Пропитає LLM генерувати відповідний JSON, який підходить до вашого опису
  4. Вивіряє, що реакція є справжньою JSON ( вказує на відмітку, якщо необхідноM SK1
  5. Захищає численні відповіді для швидкої доставки
  6. Далі генерує більше в фоні, щоб зберігати заповнений кэш

Температура встановлена на 1.2 ( відносно високу МSK2 для гарантії різноманіття МSK3 Коли ви запитуєте про MSК4 дані користувача МСК5 ви отримуєте різні імена та цінності кожного разу СМСК6 не ті самі кілька, що постійно переробляються СМСК7 Ці дані залишаються структурно послідовними, в той час як вони змінюються реально МСК8

Досконалість та розумне пам 'ятування

генерація даних відбувається в фоні, не наM SK1запрос на поштовхування . Це зберігає безперервні aktualizaції і зменшує obciążenie LLM.

Ось як це працює.

  • Під час запуску, система заповнює кэш з відповідями для кожного активного контексту
  • Він вимірює, скільки часу займає генерація (sayM SK1 500ms за запит
  • Він обчислює оптимальну величину пакету: відхилення від випромінювання M SK1 час генерації МSK2м МSK3 500м
  • Він генерує пакети в фоні, щоб зберігати пам 'ять
  • Коли прийде час натиснути "'", МSK1 , він одразу ж витягне з кэшу

Результат: Ваша перша повідомлення приходить миттєво , наступні повідомлення приходять послідовно кожні M SK2 секунда МSK3 і ЛЛМ не є МСК4 не постійно б 'ється М СК5

Розумний потік пам 'яті

graph LR
    subgraph Startup
        A[App Starts] --> B[Pre-fill Cache]
        B --> C[Measure Gen Time<br/>500ms]
        C --> D[Calculate Batch<br/>5000ms / 500ms = 10]
    end

    subgraph Runtime Loop
        E[Timer Tick<br/>Every 5s] --> F{Cache > 50%?}
        F -->|Yes| G[Pop from Cache]
        F -->|No| H[Generate Batch<br/>in Background]
        G --> I[Push to Clients]
        H --> J[Refill Cache]
        J --> G
        I --> E
    end

    D --> E

    style B stroke:#10b981,stroke-width:3px
    style G stroke:#0ea5e9,stroke-width:3px
    style H stroke:#ef4444,stroke-width:3px
    style I stroke:#f59e0b,stroke-width:3px

Полегшення поширених проблем

Зв 'язок показує "Невід' єднаний" і wonM SK2 не підключений

  • Проверьте, чи працює ваш LLM-сервіс (Ollama/OpenAIM SK2
  • Початкова конфігурація очікує Ollama на http://localhost:11434
  • Побігти ollama list щоб перевірити, чи вмонтовані моделі
  • Проверяйте консоль браузера щодо błędów підключення SignalR

Створений контекст, але не з 'являються дані

  • Подивіться на панель "" Активні контексти "". — - це контекст, що показує "Active"?
  • Нажмите кнопку Под 'єднатися , якщо ви ще не зареєструвались
  • Проверяйте статус підключення, і в панелі живих даних ви бачите зелений знак (ConnectedM SK1
  • Проверяйте журнали сервера, щоб побачити, чи генерація LLM працює

Структура даних не відповідає вашим очікуванням

  • Зробіть вашу опис більш конкретним і конкретним
  • Приклад: M SK1temperaturа як число між 0 і МSK3 працює краще, ніж просто МSK4температура"
  • Спробуйте перефразувати своє описання— це швидка інженерія на роботі
  • Проверяйте генеровані дані і покращуйте опис на основі того, що ви бачите

Консоль браузера показує спроби реконнекції SignalR

  • Взагалі може бути, що він не працює
  • Можливо, ви змінили порт—update the SignalR hub URL if needed
  • Подивіться на проблеми із брандмауэром чи мережею (в першу чергу в ДокеріM SK1WSL середовищах)

Параметри налаштування

Ви можете налаштувати поведінку в appsettings.json:

{
  "MockLlmApi": {
    "SignalRPushIntervalMs": 5000,  // How often to push data (milliseconds)
    "ModelName": "llama3",           // Which LLM model to use
    "Temperature": 1.2,              // Creativity level (0.0-2.0, higher = more varied)
    "BaseUrl": "http://localhost:11434",  // LLM service URL
    "HubContexts": [                 // Optional: pre-configured contexts
      {
        "Name": "weather",
        "Description": "Weather data with temperature, humidity, wind speed",
        "IsActive": true
      }
    ]
  }
}

СигналРushIntervalMs: Понижка для швидших оновлень , вищі, щоб зменшити obciążenie LLM Температура: Вищі значення дають більше творчості / випадкові дані МSK2 нижчі - більш послідовні результати Контексти Hub: Визначати контексти, які починаються автоматично, коли запущена програма

Інтеграція з вашим застосуванням

Якщо ви' створюєте справжню панель і хочете використати її під час розробки,

import * as signalR from '@microsoft/signalr';

const connection = new signalR.HubConnectionBuilder()
  .withUrl('http://localhost:5116/hub/mock')
  .withAutomaticReconnect()
  .build();

connection.on('DataUpdate', (message) => {
  if (message.context === 'stock-market') {
    updateStockChart(message.data);
  }
});

await connection.start();
await connection.invoke('SubscribeToContext', 'stock-market');

Коли ви ready' switch to production, just change the hub URLM SK2 The SignalR interface (on() і invoke()) працює так само, як і з реальними заходами

Чому будувати це?

Є хороші макетні бази даних. . Faker .js - чудовий МSK2 Mockaroo робить чудову роботу МSK3 Отож, чому побудувати інший інструмент?

Цей інструмент вирішує певні проблеми:

  1. Реальний-часовий стріминг: Більшість інструментів дають статичні набори даних або кінцеві точки REST , не живі потоки WebSocket
  2. Языковий інтерфейс: Описати, що ви хочете замість того, щоб писати схему JSON
  3. З точки зору контексту, необхідні дані: LLM генерують реальні значення, які мають сенс разом , не просто випадкові стрічки, які вписуються в тип
  4. Самоусвідомлення: Це опис - документація для вашої структури даних
  5. Гибка структура: Зміняйте модель даних всередині МSK1розробки без оновлення приладів

Це' розроблено для конкретного робочого потоку : будування реального МSK2 інтерфейсів інтерфейсу часу, коли вам потрібні різноманітні M SK3 реальні дані без накладної конфігурації

Початок

Найкращий спосіб зрозуміти цей інструмент - це використати його:

  1. Почати програму: dotnet run --project LLMApi
  2. Відкрийте свій браузер на http://localhost:5116
  3. Нажмите на одну з зелених кнопок "LaunchM SK1
  4. Дивіться на поток даних в

Звідси, спробуй створити власний контекст з описом, який співпаде з вашим проектом

Я створив це, тому що продовжував працювати з однією проблемою : потребувати реалістичного, змінювати дані для демонстрації та розробкиM SK2 Якщо ви також стикаєтесь із цим викликом, Сподіваюсь, що цей інструмент допоможе вам працювати


Швидка референція

Стартування:

dotnet run --project LLMApi

Початковий URL: http://localhost:5116

СигналR Hub: /hub/mock

Ключові методи:

  • SubscribeToContext(name) - Почати отримувати дані
  • UnsubscribeFromContext(name) - Зупиніть отримувати дані

Найголовні події:

  • DataUpdate - Нови дані прибули
  • Subscribed - Подпис підтверджений
  • Unsubscribed - Обіцянка відмовитися від підписки підтвердилася

Це все, що вам потрібно знати.

Finding related posts...
logo

© 2026 Scott Galloway — Unlicense — All content and source code on this site is free to use, copy, modify, and sell.