This is a viewer only at the moment see the article on how this works.
To update the preview hit Ctrl-Alt-R (or ⌘-Alt-R on Mac) or Enter to refresh. The Save icon lets you save the markdown file to disk
This is a preview from the server running through my markdig pipeline
LLMApi: РеальнийM SK1 Часові дані для мочунь з LLM та сигналамиR : Практичний інструкт
Tuesday, 04 November 2025
Введение
NOTA: Ця стаття, в основному, створена штучною мовою як частина мого пакету яджетів, як релізова документація.
Як частина мого Nuget package LLMApi / mostlylucidM SK1mockllmapi Мені потрібно було мати сторінку, щоб використати характеристики SignalR, які він має. ( він може симулувати сигнали SignalR за допомогою LLM, щоб забезпечити дані.
Ви можете знайти Тут GitHub для проекту, всі громадські домени і т.д.
Це стало чудовим інструментом!

Якщо ви' коли-небудь потребували побудувати панель керування або реальну інтерфейсу(МSK1) перед тим, як з 'явиться реальний вихід даних(МСК2), ви знаєте проблему(М СК3). І врешті-решт, ви пишете важкі коди JSON чи розробляєте setInterval() петлі, що обертаються через ту ж купу об 'єктів.
Я збудував цю демонстрацію SignalR, щоб розв 'язати цю проблему більш гнучким способом. Ви описуєте, які дані вам потрібні в простому англійськомуM SK1 і локальний LLM генерує реалістичні , різноманітні JSON, які надсилаються до вашого браузеру в реальному часі
Дозвольте мені показати вам, як це працює і як отримати найбільше з нього.
Що робить цей інструмент
(Index.cshtml) це панель управління для управління реальними потоками даних
- Ви створюєте "контекст" МSK2 названий поток данихM SK3
- Ви описуєте, який тип даних ви хочете, просто англійською
- LLM генерує відповідний JSON на основі вашого опису
- SignalR посилає свіжі дані до вашого браузеру кожні 5 секунди
- Ви бачите результати із виділенням синтаксису в реальному часі
Це особливо корисно, коли ви робите прототипи, демонструєте моделі, або працюєте над фронтовими функціями, очікуючи на готовність зворотнього інтерфейсу. Дані виглядають реалістично, тому що LLM розуміє контекст і генерує необхідні значення.
Велика картина
graph TB
Browser[Your Browser]
UI[Demo UI]
API[Management API]
Hub[SignalR Hub]
Manager[Context Manager]
BG[Background Service]
LLM[LLM Ollama/OpenAI]
Cache[Response Cache]
Browser -->|Create Context| API
API -->|Store Config| Manager
Browser -->|Connect Subscribe| Hub
Hub -->|Register Client| Manager
BG -->|Generate Data| LLM
LLM -->|Return JSON| BG
BG -->|Cache Responses| Cache
BG -->|Push to Clients| Hub
Hub -->|Real-time Updates| Browser
Чому SignalR для реального-Aktualізації часуM SK1
СигналR підтримує тривалий веб-сокетний зв 'язок між вашим браузером та сервером. Замість того, щоб кожні кілька секунд перевіряти кінцевий пункт за допомогою HTTP запитів , сервер відсилає дані, коли вони є готові МSK2 це дає вам справді справжнє -time обновлення з мінімальними надрахунками M SK5
Зв 'язок залишається відкритим, дані потікають миттєво , і ваш інтерфейс відчуває себе набагато більш чутливим
Швидкий старт: Тривалість запуску в M SK1 хвилин
Почнемо з найшвидшого шляху, щоб побачити, як це працює. Я покажу вам приклад фондового ринку.
Шаг 1: Почати програму
dotnet run --project LLMApi/LLMApi.csproj
Навігати до http://localhost:5116 ( перевірити вихідний код консолі для справжнього порта ).
Шаг 2: Використовуйте приклад швидкого запуску
Ви побачите п ’ ять попередньо запрограмованих прикладів з зеленими кнопками "LaunchM SK3 . Натисніть на кнопку МSK5Stock Market" і ви МSK7 закінчите M. Страница автоматично закінчиться
- Створює контекст даних фондового ринку
- Зареєструє свій браузер, щоб отримувати поновлення
- Починається відображати дані наживо з цінами, об 'ємівM SK1 та змінами
Шаг 3: Дивіться на поток даних
Кожна 5 секунда , нові дані появляються з виділенням синтаксису МSK2 Кожне оновлення показує різні акції з реалістичними цінами та торговими об 'ємами M SK3 LLM генерує свіжі дані кожного разу , так, що ви бачите різноманіття, зберігаючи послідовну структуру
Це - це те, що ви зараз завантажуєте макетні дані фондового ринку. МСК3 Ви можете подивитись на інші приклади швидкого старту, щоб побачити різні моделі даних.
Створити власні потоки особистих даних
Швидкі кнопки запуску є вручними,, але реальна сила приходить від опису того, чого ви потребуєте
До прикладу: Телеметрія кави
Скажімо: МСК0 , ви будуєте IoT панель, і вам потрібні симуляції даних про каву-машину.
Context Name: coffee-machines
Description: Coffee machine telemetry with machine ID, beans remaining percentage,
water temperature in Celsius, cups brewed today, and last maintenance timestamp
Нажмите " Створити & Зарегистрируйтесь МSK2 і ви МSK3 виходите з-під МSK4
Що відбувається за кадрами
sequenceDiagram
participant Browser
participant API
participant Manager
participant BG as Background Service
participant LLM
participant Hub
Browser->>API: POST /api/mock/contexts<br/>{name, description}
API->>Manager: Store context config
Manager-->>API: Context created ✓
API-->>Browser: 200 OK
Browser->>Hub: invoke('SubscribeToContext', 'coffee-machines')
Hub->>Manager: Register subscription
Manager-->>Hub: Subscription confirmed
Hub-->>Browser: on('Subscribed')
Note over BG,LLM: Every 5 seconds...
BG->>LLM: Generate data for 'coffee-machines'<br/>Prompt includes description
LLM-->>BG: JSON response
BG->>Hub: Broadcast to 'coffee-machines' group
Hub-->>Browser: on('DataUpdate', {data})
Browser->>Browser: Display with syntax highlighting
Система:
- Створює контекст в зворотньому заході
- Записує свій браузер, щоб отримувати поновлення через SignalR
- Починає генерувати дані на основі опису
- every 5 seconds
Ви побачите такий результат:
{
"machineId": "CM-2847",
"beansRemaining": 67,
"waterTemp": 94.5,
"cupsBrewed": 142,
"lastMaintenance": "2025-01-03T08:23:00Z"
}
Кожне оновлення має різні значення, але зберігає структуру.
Розуміння контексту
А контекст на ім 'я конфігурація потоку даних. Подумайте про це як про канал або тему
Коли ви створюєте один, ви визначаєте:
- Назва: Уникальний ідентифікатор МSK1eM SK2g.,
weather,stock-market,sensors) - Інструкція: Структура даних, яку ви хочете
Взагалі-то:
- Створює групу SignalR з цим ім 'ям
- Збудовує про prompt для LLM на основі вашого опису
- Згенерує свіжі дані щоразу ( кожного МSK1 секунд по замовчуваннюM SK2
- Transmisує його усім абонентам
Множество браузерів можуть підключатися до одного контексту і всі вони отримують однакові дані одночасно. Це чудово для тестування панелей приладів, які мають показувати синхронизовані поновлення на різних екранах або компонентахM SK1
Уявлення про стан життєвого циклу
stateDiagram-v2
[*] --> Created: Create Context<br/>(POST /contexts)
Created --> Active: Start<br/>(auto or manual)
Active --> Stopped: Stop<br/>(POST /stop)
Stopped --> Active: Start<br/>(POST /start)
Created --> Subscribed: Client Subscribes
Active --> Subscribed: Client Subscribes
Stopped --> Subscribed: Client Subscribes<br/>(no data sent)
Subscribed --> Receiving: Data Push<br/>(if Active)
Receiving --> Subscribed: Client Connected
Subscribed --> Created: Unsubscribe
Subscribed --> Active: Unsubscribe
Subscribed --> Stopped: Unsubscribe
Created --> [*]: Delete
Active --> [*]: Delete
Stopped --> [*]: Delete
Subscribed --> [*]: Delete
note right of Active
Generates data
Pushes to clients
Shows "Active" badge
end note
note right of Stopped
No data generation
Clients stay connected
Shows "Stopped" badge
end note
Розуміти інтерфейс інтерфейсу
В інтерфейсі є три панелі для організації речей:
Ліворуч: Створити контекст
Ось де ви визначаєте нові потоки даних
- Назва контексту: Зробіть його унікальним і особливим . Використовуючи нижню літеру МSK2 з МSK3 перни працюють добре M SK4
- Інструкція: Будьте особливими щодо того, чого ви хочетеM SK1 LLM працює найкраще з чіткими описами, такими як " профілі користувачів з ім 'ям МSK3 електронні листи МСК4 вік М СК5 і премійний статус boolів М S К6
Вам не потрібно писати схему JSON чи пояснювати типи даних.
Середня: Активні контексти
Показує всі ваші поточні контексти з:
- Назви та знак статусу (AktywneM SK1Stopped)
- Число підключень (скільки користувачів зараз є
- Control buttons: ConnectM SK1 Disconnect , Start, StopMSC4 Delete
Подключення/Вимкнення керує вашим браузером's subscription. Нажмите Connect, щоб почати отримувати даніM SK2 Вимкніть, щоб зупинитися, не видаляючи контексту
Почати/Stop контролює генерацію даних за допомогою зворотнього інтерфейсу. Це корисно, коли ви хочете зупинити поток, не руйнуючи контекстну конфігурацію
Позбутись removes the context entirely. Use this to clean up when you
Справа: Дані наживо
Ось де ви бачите справжніх-time updates:
- Індикатор статусу підключення (ConnectedM SK1Disconnected )
- Зараз підписаний контекстний ім 'я
- Останні повідомлення 10 з замітками часу та виділенням синтаксису
Дані з 'являються найновішими-першу вгоріM SK1 так, що ви завжди бачите останні новини без перегляду
Модель підключення JavaScript
Ця сторінка використовує HTMX для надсилання бланку і СигналР для реального-здатності підключенняM SK1 Якщо ви' створюєте свій власний клієнт , ось тут МSK4 це шаблон СигналаР, який вам потрібний
Потік підключення клієнта
sequenceDiagram
participant Page as Your Page
participant SR as SignalR Client
participant Hub as /hub/mock
participant BG as Background Service
Page->>SR: new HubConnectionBuilder()<br/>.withUrl('/hub/mock')
Page->>SR: connection.start()
SR->>Hub: WebSocket connection
Hub-->>SR: Connected ✓
SR-->>Page: Trigger 'connected' event
Page->>SR: invoke('SubscribeToContext', 'weather')
SR->>Hub: SubscribeToContext('weather')
Hub->>Hub: Add to 'weather' group
Hub-->>SR: on('Subscribed', {context: 'weather'})
SR-->>Page: Display "Subscribed"
loop Every 5 seconds
BG->>Hub: Broadcast to 'weather' group
Hub->>SR: on('DataUpdate', {data, timestamp})
SR->>Page: Update UI with new data
end
Page->>SR: invoke('UnsubscribeFromContext', 'weather')
SR->>Hub: UnsubscribeFromContext('weather')
Hub->>Hub: Remove from 'weather' group
Установлення зв 'язку:
const connection = new signalR.HubConnectionBuilder()
.withUrl('/hub/mock')
.withAutomaticReconnect()
.build();
connection.on('DataUpdate', (message) => {
// message.context: which context sent this
// message.data: the actual JSON payload
// message.timestamp: Unix timestamp in milliseconds
});
await connection.start();
Подключення для отримання даних:
await connection.invoke('SubscribeToContext', 'my-context-name');
Не підписатись, коли закінчено:
await connection.invoke('UnsubscribeFromContext', 'my-context-name');
Веб-страница для демонстрації обробляє все це автоматично, але ці три шаблони - все, що вам потрібно для спеціального втілення.
Практичні випадки використання
Ось деякі сценарії, в яких цей інструмент дійсно світиться
1. Побудувати інтерфейси перед тим, як існувати API
Ви' працюєте на панелі управления, а команда ззаду все ще проектує схему інтерфейсу . Замість блокування їхньої роботи МSK2 описує структуру даних, яку ви очікуєте, і будує ваші інтерфейси на основі макетного потоку
2. Демонстрації клієнта
Ви' демонструєте наживо контрольну панель для клієнта , але реальний ланцюг даних ще не готовий M SK2 МSK3 Створіть контексти, які співпадуть з запланованою структурою даних і показують реалістичні дані MSC4 змінюючи дані під час презентації . Це виглядає професійно і допомагає клієнту візуалізувати кінцевий продукт Mسک6
3. Frontend - розвиток і тестування
Вам потрібні реалістичні, різні дані, щоб перевірити, як ваші діаграмиМSK1 таблиціM SK2 і компоненти працюють з aktualizaціями МSK3 Створити контексти з структурами, які вам потрібні, та розробити інтерфейс з впевненістю в тому, що він працює з реальними-схемами світових даних .
4. Випробовування завантаження реальногоM SK1 Часові характеристики
Ви хочете побачити, як працює ваш інтерфейс під швидкими оновленнями. Створити високийM SK1частотний контекст і спостерігати за тим, як ваші компоненти управляють потоком даних. Це допомагає визначити проблеми з продуктивністю перед виробництвом .
5. Навчання веб-сокетів і реального -Концепції часу
Ви вчите концепцію SignalR або WebSocket, і хочете, щоб студенти бачили справжні aktualizaції часу без створення повного зворотнього інтерфейсу.
Приклади швидкого запуску пояснені
П 'ять зразків, запрограмованих до -, демонструють різні типові дані
Сенсори IoT: Розрахунки цифрових сенсорів з метаданками пристрою Фондовий ринокМСК0 Финансові дані з цінамиМSK1 обсяги, та відсоткові зміни E-закази на торгівлю: Вбудовані об 'єкти з массивами замовлення Серверна метрика: Системне стеження з різними показниками ефективності Лідерборд гри: ранги гравців з статистикою та статусами
Ці приклади готові до перегляду.. Нажмите кнопку Запуск .
Інструменти інтерфейсу для інтеграції
Якщо ви ' будуєте звичайний клиент або інтегруєте його в іншу програму , ось кінцеві точки HTTP МSK2
Створити контекст:
curl -X POST http://localhost:5116/api/mock/contexts \
-H "Content-Type: application/json" \
-d '{"name": "sensors", "description": "Temperature sensors with device ID and readings"}'
Список усіх контекстів:
curl http://localhost:5116/api/mock/contexts
Дайте конкретний контекст:
curl http://localhost:5116/api/mock/contexts/sensors
Почати або зупинити генерацію даних:
curl -X POST http://localhost:5116/api/mock/contexts/sensors/start
curl -X POST http://localhost:5116/api/mock/contexts/sensors/stop
Удалити контекст:
curl -X DELETE http://localhost:5116/api/mock/contexts/sensors
Після створення контексту, під 'єднуйтесь до шини SignalR на /hub/mock і підписатись, щоб почати отримувати новини.
Як працює покоління LLM
Коли ви створюєте контекст, система
- Візьме ваше опис
- Збудовує про prompt, що включає випадковість ( seed GUIID + timestamp для різновиду
- Пропитає LLM генерувати відповідний JSON, який підходить до вашого опису
- Вивіряє, що реакція є справжньою JSON ( вказує на відмітку, якщо необхідноM SK1
- Захищає численні відповіді для швидкої доставки
- Далі генерує більше в фоні, щоб зберігати заповнений кэш
Температура встановлена на 1.2 ( відносно високу МSK2 для гарантії різноманіття МSK3 Коли ви запитуєте про MSК4 дані користувача МСК5 ви отримуєте різні імена та цінності кожного разу СМСК6 не ті самі кілька, що постійно переробляються СМСК7 Ці дані залишаються структурно послідовними, в той час як вони змінюються реально МСК8
Досконалість та розумне пам 'ятування
генерація даних відбувається в фоні, не наM SK1запрос на поштовхування . Це зберігає безперервні aktualizaції і зменшує obciążenie LLM.
Ось як це працює.
- Під час запуску, система заповнює кэш з відповідями для кожного активного контексту
- Він вимірює, скільки часу займає генерація (sayM SK1 500ms за запит
- Він обчислює оптимальну величину пакету: відхилення від випромінювання M SK1 час генерації МSK2м МSK3 500м
- Він генерує пакети в фоні, щоб зберігати пам 'ять
- Коли прийде час натиснути "'", МSK1 , він одразу ж витягне з кэшу
Результат: Ваша перша повідомлення приходить миттєво , наступні повідомлення приходять послідовно кожні M SK2 секунда МSK3 і ЛЛМ не є МСК4 не постійно б 'ється М СК5
Розумний потік пам 'яті
graph LR
subgraph Startup
A[App Starts] --> B[Pre-fill Cache]
B --> C[Measure Gen Time<br/>500ms]
C --> D[Calculate Batch<br/>5000ms / 500ms = 10]
end
subgraph Runtime Loop
E[Timer Tick<br/>Every 5s] --> F{Cache > 50%?}
F -->|Yes| G[Pop from Cache]
F -->|No| H[Generate Batch<br/>in Background]
G --> I[Push to Clients]
H --> J[Refill Cache]
J --> G
I --> E
end
D --> E
style B stroke:#10b981,stroke-width:3px
style G stroke:#0ea5e9,stroke-width:3px
style H stroke:#ef4444,stroke-width:3px
style I stroke:#f59e0b,stroke-width:3px
Полегшення поширених проблем
Зв 'язок показує "Невід' єднаний" і wonM SK2 не підключений
- Проверьте, чи працює ваш LLM-сервіс (Ollama/OpenAIM SK2
- Початкова конфігурація очікує Ollama на
http://localhost:11434 - Побігти
ollama listщоб перевірити, чи вмонтовані моделі - Проверяйте консоль браузера щодо błędów підключення SignalR
Створений контекст, але не з 'являються дані
- Подивіться на панель "" Активні контексти "". — - це контекст, що показує "Active"?
- Нажмите кнопку Под 'єднатися , якщо ви ще не зареєструвались
- Проверяйте статус підключення, і в панелі живих даних ви бачите зелений знак (ConnectedM SK1
- Проверяйте журнали сервера, щоб побачити, чи генерація LLM працює
Структура даних не відповідає вашим очікуванням
- Зробіть вашу опис більш конкретним і конкретним
- Приклад: M SK1temperaturа як число між 0 і МSK3 працює краще, ніж просто МSK4температура"
- Спробуйте перефразувати своє описання— це швидка інженерія на роботі
- Проверяйте генеровані дані і покращуйте опис на основі того, що ви бачите
Консоль браузера показує спроби реконнекції SignalR
- Взагалі може бути, що він не працює
- Можливо, ви змінили порт—update the SignalR hub URL if needed
- Подивіться на проблеми із брандмауэром чи мережею (в першу чергу в ДокеріM SK1WSL середовищах)
Параметри налаштування
Ви можете налаштувати поведінку в appsettings.json:
{
"MockLlmApi": {
"SignalRPushIntervalMs": 5000, // How often to push data (milliseconds)
"ModelName": "llama3", // Which LLM model to use
"Temperature": 1.2, // Creativity level (0.0-2.0, higher = more varied)
"BaseUrl": "http://localhost:11434", // LLM service URL
"HubContexts": [ // Optional: pre-configured contexts
{
"Name": "weather",
"Description": "Weather data with temperature, humidity, wind speed",
"IsActive": true
}
]
}
}
СигналРushIntervalMs: Понижка для швидших оновлень , вищі, щоб зменшити obciążenie LLM Температура: Вищі значення дають більше творчості / випадкові дані МSK2 нижчі - більш послідовні результати Контексти Hub: Визначати контексти, які починаються автоматично, коли запущена програма
Інтеграція з вашим застосуванням
Якщо ви' створюєте справжню панель і хочете використати її під час розробки,
import * as signalR from '@microsoft/signalr';
const connection = new signalR.HubConnectionBuilder()
.withUrl('http://localhost:5116/hub/mock')
.withAutomaticReconnect()
.build();
connection.on('DataUpdate', (message) => {
if (message.context === 'stock-market') {
updateStockChart(message.data);
}
});
await connection.start();
await connection.invoke('SubscribeToContext', 'stock-market');
Коли ви ready' switch to production, just change the hub URLM SK2 The SignalR interface (on() і invoke()) працює так само, як і з реальними заходами
Чому будувати це?
Є хороші макетні бази даних. . Faker .js - чудовий МSK2 Mockaroo робить чудову роботу МSK3 Отож, чому побудувати інший інструмент?
Цей інструмент вирішує певні проблеми:
- Реальний-часовий стріминг: Більшість інструментів дають статичні набори даних або кінцеві точки REST , не живі потоки WebSocket
- Языковий інтерфейс: Описати, що ви хочете замість того, щоб писати схему JSON
- З точки зору контексту, необхідні дані: LLM генерують реальні значення, які мають сенс разом , не просто випадкові стрічки, які вписуються в тип
- Самоусвідомлення: Це опис - документація для вашої структури даних
- Гибка структура: Зміняйте модель даних всередині МSK1розробки без оновлення приладів
Це' розроблено для конкретного робочого потоку : будування реального МSK2 інтерфейсів інтерфейсу часу, коли вам потрібні різноманітні M SK3 реальні дані без накладної конфігурації
Початок
Найкращий спосіб зрозуміти цей інструмент - це використати його:
- Почати програму:
dotnet run --project LLMApi - Відкрийте свій браузер на
http://localhost:5116 - Нажмите на одну з зелених кнопок "LaunchM SK1
- Дивіться на поток даних в
Звідси, спробуй створити власний контекст з описом, який співпаде з вашим проектом
Я створив це, тому що продовжував працювати з однією проблемою : потребувати реалістичного, змінювати дані для демонстрації та розробкиM SK2 Якщо ви також стикаєтесь із цим викликом, Сподіваюсь, що цей інструмент допоможе вам працювати
Швидка референція
Стартування:
dotnet run --project LLMApi
Початковий URL: http://localhost:5116
СигналR Hub: /hub/mock
Ключові методи:
SubscribeToContext(name)- Почати отримувати даніUnsubscribeFromContext(name)- Зупиніть отримувати дані
Найголовні події:
DataUpdate- Нови дані прибулиSubscribed- Подпис підтвердженийUnsubscribed- Обіцянка відмовитися від підписки підтвердилася
Це все, що вам потрібно знати.