Группы очередей
До сих пор каждый подписчик темы получает копию каждого сообщения. Для notifications и analytics это правильно: обоим нужен каждый заказ. Для warehouse — нет.
Склад выполняет реальную работу для заказа: печатает этикетку и упаковывает коробку. Один процесс не справится с пиковым днём. Нужен пул упаковщиков, причём каждый заказ должен упаковывать ровно один из них: не ноль и не два.
Обычная публикация и подписка этого не даёт. Запустите три экземпляра подписчика warehouse, и все три упакуют один заказ. Решение NATS — группа очереди.
Что такое группа очереди
Группа очереди — набор подписчиков одной темы с общим именем. Сервер рассматривает группу как одного логического подписчика: для каждого сообщения выбирает ровно одного участника и доставляет только ему.
Общее имя называется именем группы очереди. Подписчик входит в группу, подписываясь на тему и одновременно указывая группу. Любой подписчик с тем же именем группы на той же теме становится её участником.
На сервере ничего настраивать не нужно. Имя выбирает приложение и передаёт вместе с подпиской. Сервер узнаёт о группе при подписке первого участника.
Добавление пула упаковщиков
В сквозном сценарии остаётся один nats-server с предыдущих страниц и работающие подписчики notifications и analytics. Теперь замените одиночный warehouse пулом.
Каждый упаковщик подписывается на orders.created и указывает группу packers. Флаг --queue превращает обычную подписку в участие в группе очереди:
- CLI
- JavaScript/TypeScript
- Go
- Python
- Java
- Rust
- C#/.NET
- C
#!/bin/bash
# Subscribe to orders.created as a member of the "packers" queue group.
# The --queue flag names the group; every subscriber that names the same
# group on the same subject shares the load. Each published order is
# delivered to exactly one member of the group, chosen at random.
#
# Run this command in several terminals to watch the load balance: each
# order lands in only one of the running copies.
nats sub orders.created --queue packers
// Join the "packers" queue group on orders.created. Every subscriber that
// names the same group shares the load: each order is delivered to exactly
// one member. Run this in several processes to watch the load balance.
const sub = nc.subscribe("orders.created", { queue: "packers" });
for await (const msg of sub) {
console.log(`packer handling: ${msg.string()}`);
}
// Join the "packers" queue group on orders.created. Every subscriber that
// names the same group shares the load: each order is delivered to exactly
// one member. Run this in several processes to watch the load balance.
nc.QueueSubscribe("orders.created", "packers", func(m *nats.Msg) {
fmt.Printf("packer handling: %s\n", string(m.Data))
})
# Join the "packers" queue group on orders.created. Every subscriber that
# names the same group shares the load: each order is delivered to exactly
# one member. Run this in several processes to watch the load balance.
async with await client.subscribe("orders.created", queue="packers") as subscription:
async for message in subscription:
print(f"packer handling: {message.data.decode()}")
// Join the "packers" queue group on orders.created. Every subscriber that
// names the same group shares the load: each order is delivered to exactly
// one member. Run this in several processes to watch the load balance.
nc.createDispatcher(msg ->
System.out.println("packer handling: " + new String(msg.getData(), StandardCharsets.UTF_8))
).subscribe("orders.created", "packers");
// Join the "packers" queue group on orders.created. Every subscriber that
// names the same group shares the load: each order is delivered to exactly
// one member. Run this in several processes to watch the load balance.
let mut sub = client
.queue_subscribe("orders.created", "packers".to_string())
.await?;
while let Some(msg) = sub.next().await {
println!("packer handling: {}", String::from_utf8_lossy(&msg.payload));
}
// Join the "packers" queue group on orders.created. Every subscriber that
// names the same group shares the load: each order is delivered to exactly
// one member. Run this in several processes to watch the load balance.
await foreach (var msg in client.SubscribeAsync<Order>("orders.created", queueGroup: "packers"))
{
output.WriteLine($"packer handling: {msg.Data}");
}
// Join the "packers" queue group on orders.created. Every subscriber that
// names the same group shares the load: each order is delivered to exactly
// one member. Run this in several processes to watch the load balance.
static void
onOrder(natsConnection *nc, natsSubscription *sub, natsMsg *msg, void *closure)
{
printf("packer handling: %.*s\n",
natsMsg_GetDataLength(msg), natsMsg_GetData(msg));
natsMsg_Destroy(msg);
}
if (s == NATS_OK)
s = natsConnection_QueueSubscribe(&sub, conn, "orders.created",
"packers", onOrder, NULL);
Здесь имя группы — packers. Это обычная строка, выбранная приложением. Называйте группу по назначению: packers понятнее в журнале, чем q1.
Балансировка нагрузки на практике
Откройте три терминала и выполните в каждом одинаковый nats sub: получите трёх упаковщиков в группе packers:
# Terminal 1, 2, and 3 — three members of the packers group
nats sub orders.created --queue packers
В четвёртом терминале опубликуйте несколько заказов:
nats pub orders.created '{"order_id":"ord_8w2k","customer":"acme-co","total_cents":4200,"ts":"2026-05-22T10:14:22Z"}'
nats pub orders.created '{"order_id":"ord_2zr9","customer":"globex","total_cents":7800,"ts":"2026-05-22T10:14:25Z"}'
nats pub orders.created '{"order_id":"ord_4kp1","customer":"acme-co","total_cents":1500,"ts":"2026-05-22T10:14:29Z"}'
Каждое сообщение появляется ровно в одном из трёх терминалов. Опубликуйте ещё дюжину: они распределятся между тремя упаковщиками. Упаковщик не получает сообщение, уже доставленное другому.
Как сервер выбирает участника
Сервер хранит доступных участников группы в списке. Для каждого сообщения он выбирает случайный индекс и доставляет сообщение этому участнику. На одном сервере выбор равномерно случаен среди доступных участников; кластер добавляет предпочтение локальности, описанное ниже.
У случайного выбора есть следствие: сервер не перебирает участников по очереди, как round-robin. Один упаковщик может быть выбран дважды подряд, и на малом числе сообщений распределение выглядит неравномерным. На большом числе оно выравнивается.
Динамический состав
Упаковщик входит в группу при подписке и выходит при отписке или отключении. Обе операции не требуют конфигурации и согласования.
Запустите четвёртого упаковщика во время поступления заказов. Он сразу начнёт получать свою долю, поскольку сервер включит его в следующий случайный выбор. Остановите упаковщика — сервер удалит его из списка, а следующее сообщение получит один из оставшихся.
Поэтому группа очереди удобна для автоматического масштабирования. Пул, растущий до десяти упаковщиков под нагрузкой и сокращающийся до двух ночью, не требует перенастройки брокера. Экземпляр подписывается при запуске, и размер группы меняется автоматически.
Важно ограничение: Core NATS доставляет не более одного раза. Если выбранный упаковщик завершится после доставки, сообщение потеряно: сервер не отправит его другому участнику. Работа, которая должна переживать сбой обработчика, требует долговременной очереди JetStream.
Участники группы и обычные подписчики сосуществуют
Группа очереди и обычный подписчик могут использовать одну тему, не мешая друг другу. analytics подписывается на orders.created без группы, а три упаковщика — в группе packers. Для каждого опубликованного заказа:
analyticsполучает сообщение: обычные подписчики получают всё.- Ровно один упаковщик получает сообщение: одна копия делится внутри группы.
Сервер выполняет два распределения независимо, поэтому одна тема поддерживает оба поведения без дополнительных настроек: аналитика считает все заказы, а упаковка выполняется один раз на заказ.
Проверьте это. Оставьте три терминала packers открытыми и создайте в другом обычную подписку:
# A plain subscriber alongside the packers group
nats sub orders.created
Опубликуйте заказ. Он появится в обычном терминале и ровно у одного из трёх упаковщиков.
Группа распределяет только подходящие сообщения
Участники выбираются после сопоставления темы. Сервер сначала находит подходящие подписки, затем выбирает участника группы среди них. Одного имени недостаточно для включения подписчика другой темы.
Два упаковщика группы packers, один на orders.created, другой на orders.shipped, не делят нагрузку. Темы различны, поэтому сообщение orders.created рассматривается только для первого. Общее имя не распределяет сообщения между неподходящими подписками.
Группа очереди может подписаться по шаблону и распределять все подходящие сообщения. Группа packers на orders.*.created (региональные темы со страницы о темах) распределяла бы orders.us.created и orders.eu.created между участниками. Группа делит нагрузку только по темам, соответствующим её подпискам.
Размещение между регионами
Когда участники одной группы находятся в нескольких кластерах, сервер сначала предпочитает участника в кластере издателя и лишь затем обращается в другой регион. Это сохраняет локальную обработку и сокращает межрегиональный трафик.
Географическая привязка групп очередей относится к развёртываниям с несколькими кластерами, которые эта глава не создаёт. Здесь один локальный сервер, поэтому все упаковщики одинаково локальны. Работу между регионами см. в Топологии → Суперкластеры.
Подводные камни
Опечатка в имени создаёт вторую группу. Сервер сопоставляет участников по точной строке, поэтому packers и packer — две отдельные группы одной темы. Обе подписки успешны без предупреждения, а каждый заказ поступит одному участнику каждой группы. Вместо балансировки работа выполнится дважды. Имя должно побайтно совпадать у всех участников.
- CLI
- C
#!/bin/bash
# A typo in the queue group name silently creates a SECOND group.
# The server matches members by the exact name string, so "packers" and
# "packer" are two different groups on the same subject. There is no
# warning -- both subscriptions succeed.
#
# To see it, run these two subscribers in separate terminals. Note the
# mismatched names: one says "packers", the other "packer".
nats sub orders.created --queue packers # terminal 1: group "packers"
nats sub orders.created --queue packer # terminal 2: group "packer" (typo)
# Now publish the same test order three times from a third terminal:
# nats pub orders.created '{"order_id":"ord_8w2k","customer":"acme-co","total_cents":4200,"ts":"2026-05-22T10:14:22Z"}' --count 3
#
# Each order is delivered to ONE member of EACH group, so BOTH terminals
# print every order -- the work is double-handled, not load-balanced.
# Fix: give every member the byte-for-byte identical group name.
// A typo in the queue group name silently creates a SECOND group. The
// server matches members by the exact name string, so "packers" and
// "packer" are two different groups on the same subject. Both
// subscriptions succeed with no warning.
static void
onOrder(natsConnection *nc, natsSubscription *sub, natsMsg *msg, void *closure)
{
printf("group %s handling: %.*s\n", (const char *) closure,
natsMsg_GetDataLength(msg), natsMsg_GetData(msg));
natsMsg_Destroy(msg);
}
if (s == NATS_OK)
s = natsConnection_QueueSubscribe(&sub1, conn, "orders.created",
"packers", onOrder, (void *) "packers");
if (s == NATS_OK)
s = natsConnection_QueueSubscribe(&sub2, conn, "orders.created",
"packer", onOrder, (void *) "packer"); // typo!
// Publish an order and BOTH callbacks print it: one member of EACH
// group receives it, so the work is double-handled instead of
// load-balanced. Fix: give every member the byte-for-byte identical
// group name.
Не ожидайте порядка и равного распределения. Участник выбирается случайно для каждого сообщения, а не по кругу, поэтому короткая серия может распределиться неравномерно. Если работа для покупателя требует строгого порядка, используйте одного подписчика вместо группы очереди.
Обработка заказа должна безопасно повторяться. Медленный или ненадолго отключённый упаковщик может продолжать работу, которую издатель считает потерянной, а Core NATS сам не отправит её снова. Повторная обработка того же заказа должна быть безвредной: упаковывайте по order_id и пропускайте уже упакованный заказ.
Что уже сделано
Текущий сеанс выглядит так:
- Один локальный
nats-serverс предыдущих страниц. - Группа
packersнаorders.createdраспределяет каждый заказ ровно одному упаковщику; участников можно добавлять и удалять во время работы. analyticsостаётся обычным подписчикомorders.createdи видит все заказы независимо от группы.
Теперь вы можете балансировать работу. Те же механизмы применимы к запросам и ответам: группа отвечающих сервисов одной темы обрабатывает каждый запрос одним участником. Следующий шаблон противоположен: вы хотите получить ответ от каждого сервиса и собрать все ответы.
Что дальше
Следующая страница — Scatter-gather: один запрос нескольким сервисам со сбором всех ответов вместо первого. Вы опросите трёх поставщиков shipping.quote и выберете лучшего.
См. также
- Основные понятия → Группы очередей — пятиминутный обзор темы.
- Изучение → JetStream — долговременные очереди заданий, где сообщение переживает сбой обработчика и доставляется другому повторно.
- Топологии → Суперкластеры — географическая привязка, сохраняющая работу группы в регионе издателя.