Перейти к основному содержимому

Scatter-gather

Сервис наличия товаров отвечал на запрос одним ответом — обычный случай, когда на один вопрос нужен один ответ.

У некоторых вопросов несколько ответов. Например: «Сколько стоит доставить заказ?» Acme работает с тремя перевозчиками, и каждый предлагает свою цену. Сервис заказов хочет получить все три предложения и выбрать самое дешёвое.

Это scatter-gather: отправить один запрос всем отвечающим сервисам и собрать ответы. На этой странице мы построим такой обмен через shipping.quote с тремя поставщиками тарифов.

Почему один запрос даёт несколько ответов​

Вспомните запрос-ответ: клиент подписывается на уникальную тему _INBOX и публикует запрос с этим inbox как темой ответа. Механизм не ограничивает число отвечающих. Если три поставщика подписаны на shipping.quote, все получают запрос через обычную публикацию и подписку и все могут ответить в inbox. Ранее единственный ответ был результатом одного отвечающего сервиса и клиента, остановившегося после первого ответа.

Это работает, только если сервисы не состоят в общей группе очереди: группа передаёт запрос одному участнику, обеспечивая балансировку, а не scatter-gather. Каждый сервис должен иметь независимую подписку. CLI-пример ниже явно задаёт такое поведение, поскольку по умолчанию CLI делает обратное.

Создание трёх поставщиков тарифов​

Поставщик подписывается на shipping.quote, читает заказ и отвечает ценой. Запустите три экземпляра с разными ценами.

#!/bin/bash
# Three shipping-quote providers, each answering on shipping.quote.
#
# IMPORTANT: `nats reply` subscribes inside a queue group by default
# (NATS-RPLY-22). Three providers left on that default would share ONE
# queue group, so only one would ever answer. To scatter the request to
# all three, give each provider its OWN queue group name with --queue.
# A queue group of one member behaves like a plain subscriber.
#
# Run each line in its own terminal.

# Terminal 1 — carrier A quotes 1500 cents.
nats reply shipping.quote --queue carrier-a '{"carrier":"carrier-a","quote_cents":1500}'

# Terminal 2 — carrier B quotes 1200 cents.
nats reply shipping.quote --queue carrier-b '{"carrier":"carrier-b","quote_cents":1200}'

# Terminal 3 — carrier C quotes 1800 cents.
nats reply shipping.quote --queue carrier-c '{"carrier":"carrier-c","quote_cents":1800}'

У nats reply есть особенность: по умолчанию CLI подписывается в группе очереди NATS-RPLY-22. Три экземпляра nats reply с настройками по умолчанию образуют одну группу, и отвечает лишь один из них. Это балансировка с предыдущей страницы, а здесь нужно другое.

Чтобы поставщики отвечали независимо, задайте каждому своё имя группы через --queue. Группа из одного участника ведёт себя как обычный подписчик: получает каждый подходящий запрос. CLI-пример выше запускает поставщиков с разными именами (carrier-a, carrier-b, carrier-c), поэтому все трое видят каждый запрос.

В библиотеках такой особенности нет. Без явного запроса группы создаётся обычная подписка, поэтому три обычных подписчика shipping.quote уже получают каждый запрос.

Сбор по числу ответов​

Теперь сбор. Клиент отправляет один запрос в shipping.quote и собирает ответы всех поставщиков.

#!/bin/bash
# Send one request to shipping.quote and gather replies from every provider.

# Gather by count: stop after 3 replies have arrived.
nats request shipping.quote \
'{"order_id":"ord_8w2k","customer":"acme-co","total_cents":4200,"ts":"2026-05-22T10:14:22Z"}' \
--replies 3 --timeout 2s

# Gather by deadline instead: --replies 0 collects every reply that arrives
# during the full --timeout window, then returns. It is a fixed, predictable
# budget; --reply-timeout has no effect in this mode. Use this when you do
# not know how many providers are running.
nats request shipping.quote \
'{"order_id":"ord_8w2k","customer":"acme-co","total_cents":4200,"ts":"2026-05-22T10:14:22Z"}' \
--replies 0 --timeout 2s

CLI использует --replies 3: читать inbox до трёх ответов либо до прекращения их поступления — что случится раньше. При трёх работающих поставщиках вывод содержит три предложения, по одному от перевозчика. Клиент сравнивает цены и сохраняет минимальную.

Библиотека делает то же; объём ручного кода зависит от клиента. Обычный request() возвращает только первый ответ и сам по себе не возвращает список: клиент не знает, сколько сервисов ответят. Некоторые клиенты имеют готовые средства сбора: в nats.js это requestMany, в orbit.go — RequestMany (оба следуют ADR-47 «Request Many» с остановкой по числу, паузе или завершающему сигналу), в .NET — RequestManyAsync. Если помощника нет, напишите цикл: подпишитесь на новый inbox, опубликуйте запрос с этим inbox как темой ответа, читайте подписку и добавляйте ответы в список до нужного числа или срока, затем отпишитесь.

Сбор по сроку​

Подсчёт предполагает известное число поставщиков. Часто оно неизвестно: перевозчики подключаются и отключаются, один может быть недоступен. Ручной сбор без срока чтения навсегда застрянет в ожидании третьего ответа, если ответят только двое.

Надёжнее собирать по сроку: принимать все ответы в пределах заданного времени и затем использовать полученный набор.

В CLI --replies 0 включает сбор по сроку: --timeout становится общим окном сбора. Команда читает ответы всё окно и возвращает результат после его закрытия. Поэтому --replies 0 --timeout 2s собирает всё пришедшее за две секунды. Время фиксировано и предсказуемо. --reply-timeout здесь не действует: он ограничивает паузу между ответами только при сборе по числу.

nats request shipping.quote \
'{"order_id":"ord_8w2k","customer":"acme-co","total_cents":4200,"ts":"2026-05-22T10:14:22Z"}' \
--replies 0 --timeout 2s

При трёх работающих поставщиках ответы приходят за миллисекунды, но команда всё равно ждёт полные две секунды. При одном недоступном вы получите два ответа после того же окна. Если подписанных поставщиков нет вообще, команда сразу возвращает no responders; однако подписанный, но медленный сервис требует полного ожидания --timeout. В любом случае ожидание ограничено.

Срок меняет правило: ждать не всех, а только успевших ответить. При непостоянном составе сервисов это единственное безопасное предположение.

Третий способ завершить сбор — завершающий сигнал (sentinel). С --wait-for-empty команда собирает ответы до сообщения с пустой полезной нагрузкой, которым сервис обозначает конец набора. Здесь учитывается поток ответов, а не одно общее окно. Если сигнал не придёт, --reply-timeout ограничит паузу между ответами, и ожидание всё равно закончится.

Гарантии доставки​

Как и всё остальное, scatter-gather использует доставку не более одного раза: потерянный ответ отсутствует в наборе, повторной доставки нет, порядок прихода не несёт смысла. Рассматривайте результат как набор пришедших ответов, а не рейтинг. Для тарифов это подходит: повторить вопрос недорого. Если каждый ответ должен переживать сбой, нужен JetStream, а не базовый сбор.

Подводные камни​

Получение только первого ответа. Обычный nats request останавливается после одного ответа: --replies по умолчанию равен 1. Среди трёх поставщиков вы получите первого ответившего, а остальные предложения будут отброшены без уведомления. Обычный библиотечный request() делает то же. Для сбора используйте CLI --replies 0, помощник клиента (nats.js requestMany, orbit.go RequestMany) или собственную подписку на inbox с циклом чтения.

#!/bin/bash
# The "first reply only" trap, and the fix.
#
# `nats request` defaults to --replies 1: it reads ONE reply and stops.
# With three providers up, you get whichever carrier answered first and
# the other two quotes are silently discarded. That is a single request,
# not a scatter-gather.

# WRONG for scatter-gather — takes only the first quote that lands.
nats request shipping.quote \
'{"order_id":"ord_8w2k","customer":"acme-co","total_cents":4200,"ts":"2026-05-22T10:14:22Z"}'

# RIGHT — gather every quote, then pick the cheapest. --replies 0 collects
# every reply that arrives during the full --timeout window, then returns —
# a fixed, predictable budget. If a carrier is down, its quote is simply
# absent from the set; --reply-timeout has no effect in this mode.
nats request shipping.quote \
'{"order_id":"ord_8w2k","customer":"acme-co","total_cents":4200,"ts":"2026-05-22T10:14:22Z"}' \
--replies 0 --timeout 2s

Ожидание ответов без срока. Ручной сбор без ограничения чтения зависает при недоступном поставщике. Задайте срок (--replies 0 --timeout 2s), чтобы отсутствующий перевозчик просто не вошёл в набор предложений.

Восприятие результата как рейтинга. Порядок прихода не означает приоритет, а неполный набор не обязательно является ошибкой. Оценивайте содержание каждого ответа: здесь минимальный quote_cents.

Что уже сделано​

Теперь Acme ORDERS использует четыре схемы взаимодействия через один локальный nats-server:

  • notifications и analytics получают собственные копии всех сообщений orders.created (публикация и подписка).
  • Региональная аналитика охватывает orders.us.created и orders.eu.created через orders.*.created, а аудит читает иерархию через orders.>.
  • Сервис inventory отвечает на отдельные запросы orders.inventory.check (запрос-ответ).
  • Группа packers распределяет работу на orders.created: один упаковщик на заказ.
  • Три поставщика отвечают на один запрос shipping.quote, а клиент собирает ответы в пределах срока и выбирает самый дешёвый.

Это основа Core NATS: темы, интерес, inbox ответов и группы очередей. Всё работает без хранения, с доставкой не более одного раза; после доставки ничего не запоминается.

Что дальше​

Следующая страница добавляет к теме и полезной нагрузке сообщения третью часть: заголовки с метаданными «ключ — значение». Вы добавите идентификатор запроса и трассировки в поток заказов и прочитаете статус, которым сервер сообщает об отсутствии отвечающих сервисов. Перейдите к Заголовкам сообщений.

См. также​