Есть 4 машины с разными по мощностями процессорами.

На этих машинах в докерах запущен софт.
На одной машине запущено 5 разных экземпляров одного и того же софта с уникальными ключами. Эти же 5 экземпляров параллельно запущены на трех других машинах.

Каждый из пяти экземпляров софта имеет свой уникальный IP. Когда к нему приходит запрос по IP, он должен быстро дать ответ.

Нужно теперь сделать так, что бы нагрузка балансировалась между 4ми машинами по одному экземпляру софта.

Например, на IP A приходят 20 тысяч запросов. Балансировщик раскидывает эти 20 тысяч запросов пропорционально мощности машин. Экземпляры софта на этих машинах дают ответ, который должен уйти по тому же IP, по которому пришел, через балансировщик.

И вот таких IP пять штук на балансировщике. Каждый пул запросов к конкретному IP должен разлетаться по машинам на обработку к конкретному экземпляру софта, который настроен под этот IP.