Сервер будет принимать рест запрос, Там будет хранится информация о разных серверах , типа адрес сервера и его состояние (занят или свободен).
Система берет первый свободный сервер и перенаправляет туда полученный запрос , помечая этот сервер , как занятый. После получения ответа, помечается сервер снова свободным и отправляет ответ на полученный ранее рест запрос. Необходимо, что бы можно было менять значение и кол-во серверов. Т.е. это должно быть вынесено в конфиг файл, который можно редактировать перед запуском сервиса.

Язык реализации особо не важен. Но нужно претенденте многопоточности.