Сделать многопоточный парсинг
Цена договорная
Сделать парсинг сайта на котором больше 100млн страниц, на каждой из которых по 20 записей .
Из каждой записи нужно нужно вытащить только две колонки (поля) с типом строка (до 128 символов).
API у сайта вроде нет, так что придется парсить HTML (без защиты и капчи)
Т.к. страниц и данных много, то парсинг нужно сделать многопоточным.
Условия:
1) Возможность масштабирования до N потоков (при уточнении деталей можем договориться на конкретное кол-во страниц в рамках одного потока)
2) Возможность указать с какой по какую страницу должен отрабатывать парсинг
3) Возможность поставить парсинг на нескольких серверах, но чтобы данные складывались в одну БД
Сервер(-а) для работы предоставлю. Стек на ваше усмотрение, также как и БД.
Оплата и сроки договорная.
Из каждой записи нужно нужно вытащить только две колонки (поля) с типом строка (до 128 символов).
API у сайта вроде нет, так что придется парсить HTML (без защиты и капчи)
Т.к. страниц и данных много, то парсинг нужно сделать многопоточным.
Условия:
1) Возможность масштабирования до N потоков (при уточнении деталей можем договориться на конкретное кол-во страниц в рамках одного потока)
2) Возможность указать с какой по какую страницу должен отрабатывать парсинг
3) Возможность поставить парсинг на нескольких серверах, но чтобы данные складывались в одну БД
Сервер(-а) для работы предоставлю. Стек на ваше усмотрение, также как и БД.
Оплата и сроки договорная.
Отзывы
В заказе есть исполнитель
При переводе заказа из архивного в актуальный, текущий исполнитель будет снят с задачи.
Выберите тип сделки
С безопасной сделкой вы всегда сможете вернуть средства, если что-то пойдет не так. С простой сделкой вы самостоятельно договариваетесь с исполнителем об оплате и берете на себя решение конфликтов.
1) быстро (первые наброски парсинга были готовы через 20 минут)
2) информативно (предоставлена нормальная и понятная инструкция по запуску)
3) качественно (давал на код ревью знакомым ребятам, не смогли ни к чему придраться)
Крайне рекомендую, буду обращаться еще