Мини сервер flask/fastapi + docker

1 500 руб. за проект
08 декабря 2023, 14:17 • 11 откликов • 73 просмотра
Есть модель https://huggingface.co/TheBloke/Stheno-v2-Delta-GGUF
(мы ее уже протестировали с помощью llama.cpp / CPU)

1. Нужно написать на python сервер на flask/fastapi (файл на 15 строк) который принимает в себя текст (промт) и отдает ответ

2. Далее запаковать все в докер что бы мы могли разворачивать эту всю историю на vds (centos7) одним кликом
Отзывы
R50 91b29fbb2deb26a2a3f6258d342f016e
Заказчик
Быстро и качественно.
Разработчик помог корректно уточнить ТЗ и сам предложил более оптимальное решение.
Спасибо! Будем работать ещё!
3 месяца назад
R50 f7095c97a9a1b6f4df68291de3f52968
Фрилансер
Все прошло хорошо, рекомендую к сотрудничеству
3 месяца назад