Мини сервер flask/fastapi + docker
1 500 руб. за проект
Есть модель https://huggingface.co/TheBloke/Stheno-v2-Delta-GGUF
(мы ее уже протестировали с помощью llama.cpp / CPU)
1. Нужно написать на python сервер на flask/fastapi (файл на 15 строк) который принимает в себя текст (промт) и отдает ответ
2. Далее запаковать все в докер что бы мы могли разворачивать эту всю историю на vds (centos7) одним кликом
(мы ее уже протестировали с помощью llama.cpp / CPU)
1. Нужно написать на python сервер на flask/fastapi (файл на 15 строк) который принимает в себя текст (промт) и отдает ответ
2. Далее запаковать все в докер что бы мы могли разворачивать эту всю историю на vds (centos7) одним кликом
Отзывы
В заказе есть исполнитель
При переводе заказа из архивного в актуальный, текущий исполнитель будет снят с задачи.
Выберите тип сделки
С безопасной сделкой вы всегда сможете вернуть средства, если что-то пойдет не так. С простой сделкой вы самостоятельно договариваетесь с исполнителем об оплате и берете на себя решение конфликтов.
Разработчик помог корректно уточнить ТЗ и сам предложил более оптимальное решение.
Спасибо! Будем работать ещё!