Есть корпус логов нескольких чатов. Есть бот, который в чате периодически встревает в диалог с комментариями, сейчас сделан на цепях маркова.
Надо сделать такой же функционал на нейросетях (конкретная модель обсуждается).
Требования:
1)Должен дообучаться на корпусе текстов, причем у разных корпусов должен быть разный вес
2)В идеале должен работать на сервере без GPU, генерируя фразу в течении 10 секунд.