JS: написать функцию по нормализации текста

Цена договорная
03 июня 2023, 15:16 • 3 отклика • 65 просмотров
Я работаю со входящими сообщениями из телеграм-чатов (парсинг).
Чтобы обойти фильтры, люди часто используют замену букв в сообщениях. И помимо замены, например, русской "с" на латинскую - в CharacterMap есть еще очень много вариантов похожих "с" - например "⊂" - это в Math Symbols, всевозможные одинарные и двойные точки "ċ" и подобное.
Когда я для примера искал замену буквы о - я нашел 63 (!!!) варианта.
Мне нужна функция нормализации, которая приведет текст в исходный вид.

Итак, задача:
- придумать алгоритм замены (чтобы не заменять буквы в английских словах) - например, считать число рус-англ букв и на основе этого определять основной язык слова (или всей фразы)
- если слово русское (напр, более 50% букв русских) - сделать замену измененных букв
- также заменить популярные эмоджи (5️⃣ -> 5, -> $ и пр)
- ну и найти в таблице символов максимальное число похожих для замены символов

Всё это нужно в функции (нескольких функциях) на nodejs, офлайн (без обращения к апи и асинхронным методам).

Предлагайте идеи, варианты, сроки и цены.
Отзывы
R50 8d39fa17f6675dcce8bf7dcc626c8550
Заказчик
Спасибо Руслану, всё было сделано быстро, учел пожелания, внес все правки. Рекомендую! )))
11 месяцев назад
R50 614ac2caf44bc1de7c18221ce780ea9f
Фрилансер
Сергей - отличный работодатель. Объяснил всё чётко и понятно, потому удалось так быстро завершить заказ. Уверенно могу сказать, что поработал бы еще вместе)
11 месяцев назад