 |
| |||
| разметка (" In text mining or Full-Text Search, the process of identifying meaningful units within strings, either at word boundaries, morphemes, or stems, so that related tokens can be grouped. For example, although "San Francisco" is two words, it could be treated as a single token.") | |||
| лексемизация (разбор данных на лексемы Alex_Odeychuk) | |||
| лексический анализ текста (Alex_Odeychuk) | |||
| выделение базовых элементов (ssn) | |||
токенизация (лексический анализ текста  jump-marketing.ru, habr.com bojana) | |||
|
tokenization : 4 фрази в 3 тематиках |
| Фінанси | 1 |
| Цифрові валюти, криптовалюти, блокчейн | 1 |
| Штучний інтелект | 2 |