Unicode и интернационализация

нормализатор Unicodeразличия за одинаковыми символами

Сравните четыре формы с исходником и изучите изменения выбранного результата.

нормализатор Unicode

Исходный текст

Выбранный нормализованный результат

Предпросмотр ограничен 4000 символами; копирование и скачивание включают всё.

Текст обрабатывается в этом браузере и не отправляется.

Не более 10 000 единиц UTF-16; длинный ввод отклоняется без обрезки.

Нормализация зависит от реализации Unicode в браузере; фиксированная версия не заявлена.

Введите текст или выберите пример.

Одинаковые на вид имена могут не совпадать при поиске. Буква с диакритикой бывает одной кодовой точкой или базовой буквой с комбинируемым знаком. Нормализатор Unicode показывает разницу в сохранённой последовательности.

Перед унификацией названий или полей нормализатор Unicode помогает сравнить NFC и NFD. Формы NFKC и NFKD дополнительно меняют ширину, лигатуры и надстрочные знаки; исходный текст остаётся доступным до подтверждения.

Зачем нужен нормализатор Unicode?

Внешний вид не определяет сохранённые значения.

Четыре формы из одного исходника

Конвертер NFC и преобразование NFD здесь не образуют цепочку: каждая форма вычисляется непосредственно из исходного текста. Сразу видно, какая форма уже совпадает с ним.

Буква с акцентом расходится на четыре пути нормализации.

Сначала проверить совместимые замены

NFKC может превратить полноширинные буквы и лигатуры в обычные символы. Нормализатор Unicode сохраняет оригинал и подсвечивает изменённые фрагменты до подтверждения замены.

Особые символы показаны рядом с обычной итоговой записью.

Выбрать форму и сохранить исходник

01

Начать с NFC и посмотреть все формы

NFC выбран по умолчанию, но четыре формы проверяются вместе. При одинаковом отображении сравните значения U+ и байты UTF-8, чтобы найти разницу в последовательности.

02

Разделять только независимые записи

Режим всего текста сохраняет окончания строк. Построчный режим обрабатывает и пустые записи, а результат соединяет LF. Если нужно сохранить CRLF, оставьте весь текст.

03

Проверить изменения перед экспортом

Подсвеченный фрагмент может содержать несколько кодовых точек. Копия и файл включают полный результат. После отключения автоматики проверка запускается Ctrl/Cmd+Enter.

Что показывает сравнение

Состояние каждой из четырёх форм

Нормализация Unicode отдельно сопоставляет NFC, NFD, NFKC и NFKD с оригиналом. Для каждого варианта видны совпадение, число кодовых точек и байтов UTF-8.

Кодовые точки и байты изменений

Сборка и разложение не всегда являются заменой один к одному. Изменения объединены в фрагменты с последовательностями U+ и шестнадцатеричными байтами до и после.

Полный экспорт и отмена

Экранный предпросмотр ограничен, но копирование и скачивание полные. Замена ввода требует просмотра до и после; одна отмена возвращает старый ввод и результат.

Что не исправляет нормализация

Совместимые формы могут терять сведения
NFKC и NFKD сглаживают различия ширины, лигатур и надстрочных знаков. По готовому результату исходное написание иногда восстановить невозможно.
Диакритика и регистр сохраняются
NFD отделяет комбинируемые знаки, но не удаляет их. Нормализатор Unicode не переводит текст в ASCII и не меняет регистр.
Похожие и невидимые символы остаются
Латинские и кириллические двойники, а также невидимые знаки требуют отдельной проверки. Четыре формы не служат защитой от подмены.
Ограничение размера и формата
Ввод до 10 000 единиц UTF-16, построчно до 500 записей. Одиночные суррогаты и слишком большие результаты отклоняются; файлы, CSV и JSON не читаются.

Нормализатор Unicode: частые вопросы

Что такое нормализация Unicode?

Это приведение последовательностей к одной из четырёх стандартных форм. NFC и NFD используют каноническую эквивалентность; NFKC и NFKD добавляют совместимые соответствия. Каждая сравнивается с исходником.

Какую форму выбрать?

Для обычного текста часто выбирают NFC; если принимающая система требует разложенную форму, выбирайте NFD. Совместимые формы стоит применять только после просмотра конкретных изменений.

Нормализация удаляет невидимые символы или заменяет кириллицу латиницей?

Нет. Похожие латинские и кириллические буквы остаются разными, а невидимые знаки не удаляются. Для этих задач нужна отдельная проверка исходных кодовых точек.

Какие есть ограничения?

Ввод ограничен 10 000 единицами UTF-16, а построчный режим — 500 записями. Одиночные суррогаты и результат свыше 40 000 единиц отклоняются, файлы не загружаются.

Отправляется ли мой текст куда-либо?

Нет. Проверка, сравнение и подготовка скачивания происходят в вашем браузере. Текст не отправляется на сервер преобразования.

Результат выглядит неожиданно?

Проверьте текст в нормализаторе Unicode

Возьмите короткую строку, которая не совпадает при сравнении, и изучите четыре результата перед заменой.