| dos2unix(1) | 2019-09-24 | dos2unix(1) |
dos2unix - програма для перетворення даних у текстовому форматі DOS/Mac у формат Unix, і навпаки
dos2unix [параметри] [ФАЙЛ ...] [-n ВХІДНИЙ_ФАЙЛ ВИХІДНИЙ_ФАЙЛ ...]
unix2dos [параметри] [ФАЙЛ ...] [-n ВХІДНИЙ_ФАЙЛ ВИХІДНИЙ_ФАЙЛ ...]
До складу пакунка Dos2unix включено програми "dos2unix" та "unix2dos", призначені для перетворення звичайних текстових даних у форматі DOS або Mac на дані у форматі Unix, і навпаки.
У текстових файлах DOS/Windows розрив рядка або перехід на новий рядок здійснюється за допомогою комбінації двох символів: повернення каретки (CR) і переведення рядка (LF). У текстових файлах Unix за перехід на новий рядок відповідає один символ: переведення рядка (LF). У текстових файлах Mac, до Mac OS X, за розрив рядка відповідав один символ: повернення каретки (CR). У сучасних версіях Mac OS використовується типовий для Unix розрив рядка (LF).
Окрім символів розриву рядка, програма Dos2unix здатна виконувати перетворення кодування файлів. Можна перетворити дані у декількох кодуваннях DOS на файли у кодуванні Latin-1 Unix. Також можна перетворити дані у файлах Windows Unicode (UTF-16) на дані у кодуванні Unix Unicode (UTF-8).
Під час перетворення програма пропускатиме двійкові файли, якщо ви не накажете їй виконати перетворення таких файлів безпосередньо.
Програма автоматично пропускатиме файли, які не є звичайними файлами, зокрема каталоги та канали FIFO.
Типово, програма не вноситиме змін до символічних посилань та об’єктів посилань. Якщо потрібно, програма може замінити символічні посилання або записати перетворені дані до файла-призначення символічного посилання. У Windows запису до об’єкта символічного посилання не передбачено.
Програму dos2unix було створено за зразком програми dos2unix для SunOS/Solaris. Втім, існує одна важлива відмінність від оригінальної версії для SunOS/Solaris. Ця версія типово виконує заміну файлів під час перетворення (старий режим обробки файлів), а у оригінальній версії для SunOS/Solaris передбачено підтримку лише парного перетворення (новий режим обробки файлів). Див. також параметри "-o" та "-n". Ще однією відмінністю є те, що у версії для SunOS/Solaris типово використовувався режим перетворення iso, а у цій версії типовим є режим перетворення ascii.
dos2unix -- -foo
Або у новому режимі файлів:
dos2unix -n -- -foo out.txt
When this option is used, the conversion will not be aborted when the user and/or group ownership of the original file can't be preserved in old file mode. Conversion will continue and the converted file will get the same new ownership as if it was converted in new file mode. See also options "-o" and "-n". This option is only available if dos2unix has support for preserving the user and group ownership of files.
Цей параметр доступний лише у dos2unix для Windows з підтримкою назв файлів у Unicode. Цей параметр не впливає на справжнє читання та запис назв файлів, лише на те, як буде показано ці назви.
Існує декілька способів показу тексту у консолі Windows, заснованих на кодуванні тексту. Усі ці способи мають свої переваги і недоліки.
Недоліком ansi є те, що назви файлів із символами, яких немає у типовому системному кодуванні, буде показано неправильно. Замість цих символів ви побачите знак питання або не той символ. Якщо у вашій системі немає файлів із назвами, які містять нетипові символи, можна скористатися цим варіантом.
Якщо ви користуєтеся консоллю ConEmu, весь текст буде показано належним чином, оскільки ConEmu автоматично вибирає належний шрифт.
Недоліком unicode є те, що це кодування несумісне з ASCII. Обробка виведених даних є непростою, якщо ви передаватимете ці дані до іншої програми або файла.
Якщо використовується метод "unicodebom", текст у кодуванні Unicode буде оброблено з урахуванням BOM (позначки порядку байтів). BOM потрібна для правильного переспрямовування або тунелювання даних у PowerShell.
Недоліком є те, що якщо ви скористаєтеся типовим растровим шрифтом, усі символи поза ASCII буде показано неправильно. Не лише назви файлів у unicode, а й перекладені повідомлення стануть непридатними до читання. У Windows, налаштованому на роботі у східно-азійському регіоні, ви можете помітити значне блимання під час показу повідомлень.
У консолі ConEmu добре працює спосіб кодування utf8.
Якщо використовується метод "utf8bom", текст у кодуванні UTF-8 буде оброблено з урахуванням BOM (позначки порядку байтів). BOM потрібна для правильного переспрямовування або тунелювання даних у PowerShell.
Типове кодування можна змінити за допомогою змінної середовища DOS2UNIX_DISPLAY_ENC встановленням для неї значення "unicode", "unicodebom", "utf8" або "utf8bom".
Буде виведено такі дані, у вказаному порядку: кількість розривів рядків у форматі DOS, кількість розривів рядків у форматі Unix, кількість розривів рядків у форматі Mac, позначка порядку байтів, текстовим чи бінарним є файл та назву файла.
Приклад результатів:
6 0 0 no_bom text dos.txt
0 6 0 no_bom text unix.txt
0 0 6 no_bom text mac.txt
6 6 6 no_bom text mixed.txt
50 0 0 UTF-16LE text utf16le.txt
0 50 0 no_bom text utf8unix.txt
50 0 0 UTF-8 text utf8dos.txt
2 418 219 no_bom binary dos2unix.exe
Зауважте, що іноді бінарні файли помилково розпізнаються як текстові. Див. також параметр "-s".
Крім того, можна вказати додаткові прапорці для внесення змін у виведені дані. Можна використовувати один або декілька таких прапорців.
Із прапорцем "c" dos2unix виведе лише назви файлів, у яких містяться розриви рядків DOS. unix2dos виведе лише назви файлів, у яких містяться розриви рядків Unix.
Приклади:
Вивести дані щодо усіх файлів *.txt:
dos2unix -i *.txt
Вивести кількість розривів рядків у форматі DOS і розривів рядків у форматі Unix:
dos2unix -idu *.txt
Вивести лише позначку порядку байтів:
dos2unix --info=b *.txt
Вивести список файлів, у яких є символи розриву рядків DOS:
dos2unix -ic *.txt
Вивести список файлів, у яких використано символи розриву рядків Unix:
unix2dos -ic *.txt
Перетворити лише файли із розривами рядків DOS і не чіпати інших файлів:
dos2unix -ic0 *.txt | xargs -0 dos2unix
Знайти текстові файли і розривами рядків DOS:
find -name '*.txt' -print0 | xargs -0 dos2unix -ic
dos2unix: перетворення на два символи розриву рядків Unix відбуватиметься лише для комбінацій розриву рядків DOS. У режимі Mac виконуватиметься перетворення на два розриви рядків Unix лише символів розриву рядків Mac.
unix2dos: перетворення на дві комбінації розриву рядків DOS відбуватиметься лише для символів розриву рядків DOS. У режимі Mac виконуватиметься перетворення на два розриви рядків Mac лише символів розриву рядків Unix.
Якщо дані початкового файла закодовано у UTF-16 і використано параметр "-u", буде дописано позначку порядку байтів UTF-16.
Не використовуйте цей параметр для кодувань результатів, відмінних від UTF-8, UTF-16 або GB18030. Див. також розділ щодо UNICODE.
Власником перетвореного файла буде призначено користувача, яким було розпочато перетворення у режимі нового файла (парному режимі). Права доступу на читання або запис нового файла буде визначено на основі прав доступу до початкового файла мінус umask(1) для користувача, яким було розпочато перетворення.
Abort conversion when the user and/or group ownership of the original file can't be preserved in old file mode. See also options "-o" and "-n". This option is only available if dos2unix has support for preserving the user and group ownership of files.
У застарілому режимі (режимі заміщення) перетворений файл належатиме тому самому власнику і групі і матиме ті самі права доступу на читання або запис, що і початковий файл. Крім того, якщо перетворення файла виконується іншим користувачем, який має права доступу на запис до файла (наприклад користувачем root), перетворення буде перервано, якщо зберегти початкові значення не вдасться. Зміна власника може означати неможливість читання файла для його початкового власника. Зміна групи може призвести до проблем із безпекою, оскільки файл може стати доступним для читання користувачам, які не повинні мати такі права доступу. Можливість збереження прав власності та прав доступу до файла передбачено лише у Unix.
Щоб перевірити, чи передбачено у dos2unix підтримку збереження параметрів власника і групи файлів, віддайте команду "dos2unix -V".
Перетворення завжди виконується з використанням тимчасового файла. Якщо під час перетворення станеться помилка, тимчасовий файл буде вилучено, а початковий файл залишиться незмінним. Якщо перетворення буде виконано успішно, початковий файл буде замінено на тимчасовий файл. Може так статися, що у вас будуть права на перезапис початкового файла, але не буде прав для встановлення тих самих параметрів власника для тимчасового файла, який замінить собою початковий файл. Це означає, що ви не зможете зберегти параметри належності файла певному користувачу і/або групі. У цьому випадку ви можете скористатися параметром "--allow-chown", щоб програма могла продовжити обробку даних:
dos2unix --allow-chown якийсь.txt
Іншим варіантом дій є використання нового режиму файлів:
dos2unix -n якийсь.txt якийсь.txt
Перевагою використання параметра "--allow-chown" є те, що ви можете користуватися символами-замінниками, а параметри власників буде збережено, якщо можливо.
Пропускання бінарних файлів реалізовано для того, щоб уникнути випадкових помилок. Майте на увазі, що визначення бінарних файлів не є 100% точним. Програма просто шукає у файлах бінарні символи, які типово не трапляються у текстових файлах. Може так статися, що у бінарному файлі містяться лише звичайні текстові символи. Такий бінарний файл буде помилково сприйнято програмою як текстовий.
Якщо у початковому файлі є позначка порядку байтів (BOM), її буде використано у файлі-результаті, незалежно від використання цього параметра.
Якщо вами було зроблено помилкове припущення щодо формату файла (файл вхідних даних насправді не є файлом у форматі UTF-16LE), і дані вдасться успішно перетворити, ви отримаєте файл у кодуванні UTF-8 з помилковим вмістом. Скасувати таке помилкове перетворення можна за допомогою зворотного перетворення iconv(1) з даних у форматі UTF-8 на дані у форматі UTF-16LE. Таким чином ви повернетеся до початкового кодування даних у файлі.
Припущення щодо форматування UTF-16LE працює як визначення режиму перетворення. Перемиканням на типовий режим ascii можна вимкнути припущення щодо форматування UTF-16LE.
Цей параметр працює у спосіб, тотожний до параметра "-ul".
У звичайному режимі розриви рядків DOS перетворюються на розриви рядків Unix, і навпаки. Розриви рядків Mac перетворенню не підлягають.
У режимі Mac розриви рядків Mac перетворюються на розриви рядків Unix, і навпаки. Розриви рядків DOS перетворенню не підлягають.
Щоб запустити програму у режимі перетворення Mac, скористайтеся параметром командного рядка "-c mac" або програмами "mac2unix" та "unix2mac".
Хоча цей режим і називається режимом ASCII (стандарту 7-бітового кодування), насправді кодування символів у ньому є 8-бітовим. Завжди користуйтеся цим режимом для перетворення файлів у кодуванні UTF-8 (Unicode).
Якщо буде використано лише параметр "-iso", програма dos2unix спробує визначити активне кодування. Якщо це виявиться неможливим, dos2unix використає типове кодування CP437, яке здебільшого використовується у США. Щоб примусово визначити кодування, скористайтеся параметром "-437" (США), "-850" (західноєвропейські мови), "-860" (португальська), "-863" (канадська французька) або "-865" (скандинавські мови). Використати кодування Windows CP1252 (західноєвропейські мови) можна за допомогою параметра "-1252". Для інших кодувань використовуйте поєднання dos2unix з iconv(1). Програма iconv здатна виконувати перетворення даних у доволі широкому спектрі кодувань символів.
Ніколи не користуйтеся перетворенням ISO для текстових файлів у форматі Unicode. Використання подібного перетворення призведе до ушкодження вмісту файлів у кодуванні UTF-8.
Декілька прикладів:
Перетворити дані у типовому кодуванні DOS на дані у кодуванні Latin-1 Unix:
dos2unix -iso -n in.txt out.txt
Перетворити дані у кодуванні DOS CP850 на дані у кодуванні Latin-1 Unix:
dos2unix -850 -n in.txt out.txt
Перетворити дані у кодуванні CP1252 Windows на дані у кодуванні Latin-1 Unix:
dos2unix -1252 -n in.txt out.txt
Перетворити дані у кодуванні CP252 Windows на дані у кодуванні UTF-8 Unix (Unicode):
iconv -f CP1252 -t UTF-8 in.txt | dos2unix > out.txt
Перетворити дані у кодуванні Latin-1 Unix на дані у типовому кодуванні DOS:
unix2dos -iso -n in.txt out.txt
Перетворити дані у кодуванні Latin-1 Unix на дані у кодуванні DOS CP850:
unix2dos -850 -n in.txt out.txt
Перетворити дані у кодуванні Latin-1 Unix на дані у кодуванні Windows CP1252:
unix2dos -1252 -n in.txt out.txt
Перетворити дані у кодуванні UTF-8 Unix (Unicode) на дані у кодуванні Windows CP1252:
unix2dos < in.txt | iconv -f UTF-8 -t CP1252 > out.txt
Див. також <http://czyborra.com/charsets/codepages.html> та <http://czyborra.com/charsets/iso8859.html>.
Існує декілька різних кодувань Unicode. У Unix та Linux у файлах Unicode здебільшого використовується кодування UTF-8. У Windows для текстових файлів Unicode може бути використано кодування UTF-8, UTF-16 або UTF-16 зі зворотним порядком байтів. Втім, здебільшого, використовується формат UTF-16.
У текстових файлах Unicode, як і у звичайних текстових файлах, може бути використано розриви рядків DOS, Unix або Mac.
Усі версії dos2unix та unix2dos здатні виконувати перетворення у кодуванні UTF-8, оскільки UTF-8 було розроблено так, що зворотну сумісність з ASCII збережено.
Програми dos2unix та unix2dos, зібрані з підтримкою Unicode UTF-16, можуть читати текстові файли у кодуванні UTF-16 з прямим та зворотним порядком байтів. Щоб дізнатися про те, чи було dos2unix зібрано з підтримкою UTF-16, віддайте команду "dos2unix -V".
У Unix/Linux файли у кодуванні UTF-16 перетворюються на файли у кодуванні локалі. Для визначення поточного кодування символів локалі скористайтеся командою locale(1). Якщо перетворення виявиться неможливим, програма повідомить про помилку перетворення і пропустить відповідний файл.
У Windows файли UTF-16 типово буде перетворено на файли UTF-8. Обидва типи систем, Windows та Unix/Linux, мають непогані можливості з підтримки файлів у форматуванні UTF-8.
Кодування UTF-16 та UTF-8 є повністю сумісними. Під час перетворення не буде втрачено жодної інформації. Якщо під час перетворення даних у кодуванні UTF-16 на дані у кодуванні UTF-8 трапиться помилка, наприклад, якщо у вхідному файлі UTF-16 міститиметься якась помилка, файл буде пропущено.
Якщо використано параметр "-u", файл результатів буде записано у тому самому кодуванні UTF-16, що і початковий файл. Використання параметра Option "-u" запобігає перетворенню даних у кодування UTF-8.
У dos2unix та unix2dos не передбачено параметра для перетворення даних у кодуванні UTF-8 на дані у кодуванні UTF-16.
Режим перетворення ISO та 7-бітовий режим не працюють для файлів UTF-16.
У Windows до текстових файлів у кодуванні Unicode типово дописується позначка порядку байтів (BOM), оскільки багато програм Windows (зокрема Notepad) додають таку позначку автоматично. Див. також <http://en.wikipedia.org/wiki/Byte_order_mark>.
У Unix файли у кодуванні Unicode типово не містять позначки порядку байтів. Вважається, що кодуванням текстових файлів є те кодування, яке визначається поточною локаллю.
Програма dos2unix може визначити, чи є кодуванням файла UTF-16, лише якщо у файлі міститься позначка порядку байтів. Якщо у файлі, де використано кодування UTF-16, немає такої позначки, dos2unix вважатиме такий файл двійковим (бінарним).
Для перетворення файлів UTF-16 без позначки порядку байтів скористайтеся параметром "-ul" або "-ub".
Типово dos2unix не записує до файлів результатів перетворення позначки порядку байтів (BOM). Якщо використано параметр "-b", dos2unix запише до файла результатів BOM, якщо BOM була у файлі початкових даних.
Типово unix2dos записує позначку порядку байтів (BOM) до файла результатів, якщо BOM є у початковому файлі. Скористайтеся параметром "-r", щоб вилучити BOM.
Dos2unix та unix2dos завжди записують до файла результатів позначку порядку байтів (BOM), якщо використано параметр "-m".
У dos2unix передбачено підтримку читання і запису назв файлів Unicode у командному рядку Windows. Це означає, що dos2unix може відкривати файли, у назвах яких є символи, які не є частиною типової системної кодової сторінки ANSI. Щоб визначити, чи зібрано dos2unix для Windows з підтримкою назв файлів у кодуванні Unicode, скористайтеся командою "dos2unix -V".
Із показом назв файлів у кодуванні Unicode у консолі Windows пов’язано декілька проблем. Див. параметр "-D", "--display-enc". Назви файлів може бути некоректно показано у консолі, але запис цих назв відбуватиметься належним чином.
Перетворити дані з Windows UTF-16 (з позначкою порядку байтів (BOM)) у формат Unix UTF-8:
dos2unix -n in.txt out.txt
Перетворити дані у форматі Windows UTF-16LE (без BOM) на дані у форматі UTF-8 Unix:
dos2unix -ul -n in.txt out.txt
Перетворити дані у кодуванні UTF-8 Unix на дані у кодуванні Windows UTF-8 без BOM:
unix2dos -m -n in.txt out.txt
Перетворити дані у кодуванні UTF-8 Unix на дані у кодуванні Windows UTF-16:
unix2dos < in.txt | iconv -f UTF-8 -t UTF-16 > out.txt
GB18030 є китайським урядовим стандартом. Підтримка обов’язкової підмножини стандарту GB18030 є неодмінною вимогою до будь-яких програмних продуктів, які продаються у Китаї. Див. також <http://en.wikipedia.org/wiki/GB_18030>.
Кодування GB18030 є повністю сумісним із Unicode. Його можна розглядати як формат перетворення unicode. Подібно до UTF-8, GB18030 є сумісним із ASCII. GB18030 також є сумісним із кодовою сторінкою Windows 936, яку ще називають GBK.
У Unix/Linux файли UTF-16 буде перетворено до кодування GB18030, якщо кодуванням локалі є GB18030. Зауважте, що це спрацює, лише якщо підтримку локалі передбачено у системі. Щоб отримати список підтримуваних локалей, скористайтеся командою "locale -a".
У Windows для перетворення файлів UTF-16 на файли GB18030 слід вказати параметр "-gb".
У файлах у кодуванні GB18030 може міститися позначка порядку байтів, так само, як у файлах у кодуванні Unicode.
Прочитати вхідні дані зі стандартного джерела (stdin) і записати результат до стандартного виведення (stdout):
dos2unix < a.txt
cat a.txt | dos2unix
Перетворити дані у a.txt і замістити цей файл. Перетворити дані у b.txt і замістити цей файл:
dos2unix a.txt b.txt
dos2unix -o a.txt b.txt
Перетворити дані у a.txt і замістити файл у режимі перетворення ascii:
dos2unix a.txt
Перетворити дані у a.txt і замістити файл у режимі перетворення ascii. Перетворити дані у b.txt і замістити цей файл у режимі 7-бітового перетворення:
dos2unix a.txt -c 7bit b.txt
dos2unix -c ascii a.txt -c 7bit b.txt
dos2unix -ascii a.txt -7 b.txt
Перетворити файл a.txt з формату Mac на формат Unix:
dos2unix -c mac a.txt
mac2unix a.txt
Перетворити файл a.txt з формату Unix на формат Mac:
unix2dos -c mac a.txt
unix2mac a.txt
Перетворити дані у a.txt, замістити цей файл і зберегти часову позначку початкового файла:
dos2unix -k a.txt
dos2unix -k -o a.txt
Перетворити дані у файлі a.txt і записати результати до файла e.txt:
dos2unix -n a.txt e.txt
Перетворити дані у файлі a.txt і записати результати до файла e.txt. Скопіювати часову позначку файла a.txt для файла e.txt:
dos2unix -k -n a.txt e.txt
Перетворити дані у a.txt і замістити цей файл. Перетворити дані у b.txt і записати результат до e.txt:
dos2unix a.txt -n b.txt e.txt
dos2unix -o a.txt -n b.txt e.txt
Перетворити дані у c.txt і записати результати до e.txt. Перетворити дані у a.txt і замістити ними цей файл. Перетворити дані у b.txt і замістити ними цей файл. Перетворити дані у d.txt і записати результати до f.txt:
dos2unix -n c.txt e.txt -o a.txt b.txt -n d.txt f.txt
У оболонці UNIX можна скористатися командами find(1) і xargs(1) для запуску dos2unix рекурсивно для усіх текстових файлів у ієрархії каталогів. Наприклад, щоб виконати перетворення усіх файлів .txt у структурі підкаталогів поточного каталогу, віддайте таку команду:
find . -name '*.txt' -print0 |xargs -0 dos2unix
Параметр find(1) "-print0" і відповідний параметр xargs(1) "-0" потрібні, якщо у назва файлів є пробіли або лапки. Інакше, ці параметри можна пропустити. Іншим варіантом дій є використання find(1) з параметром "-exec":
find . -name '*.txt' -exec dos2unix {} \;
У командному рядку Windows можна скористатися такою командою:
for /R %G in (*.txt) do dos2unix "%G"
Користувачі PowerShell можуть скористатися такою командою у Windows PowerShell:
get-childitem -path . -filter '*.txt' -recurse | foreach-object {dos2unix $_.Fullname}
export LANG=uk українська
export LANG=uk_UA українська, Україна
export LANG=ru_UA російська, Україна
export LANG=es_ES іспанська, Іспанія
export LANG=es_MX іспанська, Мексика
export LANG=en_US.iso88591 англійська, США, кодування Latin-1
export LANG=en_GB.UTF-8 англійська, Великобританія, кодування UTF-8
Повний список мов та кодів країн наведено у підручнику з gettext: <http://www.gnu.org/software/gettext/manual/html_node/Usual-Language-Codes.html>
У системах Unix для отримання даних щодо локалі можна скористатися командою locale(1).
Якщо вами буде вибрано мову, перекладу якою немає, буде показано стандартні повідомлення англійською мовою.
Приклад (командна оболонка POSIX):
export DOS2UNIX_LOCALEDIR=$HOME/share/locale
Якщо завдання вдасться успішно виконати, програма поверне нульовий код виходу. Якщо станеться системна помилка, буде повернуто код цієї помилки. Якщо станеться якась інша помилка, буде повернуто код 1.
У режимі без повідомлень повернутим значенням завжди буде нуль, якщо вказано правильні параметри командного рядка.
<http://en.wikipedia.org/wiki/Text_file>
<http://uk.wikipedia.org/wiki/Carriage_return>
<http://uk.wikipedia.org/wiki/Newline>
<http://uk.wikipedia.org/wiki/Unicode>
Benjamin Lin - <blin@socs.uts.edu.au>, Bernd Johannes Wuebben (режим mac2unix) - <wuebben@kde.org>, Christian Wurll (додатковий новий рядок) - <wurll@ira.uka.de>, Erwin Waterlander - <waterlan@xs4all.nl> (супровідник)
Сторінка проекту: <http://waterlan.home.xs4all.nl/dos2unix.html>
Сторінка на SourceForge: <http://sourceforge.net/projects/dos2unix/>
| 2019-09-24 | dos2unix |