NOME¶

UTF-8 - uma codificação Unicode multibyte compatível com ASCII

DESCRIÇÃO¶

O conjunto de caracteres Unicode ocupa um espaço de código de 16 bits. A codificação Unicode mais óbvia (conhecida como UCS-2) consiste de uma seqüência de palavras de 16 bits. Tais strings podem conter, em sua maior parte, bytes de caracteres de 16 bits, como '\0' ou '/', que têm um significado especial em nomes de arquivos e outros parâmetros de funções em bibliotecas C. Além disso, a maioria das ferramentas UNIX esperam arquivos ASCII e não podem ler palavras de 16 bits como caracteres sem modificações maiores. Por essas razões, UCS-2 não é uma codificação externa disponível de Unicode em nomes de arquivos, arquivos-texto, variáveis de ambiente, etc. O ISO 10646 Universal Character Set (UCS), um superconjunto de Unicode, ocupa ainda um espaço de código de 31 bits e a óbvia codificação UCS-4 para ele (uma seqüência de palavras de 32 bits) tem o mesmo problema.

A codificação UTF-8 de Unicode e UCS não tem esses problemas e é a maneira de usar o conjunto de caracteres Unicode sob sistemas operacionais do estilo Unix.

PROPIEDADES¶

A codificação UTF-8 tem as seguintes belas propriedades:

*

caracteres UCS de 0x00000000 a 0x0000007f (os clássicos caracteres US-ASCII) são codificadas simplesmente como bytes de 0x00 a 0x7f (compatibilidade com ASCII). Isto significa que os arquivos e strings que contêm somente caracteres ASCII de 7 bits têm a mesma codificação tanto sob ASCII quanto sob UTF-8.

*

Todos os caracteres UCS > 0x7f são codificados como uma seqüência multibyte, consistindo somente de bytes na faixa de 0x80 a 0xfd, de forma que nenhum byte ASCII apareça como parte de outro caractere e não haja problemas com, por exemplo, '\0' ou '/'.

*

A ordenação lexicográfica das strings UCS-4 é preservada.

*

Todos os 2^31 códigos UCS possíveis podem ser codificados usando-se UTF-8.

*

Os bytes 0xfe e 0xff nunca são usados na codificação UTF-8

*

O primeiro byte de uma seqüência multibyte que representa um único caractere UCS não-ASCII está sempre na faixa 0xc0 a 0xfd, e indica o tamanho desta seqüência multibyte. Todos os bytes seguintes na seqüência multibyte estão na faixa de 0x80 a 0xbf. Isto permite um ressincronismo fácil e torna a codificação independente de estado, e robusta contra perda de bytes.

* Caracteres

UTF-8 codificados em UCS podem ter até seis bytes de comprimento, porém os caracteres Unicode só podem ter até três bytes de comprimento. Como o Linux usa somente o subconjunto Unicode de 16 bits do UCS, sob Linux, as seqüências multibytes UTF-8 só podem ter um, dois ou três bytes de comprimento.

CODIFICAÇÃO¶

As seguintes seqüências de bytes são usadas para representar um caractere. A seqüência a ser usada depende do número de código UCS do caractere:

0x00000000 - 0x0000007F:

0xxxxxxx

0x00000080 - 0x000007FF:

110xxxxx 10xxxxxx

0x00000800 - 0x0000FFFF:

1110xxxx 10xxxxxx 10xxxxxx

0x00010000 - 0x001FFFFF:

11110xxx 10xxxxxx 10xxxxxx 10xxxxxx

0x00200000 - 0x03FFFFFF:

111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx

0x04000000 - 0x7FFFFFFF:

1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx

As posições de bit xxx são preenchidas com os bits do número do código de caractere na representação binária. Somente a seqüência de multibyte mais curta possível que pode representar o número do código do caractere pode ser usada.

EXEMPLOS¶

O caractere Unicode 0xa9 = 1010 1001 (o sinal de copyright) é codificado em UTF-8 como

e o caractere 0x2260 = 0010 0010 0110 0000 (o símbolo de "diferente") é codificado como:

PADRÕES¶

ISO 10646, Unicode 1.1, XPG4, Plan 9.

AUTOR¶

Markus Kuhn <mskuhn@cip.informatik.uni-erlangen.de>

VEJA TAMBÉM¶

unicode(7)

TRADUZIDO POR LDP-BR em 21/08/2000.¶

Rubens de Jesus Nogueira <darkseid99@usa.net> (tradução) André L. Fassone Canova <lonelywolf@blv.com.br> (revisão)