¿Qué son las codificaciones de caracteres como ANSI y Unicode, y en qué se diferencian?

ASCII, UTF-8, ISO-8859... Es posible que hayas visto estos extraños apodos dando vueltas, pero ¿qué significan realmente? Siga leyendo mientras explicamos qué es la codificación de caracteres y cómo se relacionan estos acrónimos con el texto sin formato que vemos en la pantalla.

Bloques de construcción fundamentales

Cuando hablamos del lenguaje escrito, hablamos de que las letras son los componentes básicos de las palabras, que luego forman oraciones, párrafos, etc. Las letras son símbolos que representan sonidos. Cuando hablas de lenguaje, estás hablando de grupos de sonidos que se unen para formar algún tipo de significado. Cada sistema lingüístico tiene un conjunto complejo de reglas y definiciones que gobiernan esos significados. Si tienes una palabra, es inútil a menos que sepas de qué idioma es y la usas con otras personas que hablan ese idioma.

(Comparación de guiones Grantha, Tulu y malayalam, imagen de Wikipedia)

En el mundo de las computadoras, usamos el término "carácter". Un carácter es una especie de concepto abstracto, definido por parámetros específicos, pero es la unidad fundamental de significado. La 'A' latina no es lo mismo que una 'alfa' griega o una 'alif' árabe porque tienen diferentes contextos, son de diferentes idiomas y tienen pronunciaciones ligeramente diferentes, por lo que podemos decir que son caracteres diferentes. La representación visual de un carácter se denomina "glifo" y los diferentes conjuntos de glifos se denominan fuentes. Los grupos de personajes pertenecen a un “conjunto” o a un “repertorio”.

Cuando escribe un párrafo y cambia la fuente, no está cambiando los valores fonéticos de las letras, está cambiando su apariencia. Es solo cosmético (¡pero no sin importancia!). Algunos idiomas, como el antiguo egipcio y el chino, tienen ideogramas; estos representan ideas completas en lugar de sonidos, y sus pronunciaciones pueden variar con el tiempo y la distancia. Si sustituyes un carácter por otro, estás sustituyendo una idea. Es más que cambiar letras, es cambiar un ideograma.

Codificación de caracteres

(Imagen de Wikipedia)

Cuando escribe algo en el teclado o carga un archivo, ¿cómo sabe la computadora qué mostrar? Para eso está la codificación de caracteres. El texto en su computadora no son letras en realidad, es una serie de valores alfanuméricos emparejados. La codificación de caracteres actúa como una clave para saber qué valores corresponden a qué caracteres, al igual que la ortografía dicta qué sonidos corresponden a qué letras. El código Morse es una especie de codificación de caracteres. Explica cómo los grupos de unidades largas y cortas, como los pitidos, representan caracteres. En el código Morse, los caracteres son solo letras, números y puntos completos en inglés. Hay muchas codificaciones de caracteres de computadora que se traducen en letras, números, acentos, signos de puntuación, símbolos internacionales, etc.

A menudo, en este tema, también se usa el término "páginas de códigos". Son esencialmente codificaciones de caracteres utilizadas por empresas específicas, a menudo con ligeras modificaciones. Por ejemplo, la página de códigos de Windows 1252 (anteriormente conocida como ANSI 1252) es una forma modificada de ISO-8859-1. Se utilizan principalmente como un sistema interno para hacer referencia a codificaciones de caracteres estándar y modificadas que son específicas de los mismos sistemas. Al principio, la codificación de caracteres no era tan importante porque las computadoras no se comunicaban entre sí. Con el aumento de la importancia de Internet y la creación de redes como algo común, se ha convertido en una parte cada vez más importante de nuestra vida cotidiana sin que nos demos cuenta.

Muchos tipos diferentes

(Imagen de sarah sosiak)

Hay muchas codificaciones de caracteres diferentes, y hay muchas razones para ello. La codificación de caracteres que elija usar depende de cuáles sean sus necesidades. Si se comunica en ruso, tiene sentido utilizar una codificación de caracteres que admita bien el cirílico. Si te comunicas en coreano, entonces querrás algo que represente bien a Hangul y Hanja. Si eres matemático, entonces quieres algo que tenga bien representados todos los símbolos científicos y matemáticos, así como los glifos griegos y latinos. Si eres un bromista, tal vez te vendría bien un texto al revés. Y, si desea que una persona determinada vea todos esos tipos de documentos, desea una codificación que sea bastante común y de fácil acceso.

Echemos un vistazo a algunos de los más comunes.

(Extracto de la tabla ASCII, imagen de asciitable.com)

• ASCII : el código estándar estadounidense para el intercambio de información es una de las codificaciones de caracteres más antiguas. Originalmente se diseñó en base a códigos telegráficos y evolucionó con el tiempo para incluir más símbolos y algunos caracteres de control no impresos que ahora están obsoletos. Probablemente sea lo más básico posible en términos de sistemas modernos, ya que está limitado al alfabeto latino sin caracteres acentuados. Su codificación de 7 bits permite solo 128 caracteres, por lo que existen varias variantes no oficiales en uso en todo el mundo.
• ISO-8859 : el grupo de codificaciones de caracteres más utilizado de la Organización Internacional para la Estandarización es el número 8859. Cada codificación específica se designa con un número, a menudo precedido por un apodo descriptivo, por ejemplo, ISO-8859-3 (Latin-3), ISO- 8859-6 (latín/árabe). Es un superconjunto de ASCII, lo que significa que los primeros 128 valores de la codificación son los mismos que ASCII. Sin embargo, es de 8 bits y permite 256 caracteres, por lo que se construye a partir de ahí e incluye una variedad mucho más amplia de caracteres, con cada codificación específica enfocada en un conjunto diferente de criterios. Latin-1 incluía un montón de letras y símbolos acentuados, pero luego fue reemplazado por un conjunto revisado llamado Latin-9 que incluye glifos actualizados como el símbolo del euro.

(Extracto de escritura tibetana, Unicode v4, de unicode.org)

• Unicode : este estándar de codificación tiene como objetivo la universalidad. Actualmente incluye 93 guiones organizados en varios bloques, con muchos más en proceso. Unicode funciona de manera diferente a otros conjuntos de caracteres en el sentido de que, en lugar de codificar directamente un glifo, cada valor se dirige a un "punto de código". Estos son valores hexadecimales que corresponden a caracteres, pero los glifos en sí los proporciona el programa de forma separada, como su navegador web. Estos puntos de código se representan comúnmente de la siguiente manera: U+0040 (que se traduce como '@'). Las codificaciones específicas bajo el estándar Unicode son UTF-8 y UTF-16. UTF-8 intenta permitir la máxima compatibilidad con ASCII. Es de 8 bits, pero permite todos los caracteres a través de un mecanismo de sustitución y varios pares de valores por carácter. UTF-16 abandona la compatibilidad ASCII perfecta para una compatibilidad más completa de 16 bits con el estándar.
• ISO-10646 : esta no es una codificación real, solo un conjunto de caracteres de Unicode que ha sido estandarizado por la ISO. Es sobre todo importante porque es el repertorio de caracteres utilizado por HTML. Faltan algunas de las funciones más avanzadas proporcionadas por Unicode que permiten la intercalación y secuencias de comandos de derecha a izquierda junto con de izquierda a derecha. Aún así, funciona muy bien para su uso en Internet, ya que permite el uso de una amplia variedad de scripts y permite que el navegador interprete los glifos. Esto hace que la localización sea algo más fácil.

¿Qué codificación debo usar?

Bueno, ASCII funciona para la mayoría de los angloparlantes, pero no para mucho más. Más a menudo verá ISO-8859-1, que funciona para la mayoría de los idiomas de Europa occidental. Las otras versiones de ISO-8859 funcionan para cirílico, árabe, griego u otras escrituras específicas. Sin embargo, si desea mostrar varios scripts en el mismo documento o en la misma página web, UTF-8 permite una compatibilidad mucho mejor. También funciona muy bien para las personas que usan la puntuación adecuada, los símbolos matemáticos o los caracteres improvisados, como cuadrados y casillas de verificación.

(Múltiples idiomas en un documento, captura de pantalla de gujaratsamachar.com)

Sin embargo, hay inconvenientes en cada conjunto. ASCII está limitado en sus signos de puntuación, por lo que no funciona increíblemente bien para ediciones tipográficamente correctas. ¿Alguna vez escribiste copiar/pegar de Word solo para tener una extraña combinación de glifos? Ese es el inconveniente de ISO-8859, o más correctamente, su supuesta interoperabilidad con las páginas de códigos específicas del sistema operativo (¡te estamos mirando a TI, Microsoft!). El principal inconveniente de UTF-8 es la falta de soporte adecuado en las aplicaciones de edición y publicación. Otro problema es que los navegadores a menudo no interpretan y solo muestran la marca de orden de bytes de un carácter codificado en UTF-8. Esto da como resultado que se muestren glifos no deseados. Y, por supuesto, declarar una codificación y usar caracteres de otra sin declararlos o hacer referencia a ellos correctamente en una página web dificulta que los navegadores los representen correctamente y que los motores de búsqueda los indexen adecuadamente.

Para sus propios documentos, manuscritos, etc., puede usar lo que necesite para hacer el trabajo. Sin embargo, en lo que respecta a la web, parece que la mayoría de las personas están de acuerdo en usar una versión UTF-8 que no usa una marca de orden de bytes, pero eso no es del todo unánime. Como puede ver, cada codificación de caracteres tiene su propio uso, contexto y fortalezas y debilidades. Como usuario final, probablemente no tenga que lidiar con esto, pero ahora puede dar un paso más si así lo desea.