Qué son los TOPS

Al calor del desarrollo de la Inteligencia Artificial se ha generalizado el uso de una unidad de medida concreta para medir la velocidad de procesamiento: TOPS (Tera Operations Per Second), si bien es cierto que se utiliza también en otros ámbitos tecnológicos. En este post vamos a explicar qué son los TOPS y cuál es su función.

Pero, ¿de qué estamos hablando con estas unidades de medida? Un TOP se traduce en nada menos que un billón (con»b») de operaciones por segundo, la cantidad de operaciones por segundo que puede manejar una NPU. De esta manera, un procesador de 40 TOPS sería capaz de procesar 40 billones de operaciones por segundo. Verdaderamente impresionante.

Cuando hablamos de «operación» nos referimos a la cantidad de cálculos que generan las redes neuronales  al multiplicar grandes cantidades de datos de distinta naturaleza. Cuanto más elevada sea la cifra de TOPS, es decir, cuanto mayor sea su potencia de cálculo, mayor será también su velocidad de procesamiento.

Las cifras absolutas, expresadas en billones o incluso trillones, son demasiado grades para que el cerebro humano pueda manejarlas. Como cuando hablamos de galaxias y distancias en el Universo. Por eso hay que usar TOPS. Una nueva métrica para nuevas necesidades.

Bajando a la Tierra, allá van algunos ejemplos para entender la importancia de este valor: Los procesadores Qualcomm Snapdragon X de los nuevos PC Copilot Plus vienen ya equipados con 45 TOPS, mientras que los nuevos chips AMD AI 300 prometen una capacidad de 50 TOPS para portátiles. Todo indica que, para ser considerados parte de la era de próxima generación de ordenadores con IA, el requisito mínimo de cualquier unidad de procesamiento neuronal (NPU) se sitúa en los 40 TOPS.

Contenido exclusivo - Clic Aquí  ¿QANDA permite interactuar con usuarios?

Ordenadores e Inteligencia Artificial

Así es: el TOPS es la unidad de medida que debemos hacer servir cuando se trata de ordenadores dotados de sistemas de AI. Es decir, la nueva generación de computadoras que ya está llegando al mercado. Un eficaz recurso mediante el cual se especifica el rendimiento de la NPU de un PC.

IA

Hay que ir acostumbrándose ya a este término: NPU, el procesador encargado de las funciones de inteligencia artificial que cada vez más ordenadores incorporan.

También es importante saber que, al leer las especificaciones de un ordenador, la cifra que veamos expresada en TOPS no refleja con total exactitud cómo está funcionando la IA. Hay otros factores que también influyen en su desempeño final. Por ejemplo, las optimizaciones en un modelo de IA para un componente de hardware en particular sin duda afectarán a los resultados, lo cual significa agregar otra variable.

Sin embargo, sí podemos usarla como referencia acerca de la velocidad real de la NPU y otras cuestiones relacionadas:

  • En primer lugar, es un excelente indicador de la velocidad de ejecución de las aplicaciones de IA en un ordenador: cuantos más TOPS, menor tiempo de respuesta.
  • También es una buena referencia del nivel de desarrollo de nuevos algoritmos y redes neuronales de un equipo: cuantos más TOPS, mayor potencia de computación.
  • Por otra parte (aunque esto ya supera los cometidos habituales de los ordenadores domésticos), los TOPS son una buena forma de medir el avance de los procesos de entrenamiento de una Inteligencia Artificial.
Contenido exclusivo - Clic Aquí  Inteligencia Artificial para Crear Imágenes

Un medidor útil, pero no oficial

Sin embargo, aunque importantes, el TOPS no ha sido todavía aceptado como unidad de medida estándar y universal para la Inteligencia Artificial. La industria tecnológica no ha llegado a un acuerdo respecto a la manera correcta de medir los TOPS y es muy probable que nunca lo llegue a hacer. En estos momentos, cada fabricante lo calcula a su manera, lo cual le resta bastante fiabilidad.

que son los tops

A esto hay que añadir que todavía hay muchos detalles sin aclarar sobre cómo es el rendimiento real de la IA, sobre todo cuando entran en juego diferentes factores que pueden influir de un modo u otro en los resultados.

Los usuarios más avezados ya están al corriente de este tipo de problemas: mientras que las CPU indican una velocidad en gigahercios (GHz), los gamers prefieren fijarse más en otro medidor: el TFLOPS (Floating point operations per second), la unidad de medida que se emplea en la lista de especificaciones de la mayoría de las tarjetas de video y consolas de juegos. Y eso si es que estamos hablando solo de rendimiento, sin entrar en otros aspectos como el de la memoria.

Contenido exclusivo - Clic Aquí  ¿Qué es el aprendizaje por refuerzo?

En resumen, dado que es la NPU y la GPU local las que se encargan de tareas de IA especializadas, no se puede utilizar una unidad de medida como el TOPS para definir de manera completa el rendimiento de la Inteligencia Artificial de un PC.

Así que de momento tendremos que hablar de un indicador valioso y bastante práctico, pero no definitivo. Eso sí, nos van a servir como referencia a la hora de comparar las NPU de los nuevos ordenadores con AI que ya están saliendo al mercado.

Deja un comentario