¿Sabía que el entrenamiento de un solo modelo de IA puede emitir tanto carbono como cinco coches durante su vida útil? 5 consejos para reducir el impacto medioambiental
Investigadores de la Universidad de Massachusetts, Amherst, realizaron una evaluación del ciclo de vida para entrenar varios modelos habituales de IA de gran tamaño. Descubrieron que el proceso puede emitir más de 626.000 libras de dióxido de carbono, lo que equivale aproximadamente a cinco veces las emisiones durante la vida útil de un coche americano medio (incluye la fabricación del propio coche).
Los estudios han constatado que: La huella de carbono del entrenamiento en IA es significativa y se debe a la energía necesaria para alimentar los ordenadores que se utilizan para entrenar los modelos. Las emisiones de carbono asociadas al entrenamiento de la IA pueden reducirse utilizando energías renovables para alimentar los centros de datos.
Los algoritmos eficientes reducen las emisiones de carbono al disminuir la energía necesaria para entrenar los modelos de IA, como por ejemplo, los algoritmos aproximados que proporcionan buenas soluciones a los problemas sin garantizar la mejor solución posible, o los algoritmos basados en datos que se entrenan a partir de los datos. La tabla siguiente muestra los resultados de utilizar dos algoritmos de optimización: Inicio flexibleque permite flexibilidad para cargas de trabajo de IA de trabajos más cortos, y Pausa y reanudación que pausa y reanuda según un Umbral, para trabajos más largos.
Pausar una carga de trabajo de IA cuando las emisiones regionales son elevadas puede reducir los totales globales. El ahorro puede ser significativo, de hasta un 25% para las ejecuciones muy largas. El ahorro es menor para las ejecuciones cortas, porque la duración duplicada sigue siendo relativamente corta. La tabla también muestra que el número de pausas por hora aumenta con el tamaño del modelo. Esto se debe a que los modelos más grandes requieren más potencia de cálculo y, por tanto, tardan más en entrenarse.
Cinco consejos y tecnologías innovadoras para ayudar a reducir las emisiones de carbono de la formación en IA
- Utilice hardware de bajo consumo, que puede incluir GPU.
- Las GPU son más eficientes energéticamente que las CPU en una comparación de trabajo por vatio para determinadas cargas de trabajo. Las GPU pueden utilizarse para entrenar modelos de IA más rápidamente y, por tanto, consumen menos energía que un entorno de CPU pura.
- La refrigeración líquida puede utilizarse para enfriar el hardware informático de forma más eficiente, reduciendo así el consumo de energía y las emisiones en los centros de datos. Y puede reducir el ruido hasta en un 50% y crear un entorno de trabajo más cómodo. Es más fácil de mantener que la refrigeración por aire y los refrigeradores por líquido son menos propensos a sufrir daños.
- Optimice los centros de datos para lograr una mayor eficiencia energética. Existen varias formas de reducir la energía necesaria para los centros de datos, como el uso de la refrigeración por aire libre, que reduce el PUE. Sistemas de refrigeración más eficientes: Los centros de datos tradicionales refrigerados por aire utilizan una cantidad significativa de energía para enfriar los servidores.
- Fuentes de alimentación más eficientes: Las fuentes de alimentación convencionales pueden ser ineficientes, desperdiciando hasta un 20% de la energía que utilizan. Asegúrese de utilizar fuentes de alimentación Titanium o Platinum.
- Servidores más eficientes: Utilizar servidores multinodo que puedan compartir recursos, lo que reduce el uso total de energía por servidor.
- Utilice energías renovables para alimentar el entrenamiento en IA. Los centros de datos que se centran en el entrenamiento de la IA pueden alimentarse con fuentes de energía renovables: energía solar o eólica.
- Mejorar la eficiencia del entrenamiento de la IA. Tecnologías innovadoras como la computación cuántica, las redes neuronales con picos, el aprendizaje federado, el aprendizaje por transferencia y la búsqueda de arquitecturas neuronales pueden mejorar la eficiencia del entrenamiento de la IA y reducir el uso de energía.
- Utilice modelos preentrenados. Los modelos preentrenados ya han sido entrenados en un gran conjunto de datos y no tienen que desarrollarse desde cero, lo que consume energía.
Siga estos consejos para que la IA sea más sostenible.
Fuentes:
Midiendo la huella de carbono de la IA - IEEE Spectrum
Archivos sobre informática energéticamente eficiente - Cambridge Open Zettascale Lab
Medición de la intensidad de carbono de la IA en instancias en la nube (facctconference.org)