El desarrollo y funcionamiento de los sistemas de inteligencia artificial supone el consumo de una gran cantidad de recursos y, por tanto, un cierto impacto a nivel ambiental. Como en tantas otras industrias importa si el beneficio compensa un poco el daño y si es posible aliviarlo. La desarrolladora francesa Mistral AI ha dado un paso en la dirección correcta al publicar un reporte sobre el impacto del Mistral Large 2 LLM. Para esto ha contado con la colaboración de la consultora Carbone 4 y la agencia de transición ecológica de Francia.
Consumo de agua y emisiones
Durante los 18 meses de enfrenamiento y funcionamiento del modelo se produjeron 20 mil toneladas de dióxido de carbono y se consumieron 281 mil metros cúbicos de agua. En base a lo señalado Mistral ha calculado que una página de texto, una respuesta de 400 tokens, consume tanta agua como la que se necesita para cultivar un rábano. También supone la misma cantidad de emisiones producidas por el consumo de 55 segundos de streaming en Francia o 10 en EEUU.
Mistral también consideró el material consumido en la construcción de los centros de datos. Notoriamente un 29% se produjo durante la primeras etapas de entrenamiento e inferencia de la IA. Esto ocurre por un elevado nivel en los fallos de hardware.
Algunos detalles extras del informe
Mistral apunta que el impacto ambiental está muy influenciado por la ubicación geográfica. Lugares con climas más fríos con fuentes de energías renovables ofrecen mejores resultados.
Por otro lado los usuarios pueden aportar con prácticas más inteligentes y responsables. Por ejemplo, utilizando el modelo adecuado para cada trabajo. Modelos específicos y de menor tamaño pueden ofrecer mejores respuestas y con menos consumo. La compañía también sugiere que agrupar varias consultas permite ahorrar energía de procesos de preparación.
