Essas mudanças simples podem tornar a pesquisa de IA muito mais eficiente em termos de energia

Desde o primeiro papel estudando o impacto dessa tecnologia no meio ambiente foi publicado há três anos, cresceu um movimento entre os pesquisadores para autorrelatar a energia consumida e as emissões geradas pelo seu trabalho. Ter números precisos é um passo importante para fazer mudanças, mas realmente reunir esses números pode ser um desafio.

“Você não pode melhorar o que não pode medir”, diz Jesse Dodge, cientista pesquisador da Instituto Allen para IA Em seattle. “O primeiro passo para nós, se quisermos progredir na redução de emissões, é ter uma boa medição.”

Para esse fim, o Allen Institute colaborou recentemente com a Microsoft, a empresa de IA Hugging Face e três universidades para criar uma ferramenta que mede o uso de eletricidade de qualquer programa de aprendizado de máquina executado no Azure, o serviço de nuvem da Microsoft. Com ele, os usuários do Azure que criam novos modelos podem visualizar a eletricidade overall consumida pelas unidades de processamento gráfico (GPUs) – chips de computador especializados para executar cálculos em paralelo – durante todas as fases de seu projeto, desde a seleção de um modelo até o treinamento e a colocação em uso. . É o primeiro grande provedor de nuvem a dar aos usuários acesso a informações sobre o impacto energético de seus programas de aprendizado de máquina.

Embora já existam ferramentas que medem o uso de energia e as emissões de algoritmos de aprendizado de máquina executados em servidores locais, essas ferramentas não funcionam quando os pesquisadores usam serviços em nuvem fornecidos por empresas como Microsoft, Amazon e Google. Esses serviços não dão aos usuários visibilidade direta dos recursos de GPU, CPU e memória que suas atividades consomem — e as ferramentas existentes, como Carbontracker, Experiment Tracker, EnergyVis e CodeCarbon, precisam desses valores para fornecer estimativas precisas.

A nova ferramenta do Azure, que estreou em outubro, atualmente relata o uso de energia, não as emissões. Então, Dodge e outros pesquisadores descobriram como mapear o uso de energia para as emissões e apresentaram um papel companheiro naquele trabalho em FAccT, uma importante conferência de ciência da computação, no ultimate de junho. Os pesquisadores usaram um serviço chamado Watttime para estimar as emissões com base nos códigos postais de servidores em nuvem que executam 11 modelos de aprendizado de máquina.

Eles descobriram que as emissões podem ser significativamente reduzidas se os pesquisadores usarem servidores em locais geográficos específicos e em determinados horários do dia. As emissões do treinamento de pequenos modelos de aprendizado de máquina podem ser reduzidas em até 80% se o treinamento começar em momentos em que há mais eletricidade renovável disponível na rede, enquanto as emissões de modelos grandes podem ser reduzidas em mais de 20% se o trabalho de treinamento for interrompido quando renovável a eletricidade é escassa e reiniciada quando é mais abundante.