Reduzindo a IA ao seu tamanho
À medida que os LLMs são alimentados com mais e mais dados de treinamento e parâmetros para ajustar e expandir sua capacidade de responder a consultas, os modelos também aumentaram drasticamente em custo. Os chips de hardware de IA mais recentes podem custar cerca de US$ 40.000 cada, e o ChatGPT sozinho usa dezenas de milhares desses chips. Os modelos de IA generativa também estão famintos por energia, o que significa mais uso de água e emissões de gases de efeito estufa. Algumas estimativas têm o ChatGPT sugando quase 600 megawatts-hora de energia todos os dias — mais de 50 vezes o que uma casa média dos EUA consome em um ano . (E levou consideravelmente mais energia do que isso para treinar o ChatGPT inicialmente.)
via Science
#IA
Disponível em: https://www.science.org/content/article/what-s-tinyml-global-south-s-alternative-power-hungry-pricey-ai
Deixe uma resposta