‘Elke drie maanden verdubbelt het energieverbruik van AI’

1920_gerardschouten-2

Artificiële Intelligentie: je ziet het steeds meer om je heen. Maar ondanks alle succesverhalen zit er een schaduwzijde aan, vertelt Gerard Schouten. Hij is lector AI en big data bij Fontys ICT en verbonden aan het Kenniscentrum Applied AI for Society. ‘Die AI-modellen kosten erg veel energie. Daarom verdiepen wij ons onder meer in Green AI: hoe maak je AI duurzamer?’

Duurzaamheid van AI is een nog onderbelicht punt, stelt Gerard. ‘Er gaat veel aandacht uit naar de mensgerichte blik op AI, zoals de ethische kwesties. Maar hoe je de CO₂ -footprint van AI verkleint, dat is nog een vrij nieuw vakgebied. Met de trend dat AI-modellen steeds groter en complexer worden, is het belangrijk om daar meer aandacht voor te vragen.’

Gerard geeft een voorbeeld van een van de eerdere versies van ChatGPT. ‘Eerst moest het AI-model getraind worden met data. Dat vergde tijd en rekenkracht van computers. De hoeveelheid energie die daarvoor nodig was, stond gelijk aan 500 ton CO₂. Dat is evenveel als het energieverbruik van duizend auto’s die elk duizend kilometer afleggen.’ En ook het gebruik van ChatGPT kost veel stroom. ‘Eén enkele vraag-antwoord-dialoog kun je vergelijken met de hoeveelheid energie die nodig is om jouw telefoon op te laden. Veel meer dan wanneer je zoekmachine Google gebruikt. En elke dag zijn er miljoenen van dit soort miniconversaties met de chatbot ChatGPT.’

Energiezuinige AI-modellen
Volgens Gerard verdubbelt elke drie maanden het energieverbruik dat door AI wordt geconsumeerd. Om AI-modellen energiezuiniger te maken, heeft Gerard samen met collega Qin Zhao vijf tips geformuleerd. Denk bijvoorbeeld aan het gebruik van tools die meten hoeveel energie een AI-model verbruikt. ‘Wij zeggen tegen studenten: monitor en rapporteer het energieverbruik. Met groene of lokale energie heb je bijvoorbeeld een lagere CO₂-footprint. Bouw dus niet alleen een AI-model dat resultaatgericht is, maar vermeld ook hoeveel energie het kost.’

Verder raadt Gerard aan om sneller te kiezen voor een eenvoudiger AI-basismodel. ‘Softwareontwikkelaars hebben de neiging om de grootste en meest energieslurpende basismodellen te pakken die al beschikbaar zijn in open-source tools. Maar vaak kun je met een simpeler AI-model al het gewenste resultaat bereiken.’ En probeer ook het opnieuw trainen van je AI-model te beperken. ‘Ga dat niet direct doen wanneer je nieuwe data hebt, maar kijk goed naar wanneer het écht van belang is.’ Ook valt er veel te halen bij het optimaliseren van de datakwaliteit en de trainingsschema’s voor het AI-model.

Energietransitie
Ondanks dat AI-modellen dus steeds meer energie verbruiken, zitten er ook positieve kanten aan het gebruik van AI. Want het kan juist ingezet worden om het energieverbruik te verminderen. ‘Tegenwoordig heb je bij het energienet niet alleen producenten en consumenten, maar ook prosumers. Mensen die allebei zijn, bijvoorbeeld wanneer je zonnepanelen op je dak hebt liggen. Maar wat doe je als de zon niet schijnt en je wel een opgeladen elektrische auto wilt? AI- en dataoplossingen zoals apps kunnen helpen om in zo’n dynamisch prosumer-scenario de energietransitie slimmer vorm te geven. Bijvoorbeeld door met het energienetwerk af te stemmen wanneer je overtollig opgewekte energie op wilt slaan. Zodat je die energie op een later moment kunt gebruiken voor het opladen van je auto of voor andere apparaten.’

Op dit moment levert AI nog meer duurzaamheid op dan dat het energie kost. ‘Fijn’, zegt Gerard, ‘maar hoe kunnen we dat verbruik verminderen? Dat begint met bewustwording. Het liefste willen we de basisprincipes om het energieverbruik van AI te verlagen bij alle hbo’s en wo’s invoeren. Zo kan de nieuwe generatie professionals betrouwbare én groene AI-modellen maken.’

Meer weten of samenwerken?
Het Kenniscentrum Applied AI for Society verenigt de brede expertise van Fontys op het vlak van toegepaste AI. Heb je in je werk of binnen jouw bedrijf te maken met de ontwikkelingen rondom AI en wil je de krachten bundelen, of zoek je een kennispartner om mee samen te werken aan AI-vraagstukken? Neem dan gerust contact met ons op. 

auteur: TextVast

-------------------------------------------------------------

'Every three months, AI's energy consumption doubles'

Artificial Intelligence: you see it around you more and more. But despite all the success stories, there is a dark side to it, says Gerard Schouten. He is a lecturer in AI and big data at Fontys ICT and affiliated with the Knowledge Center Applied AI for Society. 'Those AI models cost a lot of energy. That is why, among other things, we are studying Green AI: how to make AI more sustainable?’

Sustainability of AI is a still under-explored issue, Gerard argues. 'A lot of attention is paid to the human-centered view of AI, such as the ethical issues. But how to reduce the carbon footprint of AI is still a fairly new field. With the trend of AI models getting bigger and more complex, it's important to draw more attention to that.

Gerard gives an example from one of the earlier versions of ChatGPT. 'First, the AI model had to be trained with data. That required time and computing power from computers. The amount of energy required for that was equivalent to 500 tons of CO2. That's as much as the energy consumption of a thousand cars traveling a thousand kilometers each.' And using ChatGPT also consumes a lot of power. 'A single question-answer dialogue can be compared to the amount of energy needed to charge your phone. Much more than when you use search engine Google. And every day there are millions of these kinds of mini-conversations with the chatbot ChatGPT.

Energy-efficient AI models
According to Gerard, every three months the energy consumption consumed by AI doubles. To make AI models more energy efficient, Gerard and colleague Qin Zhao have formulated five tips. Consider, for example, using tools that measure how much energy an AI model consumes. 'We tell students: monitor and report energy consumption. With green or local energy, for example, you have a lower carbon footprint. So don't just build an AI model that is result-oriented, but also state how much energy it costs.'

Furthermore, Gerard recommends choosing a simpler AI base model sooner. Software developers tend to grab the biggest and most energy-guzzling base models already available in open-source tools. But often you can already achieve the desired results with a simpler AI model.' And also try to limit re-training your AI model. 'Don't start doing that immediately when you have new data, but look carefully at when it really matters.' There is also much to be gained from optimizing data quality and training schedules for the AI model.

Energy transition
So despite the fact that AI models are consuming more and more energy, there are also positive sides to the use of AI. For it can actually be used to reduce energy consumption. 'Nowadays at the energy grid you have not only producers and consumers, but also prosumers. People who are both, for example, when you have solar panels on your roof. But what do you do when the sun isn't shining and you do want a charged electric car? AI and data solutions such as apps can help shape the energy transition smarter in such a dynamic prosumer scenario. For example, by coordinating with the energy network when you want to store excess generated energy. So that you can use that energy at a later time for charging your car or for other devices.'

Right now, AI provides even more sustainability than it costs energy. 'Fine,' says Gerard, ‘but how can we reduce that consumption? That starts with awareness. Ideally, we want to introduce the basic principles to reduce the energy consumption of AI at all colleges and universities. That way the new generation of professionals can make reliable and green AI models.’

Want to know more or collaborate?
The Applied AI for Society Knowledge Center unites the broad expertise of Fontys in the field of applied AI. Are you dealing with developments around AI in your work or within your company and would you like to join forces, or are you looking for a knowledge partner to collaborate with on AI issues? Then feel free to contact us.