Als we de onderwerpen van deze eeuw zouden samenvatten die tot verhitte discussies en veel krantenkoppen leiden, zouden AI en duurzaamheid hoog op de agenda staan. Hoe vaak praten we echter echt over hun relatie tot elkaar? Naar mijn mening niet vaak genoeg.
In deze blogpost wil ik wat licht werpen op hoe deze twee onderwerpen met elkaar verbonden zijn en hoe hun relatie zowel een donkere als een lichte kant heeft, zoals bijna alles in het leven. Onverwacht heeft AI, net als de meeste technische vooruitgangen, een enorme impact op ons klimaat. Maar AI biedt ook oplossingen die ons helpen onze impact op onze planeet te minimaliseren.
AI is hongerig
AI-modellen zijn de afgelopen jaren enorm gegroeid, en daarmee ook hun honger naar middelen. Om de ecologische voetafdruk van een AI-model te begrijpen, moeten we kijken naar twee belangrijke factoren: hoe een model wordt opgebouwd en hoe het wordt gebruikt.
Als we kijken naar hoe AI-modellen worden gecreëerd, kijken we naar hun training. Dit is de fase waarin het model een overvloed aan gegevens krijgt om van te leren. Voor Large Language Models (LLM’s), het type modellen dat wordt gebruikt voor generatieve AI zoals in ChatGPT, betekent dat terabytes aan data. Het is geen verrassing dat het verwerken van zo’n hoeveelheid data veel geld kost.
Laten we eens naar een paar cijfers kijken over het energieverbruik. Huggingface, een platform voor open-source AI-modellen, trainde hun eigen LLM genaamd BLOOM en publiceerde een gedetailleerd rapport over de energie die tijdens de training werd gebruikt. BLOOM is een van de grotere LLM’s, hoewel het aanzienlijk kleiner is dan gigantische modellen zoals Google’s Gemini-model en OpenAI’s GPT-4.
De training van BLOOM vereiste 433.196 kWh. Om dit ongetwijfeld grote getal in perspectief te plaatsen: het komt overeen met het jaarlijkse energieverbruik van 70 mensen in Nederland*. Maar hier stopt het niet. Bij het ontwikkelen van een LLM is de trainingsfase slechts één onderdeel van een heel proces. Omdat de training zo duur is, wordt deze meestal voorafgegaan door een reeks kleinschaligere experimenten en gedeeltelijke trainingssessies, evenals veel eerste onderzoekswerk. Dit betekent dat onderzoekers een reeks tussentijdse, kleinere modellen zouden trainen voordat ze beginnen met de training van het volwaardige model. In het geval van het BLOOM-model was de totale energieconsumptie voor alle stappen voorafgaand aan de eigenlijke training meer dan het dubbele van de energie die nodig was voor de uiteindelijke modeltraining. Dit brengt het totale energieverbruik voor de ontwikkeling van het model op 1.163.088 kWh (ongeveer gelijk aan het jaarlijkse energieverbruik van 180 Nederlanders). Hoewel de uiteindelijke training op zichzelf de meest energie-intensieve stap is, is deze slechts verantwoordelijk voor 30% van het totale energieverbruik tijdens de ontwikkeling van het model.
Wat veel mensen lange tijd hebben onderschat, is echter de hoeveelheid energie die het kost om deze modellen voor ‘inference’ te laten draaien. Inference, in eenvoudige termen, is het gebruik van het model in een toepassing. Met andere woorden, wanneer je je prompt schrijft om een LLM te bevragen, maak je een ‘inference call’ naar het model. Het trainen van een model is iets energie-intensiever. Dat komt, eenvoudig gezegd, omdat het model in deze fase nog moet ‘leren’, wat behoorlijk veel middelen kost. Wanneer een model volledig is getraind, kost het genereren van een antwoord op een prompt iets minder middelen dan tijdens de trainingsprocedure.
AI-modellen zijn steeds meer geïntegreerd in ons leven, en voor velen gaat er geen dag voorbij zonder een AI-tool te gebruiken in een of andere vorm. Ze zijn op onze computers, telefoons, tablets, ze hebben controle over ons huis, onze muziekselectie, welke video’s we bekijken en hoe we van A naar B gaan. Maar met het toegenomen gebruik neemt ook het energieverbruik toe.
Als we weer LLM’s als voorbeeld nemen: ChatGPT is een van de snelst groeiende diensten ooit. Het is dus geen verrassing dat de energie die nodig is om de modellen te laten draaien snel de energie overschrijdt die tijdens de training werd gebruikt. Onderzoeksbureau SemiAnalysis meldt dat het energieverbruik van ChatGPT rond de 564.000 kWh per dag ligt**. ChatGPT gebruikt de hoeveelheid energie per dag die 92 Nederlanders per jaar gebruiken.
Dit alles schetst een zeer donker beeld van AI en wat AI met ons milieu doet. Maar er is ook een lichte kant. Een kant waarbij AI actief wordt gebruikt om onze wereld groener te maken.
* Het energieverbruik per hoofd van de bevolking in 2022 voor de gemiddelde Nederlander was 6129 kWh https://www.enerdata.net/estore/energy-market/netherlands/
** Bron: https://www.semianalysis.com/p/the-inference-cost-of-search-disruption
De groene kant van AI
Hoewel AI momenteel voornamelijk wordt geassocieerd met chatbots die teksten of afbeeldingen genereren, kan AI veel meer doen en kan het op bijna elk gebied worden toegepast, ook op duurzaamheid. De grootste kracht van AI is dat het data kan begrijpen die het voor mensen een eeuwigheid zou kosten om te verwerken, en cognitieve taken kan uitvoeren voor veel lagere kosten dan elke menselijke arbeidskracht zou kunnen. Wat dat betekent voor onze arbeidsmarkt is een andere discussie. Maar als AI op de juiste manier wordt toegepast, kan het worden gebruikt om taken op te lossen waarvoor normaal gesproken geen middelen beschikbaar zouden zijn. Iets dat vooral nuttig is als het gaat om gebieden zoals sociale doelen en duurzaamheid.
Bijvoorbeeld, computer vision kan worden gebruikt om verschillende materialen in ons afval te identificeren tijdens het recyclingproces, wat ons in staat stelt om veel efficiënter te recyclen.
Optimalisatietechnieken kunnen helpen om de meest emissievriendelijke route voor bezorgdiensten en andere leveranciers te bepalen; hele toeleveringsketens kunnen via AI worden geoptimaliseerd, wat resulteert in lagere kosten voor bedrijven en lagere emissies voor ons milieu.
Bijna komisch, gezien hoeveel energie AI-systemen gebruiken, is een groot aspect waarin AI invloed kan hebben op ons milieu het beheer van elektrische netwerken. AI kan het energieverbruik voorspellen, wat helpt om verspilling van energie te verminderen en zo een duurzamer netwerk te creëren.
Over voorspellingen gesproken: niet alleen kan AI klimaatverandering bestrijden door duurzame oplossingen te bieden, het kan ons ook helpen om te leven met de gevolgen van klimaatverandering waar we nu mee te maken hebben. Grote onderwerpen op dit gebied zijn het voorspellen van toekomstige weersontwikkelingen, het voorspellen van klimaat- en oceaanverschijnselen, of ons helpen om het weer te voorspellen en te begrijpen. Met AI hebben we de mogelijkheid om veel scenario’s te simuleren en een groot aantal tegenmaatregelen te testen om te zien hoe we de desastreuze natuurrampen kunnen tegengaan die al steeds frequenter zijn geworden.
Maar is het nu goed of slecht?
Er zijn veel voorbeelden en geweldige projecten die laten zien hoe AI op een verantwoorde, ethische manier kan worden gebruikt om ons te helpen leven met de schade die we al hebben toegebracht aan onze planeet en hopelijk verder te verminderen. Maar de enorme last die grote AI-programma’s voor ons klimaat vormen, kan hierdoor niet worden gerechtvaardigd. Er kan nog veel worden gedaan en moet nog veel worden gedaan om onze menselijke voetafdruk op onze planeet te verminderen. AI heeft hier zeker een grote impact op, maar of het uiteindelijk voor beter of slechter zal zijn, moet nog blijken. Alles wat we kunnen doen is proberen de balans iets naar de lichte, groene kant te verschuiven.
Algemene bronnen en verdere lectuur:
de Vries, A. (2023). The growing energy footprint of artificial intelligence. Joule, 7(10), 2191-2194.
Cowls, J., Tsamados, A., Taddeo, M., & Floridi, L. (2023). The AI gambit: leveraging artificial intelligence to combat climate change—opportunities, challenges, and recommendations. Ai & Society, 1-25