Energieverbruik van AI-chatbots

Bij Vesqia geloven we dat innovatie hand in hand moet gaan met duurzaamheid. Daarom zetten we in op een zorgvuldige aanpak. We investeren eerst in een efficiënte ‘motor’, zodat onze AI-chatbots later soepel en met minder energie kunnen draaien. Hierdoor geven onze chatbots slimme antwoorden die zo min mogelijk onnodig energie verbruiken. In dit blog vertellen we je daar meer over.

Het verschil tussen training en gebruik

Veel mensen denken niet aan het verschil tussen trainen en gebruiken. Het trainen van grote modellen kost veel energie. Denk aan de berekeningen die nodig zijn om een model zoals ChatGPT te trainen. Onderzoek wijst erop dat één trainingssessie al kan resulteren in een CO₂-uitstoot die vergelijkbaar is met de uitstoot van duizend auto’s die duizend kilometer rijden.

Bij Vesqia nemen we dit spanningsveld serieus. We pakken de trainingsfase bewust aan, zodat het uiteindelijke gebruik van onze chatbots minder data (en dus energie) kost. Simpel gezegd: we bouwen onze ‘motor’ zo efficiënt mogelijk, zodat onze chatbots in de dagelijkse praktijk zuiniger draaien. We zorgen dat onze chatbots meestal in één keer het juiste antwoord geven, in plaats van dat er meerdere vragen nodig zijn. Ook tijdens de training beperken we onnodig energiegebruik: we trainen alleen wat écht nodig is en benutten kennis uit eerdere sessies.

Energieverbruik in de praktijk

De cijfers over AI-verbruik geven stof tot nadenken. Het energieverbruik van AI-modellen schommelt van tientallen tot honderden terawattuur (TWh) per jaar. Zo schatten sommige onderzoekers dat de AI-sector tegen 2027 tussen de 85 en 134 TWh per jaar zal verbruiken. Dat is vergelijkbaar met een land als Nederland: in 2022 consumeerde Nederland zo’n 108 TWh. Daarnaast weten we dat AI meer stroom gebruikt dan een normale zoekmachine als Google; zo’n 50 tot 90 keer meer.

Recent is te zien dat in Google ook Gemini actief wordt bij een ‘normale’ zoekopdracht, wat betekent dat het energieverbruik van zo’n interactie weer dichter bij dat van een volwaardige AI-interactie ligt.

Naast de intensieve rekenkracht speelt ook de koeling van datacenters een grote rol. Het gebruikte water en de constante stroomtoevoer voegen extra uitdagingen toe aan de energiebalans van de digitale infrastructuur.

Technologie in ontwikkeling: lessen uit het verleden

AI-chatbots zijn in een beginfase van hun potentie. Net zoals eerder vraagtekens werden gezet bij de ecologische voetafdruk van elektrische auto’s en windmolens, wordt diezelfde vraag nu gesteld over AI. In de vroege fase is het vaak niét rendabel qua ecologische voetafdruk, maar dat hoort bij technologische ontwikkeling. Met optimalisatie en schaalvergroting wordt de technologie steeds duurzamer en uiteindelijk netto positief.

Hoeveel energie verbruikt AI?

Onderzoek van onder meer het International Energy Agency (IEA) laat zien dat een moderne windturbine de energie die nodig was voor productie en installatie binnen 6 tot 12 maanden terugverdient. De levensduur is vaak 20 jaar of langer. Voor elektrische auto’s geldt iets vergelijkbaars: hoewel de productie van vooral de batterij meer energie vergt dan bij een benzineauto, is dat verschil binnen 30.000 tot 60.000 kilometer in de meeste gevallen terugverdiend.

Het trainen van een groot taalmodel, zoals GPT-4, vereist tienduizenden grafische processoren (GPU’s). Zelfs tijdens dagelijks gebruik blijft het stroomverbruik aanzienlijk.

Toch moeten we deze cijfers in perspectief plaatsen. De AI-industrie bevindt zich nog in een vroege fase. Pas met verdere ontwikkeling ontstaan schaalvoordelen, verbeterde hardware (zoals energiezuinigere AI-chips) en efficiëntere modellen. Google DeepMind en Meta hebben bijvoorbeeld al systemen ontwikkeld die veel kleinere AI-modellen gebruiken, met een fractie van de rekenkracht, maar vergelijkbare prestaties. De kosten en het energiegebruik per token daalden de afgelopen twee jaar met factoren tussen 150× en 280×. Hardware in datacenters wordt jaarlijks ~40% efficiënter (Stanford University).

De maatschappelijke waarde van AI ondanks energiegebruik

We moeten AI niet enkel beoordelen op het energieverbruik, maar ook op de maatschappelijke impact en mogelijke energiebesparing elders. Denk aan AI-toepassingen in het optimaliseren van elektriciteitsnetwerken, het voorspellen van oogsten of het verminderen van medische fouten. Zo kan AI helpen om juist energie te besparen of processen te versnellen die nu veel CO₂ uitstoten.

Investeren in duurzame technologie

We zijn ons er volledig van bewust dat de chatbots energie gebruiken. Daarom houden we in onze werkwijze daar rekening mee. Door onze chatbot met uiterste precisie te trainen, beperken we het energieverbruik tijdens het gebruik. Bij elke vraag is het doel deze in één keer juist te beantwoorden. Daarnaast hebben we er bewust voor gekozen om alleen relevante onderwerpen in de chatbots mee te nemen. Zo voorkomen we dat bezoekers onnodig gebruik maken van de chatbots en het zien als een alternatief voor Google of ChatGPT. Onze AI-chatbot Johnny zal je dus nooit kunnen helpen met een recept voor appeltaart, maar kan je wel alles vertellen over hoe onze AI-chatbots werken.

Ook jij als gebruiker kunt stappen ondernemen:

• Bespaar bewust. Gebruik AI-tools alleen wanneer dat nodig is en stel gerichte vragen om onnodige consumptie te vermijden. Stel je voor dat je op een website met een chatbot komt en je wilt weten wat de openingstijden zijn. Dan kun je natuurlijk altijd eerst zelf snel kijken in bijvoorbeeld de footer of de contactpagina voordat je overschakelt naar de chatbot.
• Wellicht is het een overbodige tip, maar zeg geen ‘dankjewel’. Heb je het antwoord gehad? Stop met typen, want AI-chatbots reageren áltijd. Ook op een simpele ‘bedankt’ zal de chatbot reageren. Laat dat bedankje dus achterwege.
• Voor simpele zoekopdrachten is een traditionele zoekmachine vaak een energiezuiniger alternatief. Overweeg dus of jouw vraag een chatbot nodig heeft of niet.

Meer weten over energiezuinige AI?

AI-chatbots verbruiken stroom: zowel in de trainingsfase als in het dagelijkse gebruik. We zijn ons bewust van de impact die dat heeft. We beweren niet dat we een ‘duurzaam chatbotbedrijf’ zijn, maar we doen er zeker alles aan om hier rekening mee te houden. We denken dat verbeteren begint met bewustzijn. Zo helpen we onze klanten om betere keuzes te maken.