Guidelines for Green AI

Die Guidelines for Green AI wurden durch den Green-AI Hub Mittelstand des Bundesumweltministeriums gemeinsam mit dem KI-Bundesverband und in Abstimmung mit weiteren Akteuren aus Umwelt, Green-IT und KI entwickelt. Sie beschreiben einen Orientierungsrahmen an dem sich KI-Entwickler*innen und weitere Zielgruppen in den Bereichen Management, Beschaffung und Betrieb orientieren können, um KI-Systeme so ökologisch nachhaltig wie möglich zu gestalten und einzusetzen. Die Guidelines werden in regelmäßigen Workshops mit Stakeholdern aus dem Bereich Green IT und KI weiterentwickelt.

01. Konzipiere und entwickle effiziente und grüne KI-Software nach neuesten Standards und Methoden

Empfehlungen

Die Guideline empfiehlt, KI-Modelle von Beginn an nachhaltig, effizient und nach aktuellen Standards zu konzipieren und umzusetzen, um Umweltbelastungen zu reduzieren und Ressourcen zu schonen.

Zielgruppe

  • Entwicklung

Werkzeuge & Informationen

02. Berechne den Energieverbrauch und den CO2e-Fußabdruck des KI-Modells

Empfehlungen

Die Guideline zielt darauf ab, den Energieverbrauch und den CO2e-Fußabdruck von KI-Modellen zu erfassen, um ökonomische und ökologische Verbesserungspotenziale ableiten zu können:

  • Nutze Messwerkzeuge zur Erfassung des Energieverbrauchs und der Treibhausgasemissionen (Budennyy, S.A., Lazarev, V.D., Zakharenko, N.N. et al. 2022):​

    Hierfür gibt es Werkzeuge, die in den Quellcode der Anwendung integriert werden können oder Werkzeuge, die außerhalb des eigenen Quellcodes genutzt werden können. ​

  • Messe den Energieverbrauch über die Lebenszyklusphasen und stelle die Leistung des Systems zur Erfassung der Energieeffizienz gegenüber.

    Zur Annäherung an den Energiebedarf und die Energieeffizienz eines KI-Modells können Vergleichsmaßstäbe für Rechenoperationen herangezogen werden.


    Jede der Metriken hat unterschiedliche Einschränkungen und ein Vergleich über unterschiedliche Systeme ist schwer. Daher ist ein standardisiertes Reporting noch nicht etabliert (García-Martín et al. 2019). Ein Ansatz zur Auswahl von Modellen sind Budget/Accuracy-Kurven (Dodge et al. 2019). ​

Zielgruppe

  • Entwicklung

Werkzeuge & Informationen

Werkzeuge im Quellcode der Anwendung:

Werkzeuge außerhalb des eigenen Quellcodes:

Hinweis: Bei einigen der Werkzeuge ist die Aussagekraft der Ergebnisse kritisch zu sehen, da u.a. Atomstrom als CO2-neutraler Strom herangezogen wird und klimaschädliche Kältemittel nicht bilanziert werden.

Vergleichsmaßstäbe für Rechenoperationen:

(Schwartz et al. 2020Canziani et al. 2017) ​

  • Anzahl der Fließkommaoperationen (FPU: Floating Point Unit (Operations))​
  • Anzahl der Parameter und deren Ausnutzung​
  • Modelllaufzeit

03. Betreibe Datenmanagement und analysiere sparsam

Empfehlungen

Die Guideline konzentriert sich auf ein nachhaltiges Datenmanagement, bei dem der Umgang mit den Daten unter verschiedenen Aspekten betrachtet wird, um den Ressourcenverbrauch in der Trainings- und Inferenzphase zu reduzieren:

  • Vermeide eine redundante Datenhaltung. Vermeide Mehrfachspeicherung identischer oder ähnlicher Datenbestände (z. B. Duplikate, Backups ohne Löschstrategie), um Speicherplatz und Energie zu sparen.

  • Steuere die Datenmengen. Je größer die Trainingsdatenset sind, desto negativer wirkt sich das Training des KI-Modells auf die Umweltbilanz aus. Nutze, wenn möglich, kleine Beispieldatensätze und vermeide die Ausführung mehrmaliger Berechnungspipelines zum Testen (Institut für Innovation und Technik 2022).​ Mehr Daten führen nicht immer zu mehr Modellqualität. In vielen Fällen kann eine gezielte Auswahl (Active Learning, Data Valuation) zu gleichen Ergebnissen führen.

  • Verwende kleine Datensätze. Die Skalierung der Daten für die Modelloptimierung erhöht die Trainingszeit und den energetischen Fußabdruck. Die Performancesteigerung sollte im Verhältnis zur Erhöhung der Trainingszeit stehen, wobei die Verwendung einer reduzierten Datenstichprobe zu gleicher Modellqualität führen kann (WU et al. 2022).

  • Nutze offene Plattformen wie Kaggle, um frei zugängliche Datensets für KI-Modelle zu verwenden und um den Energie- und Ressourcenaufwand für die eigene Datenerhebung zu vermeiden.

  • Verwende synthetisierte Daten angemessen. Der Einsatz synthetischer Daten (z. B. durch Simulationen oder generative Modelle) kann reale Daten ergänzen, insbesondere bei datenarmen Szenarien. Allerdings sind Syntheseprozesse selbst energieintensiv und erfordern Abwägung (Menghani 2021Creswell et al. 2017).

  • Beachte den Datenschutz und die Datensensibilität: Die Möglichkeit, so wenig Daten wie möglich für das Training zu verwenden, ist von entscheidender Bedeutung, wenn die Nutzerdaten sensibel sind. Das effiziente Trainieren von Modellen mit einem Bruchteil der Daten bedeutet daher, dass weniger Daten gesammelt werden müssen (Menghani 2021).

  • Vermeide unnötige Analyseprozesse. Auch im laufenden Betrieb sollte das Monitoring und die Datenanalyse zielgerichtet und ressourcenschonend erfolgen (z. B. selteneres Logging, adaptive Überwachung).

Zielgruppe

  • Entwicklung
  • Beschaffung
  • Betrieb

Werkzeuge & Informationen

04. Wähle die Hardware sorgfältig aus

Empfehlungen

Die Guideline umfasst die für die KI-Lösung verwendete Hardware und deren Auswahl im Hinblick auf Energieverbrauch, Umweltauswirkungen, Softwareanforderungen und Modellauswahl:

  • Nutze, wenn möglich, bestehende Hardwarestrukturen.

  • Beachte den Energieverbrauch der Hardware. Dilemma: Bestehende Hardware vs. neue energieeffiziente Hardware und deren Umweltauswirkungen bei Neukauf. Ist neue Hardware zu beschaffen, bevorzuge wiederaufbereitete (refurbished) Hardware. Nutze Werkzeuge zum Vergleich der Hardware (bspw. die Green500) und beschaffe die Hardware bedarfsgerecht (Modularer Aufbau).

  • Verwende einen möglichst hohen Anteil an zertifizierter Hardware (Energy Star, TCO, Blauer Engel …)​.

  • Verwende modulare Hardwarestrukturen und -komponenten, um Flexibilität, Skalierbarkeit und Wartungsfreundlichkeit bei der Beschaffung und im Betrieb von KI-Infrastrukturen sicherzustellen, um die Energie- und Performanceeffizienz zu steigern.

  • Integriere, wenn möglich, KI-spezifische Rechenbeschleuniger in Rechensystemen um(dena, 2022):
    • den Bedarf von Serverrechnern zu reduzieren. ​
    • die Gesamtverlustleistung drastisch zu reduzieren. ​
    • die Energieeffizienz zu steigern und den Treibhausgasausstoß zu reduzieren.

  • Beachte aus verschiedenen Gründen (Datenschutz, Konnektivität und Reaktionsfähigkeit) die Notwendigkeit der Echtzeitausführung für bestimmte Deep-Learning-Anwendungen auf intelligenten Geräten, da die Modellinferenz direkt auf den Geräten erfolgt. Daher ist es unerlässlich, die Modelle für die Zielgeräte (Hardware On-Device) zu optimieren (Menghani 2021). ​

  • Achte bei der KI-Modellwahl auf eine möglichst hohe Inferenz- und/oder Trainingseffizienz, je nach Anwendungsfall (Menghani 2021).

05. Wähle und betreibe Rechenzentren mit Verantwortung – für Effizienz, Transparenz und Klimaschutz

Empfehlungen

Die Guideline zielt auf die Wahl und den nachhaltigen Betrieb von Rechenzentren (RZ) ab, bei denen sowohl der Standort und die Zertifizierung des Rechenzentrums als auch der Zeitpunkt des Bezugs der Rechenleistung zur Reduzierung des ökologischen Fußabdrucks beitragen können:

Perspektive Beschaffung von Rechenleistung (externes RZ)

  • Wähle ein zertifiziertes Rechenzentrum. 
    • Zertifizierungen und Umweltzeichen wie z.B.: Blauer Engel „Rechenzentren“ (DE-UZ 228), ISO 50001, ISO 14001, DGNB-Zertifizierung
    • Bevorzuge Anbieter, die ihre Umweltkennzahlen öffentlich machen– wie es die DIN EN 50600-4-x Normenreihe vorsieht:
      • Power Usage Effectiveness (PUE) gemäß DIN EN 50600-4-2
      • Cooling Efficiency Ratio (CER) gemäß DIN EN 50600-4-7
      • Energy Reuse Factor (ERF) gemäß DIN EN 50600-4-6
      • Water Usage Effectiveness (WUE) gemäß DIN EN 50600-4-9
    • Beachte die Abwärmenutzung und das Temperaturniveau der Rechenzentren, da dies Einfluss auf das Energierecycling hat (vgl. ERF > 0 gemäß DIN EN 50600-4-6)

  • Wähle das Rechenzentrum, abhängig von den Energiequellen und Kältemitteleinsatz. Der Energiemix und der Einsatz von F-Gas freien Kältemitteln beeinflusst den CO2e-Fußabdruck.
    • Beziehe Dienstleistungen aus Rechenzentren, die durch einen möglichst hohen Anteil an erneuerbarem Strom betrieben werden (z. B. durch PPAs (Power Purchsase Agreements) oder Herkunftsnachweise (42 EnWG)). Hinweis: Atomstrom wird häufig als erneuerbare Energie eingestuft, obwohl er nicht aus erneuerbaren Quellen stammt und erhebliche langfristige Umweltfolgen hat.
    • Achte wenn möglich drauf, dass alle eingesetzten Kälteanlagen halogenfreie Kältemittel verwenden (z. B. CO₂, NH₃, Kohlenwasserstoffe), um negative Klimawirkung durch Kühlung zu reduzieren.

  • Wähle den Zeitpunkt, zu der die Rechenleistung bezogen wird. Der Bezugszeitpunkt (bspw. Tag statt Nacht) beeinflusst den CO2e-Fußabdruck.​

Perspektive Bereitstellung von Rechenleistung (eigenes RZ)

  • Zertifiziere das Rechenzentrum zur Sicherung von Energieeffizienz, Betriebssicherheit und Umweltverträglichkeit.
  • Beachte das "Maturity Model for Energy Management and Environmental Sustainability" der DIN EN 50600-5-1 zur systematischen Bewertung und Weiterentwicklung des Energie- und Umweltmanagements im Rechenzentrum.

  • Betreibe Rechenzentren so, dass ein möglichst niedriger PUE-Wert erreicht wird, je nach Datum der Inbetriebnahme (z. B. ≤ 1,25 ab 2024), gemessen nach DIN EN 50600-4-2 (Kategorie 2).

  • Optimiere das Kühlsystem für hohe CER-Werte (z. B. > 9 bei Inbetriebnahme ab 2024) – das senkt den Energieverbrauch der Kühlung signifikant.

  • Nutze Abwärme konsequent weiter oder biete sie externen Abnehmern an, insbesondere bei RZ > 100 kW Anschlussleistung – das verbessert den ERF gemäß DIN EN 50600-4-6.

  • Berechne PUE so, dass genutzte Abwärme (z. B. via Wärmepumpe) nicht negativ in die PUE-Wertung eingeht, wie in der Norm DIN EN 50600 vorgesehen.

  • Beziehe Hardware bevorzugt von Anbietern mit Refurbishment-Konzept, z.B. durch Rückgabe- oder Wiederaufbereitungsverträge.

  • Veröffentliche zentrale Effizienzkennzahlen regelmäßig auf der Website, um Transparenz zu schaffen und externe Validierung zu ermöglichen.

  • Beachte, dass eine schlechte Auslastung der Hardwareinfrastruktur nicht nur wirtschaftliche Ineffizienz verursacht, sondern auch zu unnötigem Energieverbrauch und erhöhten Treibhausgasemissionen führt.

Zielgruppe

  • Beschaffung
  • Betrieb

Werkzeuge & Informationen

06. Betreibe nachhaltiges Life-Cycle-Management

Empfehlungen

Diese Guideline fokussiert sich auf ein nachhaltiges Life-Cycle-Management von KI-Systemen. Ziel ist es, die Lebensdauer, Effizienz und Umweltverträglichkeit von KI-Lösungen zu optimieren – von der Entwicklung über den Betrieb bis hin zur Dekommissionierung:​

  • Setze den Fokus früh auf die Entwicklung robuster Modelle, (z. B. durch Regularisierung, Datenaugmentation und adversarial training), um späteres zusätzliches Training aufgrund von Data-Drift vorzubeugen.

  • Bei sich ändernden Datenverteilungen (Data-Drift) sollte ein gezieltes Fine-Tuning bestehender Modelle bevorzugt werden, anstatt komplette Re-Trainings mit neuen Daten zu initiieren.

  • Betreibe ein bedarfsorientiertes Datenmanagement und sammle und speichere nur die für die Modellperformance und -überwachung erforderlichen Daten. Dies reduziert Speicher- und Energiebedarf und schützt zugleich die Privatsphäre.

  • Nachhaltiges MLOps (Shazeeret al. 2017):​

    • Ziehe die Nutzung von Sparesly-Gated Mixture-of-Experts Layer in Betracht: Hier wird nur der Teil des KI-Modells für eine Vorhersage aktiviert, in dem die relevanten Informationen „hinterlegt“ sind, was die Rechenlast signifikant reduziert. ​
    • Es ermöglicht das nachhaltige Speichern und Löschen von alten Modellen.​
    • Ökologische Metriken wie z.B. Stromverbrauch pro Vorhersage sollten bei der Auswahl der Modelle angezeigt und berücksichtigt werden.​ Nutze hier Messwerkzeuge zur Ermittlung.

07. Beachte den Rebound-Effekt

Empfehlungen

Die Guideline bezieht sich auf das mögliche Auftreten und die Auswirkungen eines Rebound-Effekts durch den Einsatz von KI:

  • Achte auf mögliche Rückwirkungen durch Effizienzmaßnahmen bei der Entwicklung, dem Training und Betrieb von KI-Systemen:

Führe vor Projektstart eine Folgenabschätzung durch, ob das geplante KI-System – auch unter Berücksichtigung möglicher Rebound-Effekte – tatsächlich einen positiven Beitrag zur ökologischen und ökonomischen Nachhaltigkeit leisten kann.

Ziehe den Vergleich: Ressourcenverbrauch & CO₂e-Emissionen der KI-Lösung vs. Ressourcen- & CO₂e-Einsparungen durch den Einsatz im Anwendungsfeld.

Schätze die ökologischen Chancen und Risiken gegenüber dem Nutzen des Systems ab.

Ökologische Chancen

Einsparungen von Energie, Material oder Emissionen durch die Anwendung der KI im jeweiligen Einsatzfeld:

    • Ermöglichung von Energie- und Materialeinsparungen
    • Förderung der inner- und überbetrieblichen Kreislaufführung​
    • Optimierung von Lieferketten & Transportwegen
    • Förderung nachhaltiger Produkte und Konsummuster
    • Steigerung der Produktqualität und -lebensdauer
    • Reduzierung von Treibhausgasemissionen​
    • Einsatz zum Klimaschutz und Klimaanpassung
    • etc.


Ökologische Risiken 

Aufwand von Energie, Material und Emissionen durch die Entwicklung, das Training und den Betrieb der KI:

    • Steigende Energieverbräuche und Treibhausgasemissionen in der Trainings- und Inferenzphase ​
    • Steigender Wasserbedarf durch besondere Anforderungen an die Klimatisierung
    • Steigenden Rohstoffbedarf durch höheren Rechen- und Speicherbedarf und geringere Nutzungsdauer der Server
    • Ausbau der Netzinfrastruktur durch die Übertragung umfangreicher Datenmengen
    • Größerer Flächenbedarf durch immer flächenintensivere Rechenzentren
    • Anforderungen an (neuer) Hardwareinfrastruktur und erhöhtes Abfallaufkommen durch unbrauchbare Hardware (WEEE-Richtline 2012/19/EU)
    • Rebound-Effekte
    • etc.

Minimalziel: Die positiven Effekte durch den KI-Einsatz sollten mindestens den zusätzlichen Ressourcen- und Energieverbrauch ausgleichen.

Zielgruppe

  • Management

Werkzeuge & Informationen

Was ist der Rebound-Effekt?

  • Wenn KI-Systeme gezielt ökologisch effizienter gestaltet werden – z. B. durch sparsameres Modelltraining, energieeffizientere Hardware oder optimierte Algorithmen –, ist Vorsicht geboten. Genau in solchen Fällen kann es zu einem sogenannten Rebound-Effekt (acatech 2022)​ Die erreichten Effizienzgewinne führen unbeabsichtigt dazu, dass die Technologie häufiger, breiter oder intensiver eingesetzt wird – was den Gesamtverbrauch bzw. -inanspruchnahme an Energie und Ressourcen am Ende sogar steigen lassen kann.

Beispiele für Rebound-Effekte von KI:

  • Eine KI wird eingesetzt, um die Logistik effizienter zu gestalten und Transporte zu optimieren. Durch die Einsparungen werden zusätzliche Lieferoptionen (z. B. Expressversand) wirtschaftlich attraktiv – was zu mehr Verkehrsaufkommen und CO₂e-Ausstoß führt.
  • Ein Unternehmen ersetzt ein großes Sprachmodell durch eine stromsparendere, kleinere Variante – und ermöglicht damit, KI-gestützte Funktionen auf mobilen Geräten oder in Echtzeit anzubieten. Dies führt zu stark wachsendem Nutzungsvolumen, sodass der Gesamteffekt negativ ausfällt.

 

08. Setze das grüne KI-System für Nachhaltigkeit ein

Empfehlungen

Die Guideline empfiehlt den Einsatz einer grünen KI-Lösung zur Stärkung der nachhaltigen Entwicklung in den Bereichen Wirtschaft, Gesellschaft und Klimaschutz. Im besten Fall kann so die Profitabilität im Unternehmen mit gesellschaftlichem Nutzen und ökologischen Mehrwert zusammengebracht werden.

Profitiere durch den Einsatz eines grünen KI-Systems (ökologische und ökonomische Anwendungsbeispiele): 

  • Ermöglichung von Energie- und Materialeinsparungen
    (z. B. durch KI-gestützte Optimierung von Schnittplänen oder Fertigungsabläufen mit geringerem Materialeinsatz)

  • Förderung der inner- und überbetrieblichen Kreislaufführung​
    (z. B. durch KI-Unterstützung im Produktdesign zur Vorbereitung von R-Strategien wie Reparatur, Wiederverwendung und Recycling)

  • Förderung nachhaltiger Produkte und Konsummuster
    (z. B. durch KI-gestützte Analyse von Nutzungsdaten zur Entwicklung ressourcenschonender Produktvarianten)
  • Steigerung der Produktqualität und -lebensdauer
    (z. B. durch KI-basierte Qualitätsüberwachung und vorausschauende Wartung in der Produktion)

  • Reduzierung von Treibhausgasemissionen​
    (z. B. durch KI-optimierte Steuerung energieintensiver Produktionsanlagen)

  • Einsatz zum Klimaschutz und Klimaanpassung
    (z. B. durch KI-gestützte Auswertung betrieblicher Klimarisiken und Ableitung von Anpassungsmaßnahmen)

  • etc.

 

Zielgruppe

  • Management

Werkzeuge & Informationen

Pilotprojekte des Green-AI Hub Mittelstand:

GitHub-Repository des Green-AI Hub Mittelstand:

KI-Anwendungsfelder

  • Link bald verfügbar

Danksagung an beteiligte Akteure

Wir danken all denjenigen, die an der Entwicklung der Guidelines for Green AI mitgewirkt und diese mit ihrem Fachwissen, wertvollen Inputs und ihren zeitlichen Kapazitäten unterstützt haben: Dem KI-Bundesverband und der AG Nachhaltigkeit des KI Bundesverbandes, dem Anwendungslabor für KI und Big Data (KI-Lab) am Umweltbundesamt, der Beratungsstelle Green-IT des Umweltbundesamtes, dem VDI Zentrum Ressourceneffizienz, dem Deutschen Forschungszentrum für Künstliche Intelligenz sowie allen Teilnehmenden unserer Workshops zur Weiterentwicklung der Guidelines for Green AI.

Zum Kontaktformular