Guidelines for Green AI
Die Guidelines for Green AI wurden durch den Green-AI Hub Mittelstand des Bundesumweltministeriums gemeinsam mit dem KI-Bundesverband und in Abstimmung mit weiteren Akteuren aus Umwelt, Green-IT und KI entwickelt. Sie beschreiben einen Orientierungsrahmen an dem sich KI-Entwickler*innen und weitere Zielgruppen in den Bereichen Management, Beschaffung und Betrieb orientieren können, um KI-Systeme so ökologisch nachhaltig wie möglich zu gestalten und einzusetzen. Die Guidelines werden in regelmäßigen Workshops mit Stakeholdern aus dem Bereich Green IT und KI weiterentwickelt.
01. Konzipiere und entwickle effiziente und grüne KI-Software nach neuesten Standards und Methoden
Empfehlungen
Die Guideline empfiehlt, KI-Modelle von Beginn an nachhaltig, effizient und nach aktuellen Standards zu konzipieren und umzusetzen, um Umweltbelastungen zu reduzieren und Ressourcen zu schonen.
- Nutze Standards, Werkzeuge und Methoden für eine grüne und effiziente Softwareentwicklung:
- Green Coding, Green Software, Sustainability by Design
- Strebe eine zertifizierte Softwareanwendung an, z. B. mit Umweltzeichen wie dem Blauer Engel für ressourcen- und energieeffiziente Softwareprodukte (DE-UZ 215).
- Setze Werkzeuge wie das Carbon Aware SDK ein, um Software basierend auf den Energiequellen an den „grünsten“ Orten und Zeiten auszuführen.
- Nutze den Green Algorithms Calculator, Green Algorithms 4 HPC oder die Intel Extension for Scikit-learn zur Bewertung und Optimierung.
- Nutze vortrainierte Modelle und Standardlösungen:
- Verwende möglichst allgemeine und vortrainierte KI-Modelle und passe sie per Fine-Tuning an, um den Trainingsaufwand und damit den Energieverbrauch zu reduzieren (Nutze Plattformen wie Hugging Face, inkl. „Energy Score“-Modelcards) (Rohde et al. 2021, Strubellet al. 2019).
- Beachte, dass neue Anforderungen Einschränkungen mit sich bringen können, die über bestehende Standardmodelle hinausgehen (Menghani 2021)
- Steigere die Effizienz von Training und Inferenz:
- Beachte Grundsätze für effiziente Programmierung:
- Begrenze den Spitzenspeicherbedarf.
- Nutze optimierte Bibliotheken wie NumPy, Tensorflow, PyTorch, Scikit-Learn oder Dask (für parallele Berechnungen).
- Stimme Hardware- und Softwareanforderungen sorgfältig aufeinander ab.
- Verwende Code Profiler (z. B. Python´s„cProfile“ package) um Optimierungspotenziale im Code zu identifizieren.
- Fördere Reproduzierbarkeit und Open Source:
Zielgruppe
- Entwicklung
Werkzeuge & Informationen
- Green Coding: Energieeffiziente Programmierungsmethoden
- Green Software: Nachhaltige Softwareentwicklung und Betrieb
- Blauer Engel für ressourcen- und energieeffiziente Softwareprodukte (DE-UZ 215)
- Carbon Aware SDK: CO₂-bewusste Softwareentwicklungsumgebung
- Green AlgorithmsCalculator - Bewertung des Energieverbrauchs von Algorithmen
- Green Algorithms4 HPC - für Hochleistungsrechnen
- Intel Extension forScikit-learn - energieeffiziente Erweiterung für Scikit-learn
- Numpy – Paket für effizientes, wissenschaftliches Computing
- Tensorflow / PyTorch – Bibliotheken für effiziente KI-Entwicklung
- Scikit-LearnMachine-Learning-Bibliothek
- Dask - Open-Source-Bibliothek für parallele Berechnungen
- Python´s „cProfile“ package - Code Profiler zur Identifikation von Optimierungspotenzial
- Efficient Deep Learning: A Survey on Making Deep Learning Models Smaller, Faster, and Better (Menghani 2021) – Leitfaden
02. Berechne den Energieverbrauch und den CO2e-Fußabdruck des KI-Modells
Empfehlungen
Die Guideline zielt darauf ab, den Energieverbrauch und den CO2e-Fußabdruck von KI-Modellen zu erfassen, um ökonomische und ökologische Verbesserungspotenziale ableiten zu können:
- Nutze Messwerkzeuge zur Erfassung des Energieverbrauchs und der Treibhausgasemissionen (Budennyy, S.A., Lazarev, V.D., Zakharenko, N.N. et al. 2022):
Hierfür gibt es Werkzeuge, die in den Quellcode der Anwendung integriert werden können oder Werkzeuge, die außerhalb des eigenen Quellcodes genutzt werden können. - Messe den Energieverbrauch über die Lebenszyklusphasen und stelle die Leistung des Systems zur Erfassung der Energieeffizienz gegenüber.
Zur Annäherung an den Energiebedarf und die Energieeffizienz eines KI-Modells können Vergleichsmaßstäbe für Rechenoperationen herangezogen werden.
Jede der Metriken hat unterschiedliche Einschränkungen und ein Vergleich über unterschiedliche Systeme ist schwer. Daher ist ein standardisiertes Reporting noch nicht etabliert (García-Martín et al. 2019). Ein Ansatz zur Auswahl von Modellen sind Budget/Accuracy-Kurven (Dodge et al. 2019).
Zielgruppe
- Entwicklung
Werkzeuge & Informationen
Werkzeuge im Quellcode der Anwendung:
- Green AI-Hub Mittelstand – Distributed-Carbon-Tracker
- CodeCarbon.io
- Experiment-impact-tracker
- CarbonTracker
- Tracarbon
- Eco2AI
Werkzeuge außerhalb des eigenen Quellcodes:
Hinweis: Bei einigen der Werkzeuge ist die Aussagekraft der Ergebnisse kritisch zu sehen, da u.a. Atomstrom als CO2-neutraler Strom herangezogen wird und klimaschädliche Kältemittel nicht bilanziert werden.
- Green Metrics Tool
- Machine Learning Emissions Calculator
- Open Source Consumption Analysis and Reporting (OSCAR)
- AWS - Customer Carbon Footprint Tool
- Microsoft Emission Impact Dashboard
- Google Carbon Footprint
- Cloud Carbon Footprint
- Green Algorithms
- Kube-Green
Vergleichsmaßstäbe für Rechenoperationen:
(Schwartz et al. 2020; Canziani et al. 2017)
- Anzahl der Fließkommaoperationen (FPU: Floating Point Unit (Operations))
- Anzahl der Parameter und deren Ausnutzung
- Modelllaufzeit
03. Betreibe Datenmanagement und analysiere sparsam
Empfehlungen
Die Guideline konzentriert sich auf ein nachhaltiges Datenmanagement, bei dem der Umgang mit den Daten unter verschiedenen Aspekten betrachtet wird, um den Ressourcenverbrauch in der Trainings- und Inferenzphase zu reduzieren:
- Vermeide eine redundante Datenhaltung. Vermeide Mehrfachspeicherung identischer oder ähnlicher Datenbestände (z. B. Duplikate, Backups ohne Löschstrategie), um Speicherplatz und Energie zu sparen.
- Steuere die Datenmengen. Je größer die Trainingsdatenset sind, desto negativer wirkt sich das Training des KI-Modells auf die Umweltbilanz aus. Nutze, wenn möglich, kleine Beispieldatensätze und vermeide die Ausführung mehrmaliger Berechnungspipelines zum Testen (Institut für Innovation und Technik 2022). Mehr Daten führen nicht immer zu mehr Modellqualität. In vielen Fällen kann eine gezielte Auswahl (Active Learning, Data Valuation) zu gleichen Ergebnissen führen.
- Verwende kleine Datensätze. Die Skalierung der Daten für die Modelloptimierung erhöht die Trainingszeit und den energetischen Fußabdruck. Die Performancesteigerung sollte im Verhältnis zur Erhöhung der Trainingszeit stehen, wobei die Verwendung einer reduzierten Datenstichprobe zu gleicher Modellqualität führen kann (WU et al. 2022).
- Nutze offene Plattformen wie Kaggle, um frei zugängliche Datensets für KI-Modelle zu verwenden und um den Energie- und Ressourcenaufwand für die eigene Datenerhebung zu vermeiden.
- Verwende synthetisierte Daten angemessen. Der Einsatz synthetischer Daten (z. B. durch Simulationen oder generative Modelle) kann reale Daten ergänzen, insbesondere bei datenarmen Szenarien. Allerdings sind Syntheseprozesse selbst energieintensiv und erfordern Abwägung (Menghani 2021, Creswell et al. 2017).
- Beachte den Datenschutz und die Datensensibilität: Die Möglichkeit, so wenig Daten wie möglich für das Training zu verwenden, ist von entscheidender Bedeutung, wenn die Nutzerdaten sensibel sind. Das effiziente Trainieren von Modellen mit einem Bruchteil der Daten bedeutet daher, dass weniger Daten gesammelt werden müssen (Menghani 2021).
- Vermeide unnötige Analyseprozesse. Auch im laufenden Betrieb sollte das Monitoring und die Datenanalyse zielgerichtet und ressourcenschonend erfolgen (z. B. selteneres Logging, adaptive Überwachung).
04. Wähle die Hardware sorgfältig aus
Empfehlungen
Die Guideline umfasst die für die KI-Lösung verwendete Hardware und deren Auswahl im Hinblick auf Energieverbrauch, Umweltauswirkungen, Softwareanforderungen und Modellauswahl:
- Nutze, wenn möglich, bestehende Hardwarestrukturen.
- Beachte den Energieverbrauch der Hardware. Dilemma: Bestehende Hardware vs. neue energieeffiziente Hardware und deren Umweltauswirkungen bei Neukauf. Ist neue Hardware zu beschaffen, bevorzuge wiederaufbereitete (refurbished) Hardware. Nutze Werkzeuge zum Vergleich der Hardware (bspw. die Green500) und beschaffe die Hardware bedarfsgerecht (Modularer Aufbau).
- Verwende einen möglichst hohen Anteil an zertifizierter Hardware (Energy Star, TCO, Blauer Engel …).
- Verwende modulare Hardwarestrukturen und -komponenten, um Flexibilität, Skalierbarkeit und Wartungsfreundlichkeit bei der Beschaffung und im Betrieb von KI-Infrastrukturen sicherzustellen, um die Energie- und Performanceeffizienz zu steigern.
- Integriere, wenn möglich, KI-spezifische Rechenbeschleuniger in Rechensystemen um(dena, 2022):
- den Bedarf von Serverrechnern zu reduzieren.
- die Gesamtverlustleistung drastisch zu reduzieren.
- die Energieeffizienz zu steigern und den Treibhausgasausstoß zu reduzieren.
- Beachte aus verschiedenen Gründen (Datenschutz, Konnektivität und Reaktionsfähigkeit) die Notwendigkeit der Echtzeitausführung für bestimmte Deep-Learning-Anwendungen auf intelligenten Geräten, da die Modellinferenz direkt auf den Geräten erfolgt. Daher ist es unerlässlich, die Modelle für die Zielgeräte (Hardware On-Device) zu optimieren (Menghani 2021).
- Achte bei der KI-Modellwahl auf eine möglichst hohe Inferenz- und/oder Trainingseffizienz, je nach Anwendungsfall (Menghani 2021).
Zielgruppe
- Beschaffung
- Betrieb
Werkzeuge & Informationen
05. Wähle und betreibe Rechenzentren mit Verantwortung – für Effizienz, Transparenz und Klimaschutz
Empfehlungen
Die Guideline zielt auf die Wahl und den nachhaltigen Betrieb von Rechenzentren (RZ) ab, bei denen sowohl der Standort und die Zertifizierung des Rechenzentrums als auch der Zeitpunkt des Bezugs der Rechenleistung zur Reduzierung des ökologischen Fußabdrucks beitragen können:
Perspektive Beschaffung von Rechenleistung (externes RZ)
- Wähle ein zertifiziertes Rechenzentrum.
- Zertifizierungen und Umweltzeichen wie z.B.: Blauer Engel „Rechenzentren“ (DE-UZ 228), ISO 50001, ISO 14001, DGNB-Zertifizierung
- Bevorzuge Anbieter, die ihre Umweltkennzahlen öffentlich machen– wie es die DIN EN 50600-4-x Normenreihe vorsieht:
- Power Usage Effectiveness (PUE) gemäß DIN EN 50600-4-2
- Cooling Efficiency Ratio (CER) gemäß DIN EN 50600-4-7
- Energy Reuse Factor (ERF) gemäß DIN EN 50600-4-6
- Water Usage Effectiveness (WUE) gemäß DIN EN 50600-4-9
- Beachte die Abwärmenutzung und das Temperaturniveau der Rechenzentren, da dies Einfluss auf das Energierecycling hat (vgl. ERF > 0 gemäß DIN EN 50600-4-6)
- Wähle das Rechenzentrum, abhängig von den Energiequellen und Kältemitteleinsatz. Der Energiemix und der Einsatz von F-Gas freien Kältemitteln beeinflusst den CO2e-Fußabdruck.
- Beziehe Dienstleistungen aus Rechenzentren, die durch einen möglichst hohen Anteil an erneuerbarem Strom betrieben werden (z. B. durch PPAs (Power Purchsase Agreements) oder Herkunftsnachweise (42 EnWG)). Hinweis: Atomstrom wird häufig als erneuerbare Energie eingestuft, obwohl er nicht aus erneuerbaren Quellen stammt und erhebliche langfristige Umweltfolgen hat.
- Achte wenn möglich drauf, dass alle eingesetzten Kälteanlagen halogenfreie Kältemittel verwenden (z. B. CO₂, NH₃, Kohlenwasserstoffe), um negative Klimawirkung durch Kühlung zu reduzieren.
- Wähle den Zeitpunkt, zu der die Rechenleistung bezogen wird. Der Bezugszeitpunkt (bspw. Tag statt Nacht) beeinflusst den CO2e-Fußabdruck.
Perspektive Bereitstellung von Rechenleistung (eigenes RZ)
- Zertifiziere das Rechenzentrum zur Sicherung von Energieeffizienz, Betriebssicherheit und Umweltverträglichkeit.
- Zertifizierungen und Umweltzeichen wie z.B.: Blauer Engel „Rechenzentren“ (DE-UZ 228), ISO 50001, ISO 14001, DGNB-Zertifizierung.
- Zertifizierungen und Umweltzeichen wie z.B.: Blauer Engel „Rechenzentren“ (DE-UZ 228), ISO 50001, ISO 14001, DGNB-Zertifizierung.
- Beachte das "Maturity Model for Energy Management and Environmental Sustainability" der DIN EN 50600-5-1 zur systematischen Bewertung und Weiterentwicklung des Energie- und Umweltmanagements im Rechenzentrum.
- Betreibe Rechenzentren so, dass ein möglichst niedriger PUE-Wert erreicht wird, je nach Datum der Inbetriebnahme (z. B. ≤ 1,25 ab 2024), gemessen nach DIN EN 50600-4-2 (Kategorie 2).
- Optimiere das Kühlsystem für hohe CER-Werte (z. B. > 9 bei Inbetriebnahme ab 2024) – das senkt den Energieverbrauch der Kühlung signifikant.
- Nutze Abwärme konsequent weiter oder biete sie externen Abnehmern an, insbesondere bei RZ > 100 kW Anschlussleistung – das verbessert den ERF gemäß DIN EN 50600-4-6.
- Berechne PUE so, dass genutzte Abwärme (z. B. via Wärmepumpe) nicht negativ in die PUE-Wertung eingeht, wie in der Norm DIN EN 50600 vorgesehen.
- Beziehe Hardware bevorzugt von Anbietern mit Refurbishment-Konzept, z.B. durch Rückgabe- oder Wiederaufbereitungsverträge.
- Veröffentliche zentrale Effizienzkennzahlen regelmäßig auf der Website, um Transparenz zu schaffen und externe Validierung zu ermöglichen.
- Beachte, dass eine schlechte Auslastung der Hardwareinfrastruktur nicht nur wirtschaftliche Ineffizienz verursacht, sondern auch zu unnötigem Energieverbrauch und erhöhten Treibhausgasemissionen führt.
Zielgruppe
- Beschaffung
- Betrieb
Werkzeuge & Informationen
- Blauer Engel für Server und Speichergeräte
- Blauer Engel für „Rechenzentren“ (DE-UZ 228)
- Strommkennzeichnung (§42 EnWG)
- Einrichtungen und Infrastrukturen von Rechenzentren: DIN EN 50600-4-x
- “Sustainable Data Center“ vom TÜV Rheinland
- Circular Data Centre Compass (CDCC)
06. Betreibe nachhaltiges Life-Cycle-Management
Empfehlungen
Diese Guideline fokussiert sich auf ein nachhaltiges Life-Cycle-Management von KI-Systemen. Ziel ist es, die Lebensdauer, Effizienz und Umweltverträglichkeit von KI-Lösungen zu optimieren – von der Entwicklung über den Betrieb bis hin zur Dekommissionierung:
- Setze den Fokus früh auf die Entwicklung robuster Modelle, (z. B. durch Regularisierung, Datenaugmentation und adversarial training), um späteres zusätzliches Training aufgrund von Data-Drift vorzubeugen.
- Bei sich ändernden Datenverteilungen (Data-Drift) sollte ein gezieltes Fine-Tuning bestehender Modelle bevorzugt werden, anstatt komplette Re-Trainings mit neuen Daten zu initiieren.
- Betreibe ein bedarfsorientiertes Datenmanagement und sammle und speichere nur die für die Modellperformance und -überwachung erforderlichen Daten. Dies reduziert Speicher- und Energiebedarf und schützt zugleich die Privatsphäre.
- Nachhaltiges MLOps (Shazeeret al. 2017):
- Ziehe die Nutzung von Sparesly-Gated Mixture-of-Experts Layer in Betracht: Hier wird nur der Teil des KI-Modells für eine Vorhersage aktiviert, in dem die relevanten Informationen „hinterlegt“ sind, was die Rechenlast signifikant reduziert.
- Es ermöglicht das nachhaltige Speichern und Löschen von alten Modellen.
- Ökologische Metriken wie z.B. Stromverbrauch pro Vorhersage sollten bei der Auswahl der Modelle angezeigt und berücksichtigt werden. Nutze hier Messwerkzeuge zur Ermittlung.
Zielgruppe
- Entwicklung
- Betrieb
Werkzeuge & Informationen
07. Beachte den Rebound-Effekt
Empfehlungen
Die Guideline bezieht sich auf das mögliche Auftreten und die Auswirkungen eines Rebound-Effekts durch den Einsatz von KI:
- Achte auf mögliche Rückwirkungen durch Effizienzmaßnahmen bei der Entwicklung, dem Training und Betrieb von KI-Systemen:
Führe vor Projektstart eine Folgenabschätzung durch, ob das geplante KI-System – auch unter Berücksichtigung möglicher Rebound-Effekte – tatsächlich einen positiven Beitrag zur ökologischen und ökonomischen Nachhaltigkeit leisten kann.
Ziehe den Vergleich: Ressourcenverbrauch & CO₂e-Emissionen der KI-Lösung vs. Ressourcen- & CO₂e-Einsparungen durch den Einsatz im Anwendungsfeld.
Schätze die ökologischen Chancen und Risiken gegenüber dem Nutzen des Systems ab.
Ökologische Chancen
Einsparungen von Energie, Material oder Emissionen durch die Anwendung der KI im jeweiligen Einsatzfeld:
-
- Ermöglichung von Energie- und Materialeinsparungen
- Förderung der inner- und überbetrieblichen Kreislaufführung
- Optimierung von Lieferketten & Transportwegen
- Förderung nachhaltiger Produkte und Konsummuster
- Steigerung der Produktqualität und -lebensdauer
- Reduzierung von Treibhausgasemissionen
- Einsatz zum Klimaschutz und Klimaanpassung
- etc.
Ökologische Risiken
Aufwand von Energie, Material und Emissionen durch die Entwicklung, das Training und den Betrieb der KI:
-
- Steigende Energieverbräuche und Treibhausgasemissionen in der Trainings- und Inferenzphase
- Steigender Wasserbedarf durch besondere Anforderungen an die Klimatisierung
- Steigenden Rohstoffbedarf durch höheren Rechen- und Speicherbedarf und geringere Nutzungsdauer der Server
- Ausbau der Netzinfrastruktur durch die Übertragung umfangreicher Datenmengen
- Größerer Flächenbedarf durch immer flächenintensivere Rechenzentren
- Anforderungen an (neuer) Hardwareinfrastruktur und erhöhtes Abfallaufkommen durch unbrauchbare Hardware (WEEE-Richtline 2012/19/EU)
- Rebound-Effekte
- etc.
Minimalziel: Die positiven Effekte durch den KI-Einsatz sollten mindestens den zusätzlichen Ressourcen- und Energieverbrauch ausgleichen.
Zielgruppe
- Management
Werkzeuge & Informationen
Was ist der Rebound-Effekt?
- Wenn KI-Systeme gezielt ökologisch effizienter gestaltet werden – z. B. durch sparsameres Modelltraining, energieeffizientere Hardware oder optimierte Algorithmen –, ist Vorsicht geboten. Genau in solchen Fällen kann es zu einem sogenannten Rebound-Effekt (acatech 2022) Die erreichten Effizienzgewinne führen unbeabsichtigt dazu, dass die Technologie häufiger, breiter oder intensiver eingesetzt wird – was den Gesamtverbrauch bzw. -inanspruchnahme an Energie und Ressourcen am Ende sogar steigen lassen kann.
Beispiele für Rebound-Effekte von KI:
- Eine KI wird eingesetzt, um die Logistik effizienter zu gestalten und Transporte zu optimieren. Durch die Einsparungen werden zusätzliche Lieferoptionen (z. B. Expressversand) wirtschaftlich attraktiv – was zu mehr Verkehrsaufkommen und CO₂e-Ausstoß führt.
- Ein Unternehmen ersetzt ein großes Sprachmodell durch eine stromsparendere, kleinere Variante – und ermöglicht damit, KI-gestützte Funktionen auf mobilen Geräten oder in Echtzeit anzubieten. Dies führt zu stark wachsendem Nutzungsvolumen, sodass der Gesamteffekt negativ ausfällt.
08. Setze das grüne KI-System für Nachhaltigkeit ein
Empfehlungen
Die Guideline empfiehlt den Einsatz einer grünen KI-Lösung zur Stärkung der nachhaltigen Entwicklung in den Bereichen Wirtschaft, Gesellschaft und Klimaschutz. Im besten Fall kann so die Profitabilität im Unternehmen mit gesellschaftlichem Nutzen und ökologischen Mehrwert zusammengebracht werden.
Profitiere durch den Einsatz eines grünen KI-Systems (ökologische und ökonomische Anwendungsbeispiele):
- Ermöglichung von Energie- und Materialeinsparungen
(z. B. durch KI-gestützte Optimierung von Schnittplänen oder Fertigungsabläufen mit geringerem Materialeinsatz) - Förderung der inner- und überbetrieblichen Kreislaufführung
(z. B. durch KI-Unterstützung im Produktdesign zur Vorbereitung von R-Strategien wie Reparatur, Wiederverwendung und Recycling) - Förderung nachhaltiger Produkte und Konsummuster
(z. B. durch KI-gestützte Analyse von Nutzungsdaten zur Entwicklung ressourcenschonender Produktvarianten)
- Steigerung der Produktqualität und -lebensdauer
(z. B. durch KI-basierte Qualitätsüberwachung und vorausschauende Wartung in der Produktion) - Reduzierung von Treibhausgasemissionen
(z. B. durch KI-optimierte Steuerung energieintensiver Produktionsanlagen) - Einsatz zum Klimaschutz und Klimaanpassung
(z. B. durch KI-gestützte Auswertung betrieblicher Klimarisiken und Ableitung von Anpassungsmaßnahmen) - etc.
Zielgruppe
- Management
Werkzeuge & Informationen
Pilotprojekte des Green-AI Hub Mittelstand:
GitHub-Repository des Green-AI Hub Mittelstand:
KI-Anwendungsfelder
- Link bald verfügbar
Danksagung an beteiligte Akteure
Wir danken all denjenigen, die an der Entwicklung der Guidelines for Green AI mitgewirkt und diese mit ihrem Fachwissen, wertvollen Inputs und ihren zeitlichen Kapazitäten unterstützt haben: Dem KI-Bundesverband und der AG Nachhaltigkeit des KI Bundesverbandes, dem Anwendungslabor für KI und Big Data (KI-Lab) am Umweltbundesamt, der Beratungsstelle Green-IT des Umweltbundesamtes, dem VDI Zentrum Ressourceneffizienz, dem Deutschen Forschungszentrum für Künstliche Intelligenz sowie allen Teilnehmenden unserer Workshops zur Weiterentwicklung der Guidelines for Green AI.