Was ist Green AI?

Kurz-Fakten

• Training ist einmalig energieintensiv, Inferenz dauerhaft
• Kleinere und quantisierte Modelle senken den Verbrauch je Anfrage deutlich
• Rechenzentren brauchen neben Strom auch Wasser zur Kühlung
• Angaben zum Verbrauch je Anfrage schwanken zwischen Quellen um Größenordnungen

Bedeutung in der Praxis

Der letzte Punkt sollte vor der Übernahme einzelner Zahlen warnen. Wer den eigenen Verbrauch senken will, hat den wirksamsten Hebel ohnehin nicht in der Modellwahl, sondern in der Frage, wie viele Anfragen überhaupt nötig sind.

Verwandte Begriffe

• Inferenz Inferenz bezeichnet die Nutzung eines fertig trainierten Modells: Es bekommt eine…
• Quantisierung Quantisierung verringert die Rechengenauigkeit, mit der die Parameter eines Modells…
• Parameter Parameter sind die einstellbaren Zahlenwerte eines Modells, die beim Training angepasst…