KI als Stromfresser |
28.10.2023 23:46:00
|
KI als Stromfresser - So viel brauchen ChatGPT und NVIDIA an Strom

Die rapide Entwicklung und Anwendung von künstlicher Intelligenz (KI) in verschiedenen Bereichen bringt nicht nur Vorteile, sondern auch erhebliche Herausforderungen, insbesondere in Bezug auf den Energieverbrauch.
• ChatGPT benötigt in der Inferenzphase etwa 564 Megawattstunden täglich
• NVIDIAs KI-Server könnten bis 2027 jährlich 85,4 Terawattstunden Strom verbrauchen
Der Stromverbrauch in der Trainingsphase
Die energiehungrige Natur der KI wird durch die enormen Rechenanforderungen verursacht, die sowohl für das Training als auch für die Ausführung von KI-Modellen erforderlich sind. Beginnend mit der Trainingsphase der KI-Modelle wurde deutlich, dass dieser Prozess mit am energieeffizientesten ist. Zum Beispiel berichtet Hugging Face, ein in New York ansässiges Unternehmen für KI-Entwicklung, dass sein BigScience Large Open-Science Open-Access Multilingual (BLOOM)-Modell während des Trainings etwa 433 Megawattstunden Strom verbraucht hat. ScienceDaily berichtet, dass dieser Stromverbrauch hoch genug ist, um 40 durchschnittliche amerikanische Haushalte ein Jahr lang zu versorgen.
Alex de Vries, Doktorand an der VU Amsterdam School of Business and Economics und Gründer vom Forschungsunternehmen Digiconom, berichtet in einem Beitrag in der Fachzeitschrift Joule, dass andere grosse Sprachmodelle, darunter GPT-3, Gopher und Open Pre-trained Transformer (OPT), 1.287, 1.066 bzw. 324 Megawattstunden für das Training verbrauchten. Diese Zahlen entsprechen lediglich der Energiemenge, die benötigt wird, um die Modelle auf die Phase vorzubereiten, in der sie nützliche Aufgaben erfüllen können.
Der Stromverbrauch in der Inferenzphase
Die Inferenzphase, welche auf die Trainingsphase folgt, ist ein wesentlicher Bestandteil des operativen Einsatzes von KI-Modellen. In dieser Phase werden die Modelle in die Praxis überführt, um auf neue Daten zu reagieren und entsprechende Ergebnisse zu generieren, wie de Vries weiter berichtet. Es zeigt sich, dass auch diese Phase mit einem erheblichen Energieverbrauch verbunden ist.
Eine Untersuchung von SemiAnalysis verdeutlicht den Umfang des Energiebedarfs während der Inferenzphase am Beispiel von OpenAIs ChatGPT. Für den Betrieb wurden 3.617 NVIDIA HGX A100-Server benötigt, die insgesamt 28.936 Grafikprozessoren umfassen. Dieser grosse Hardware-Einsatz resultiert in einem täglichen Energiebedarf von 564 Megawattstunden.
Darüber hinaus veröffentlichte Alphabets Google, Daten, nach denen im Zeitraum von 2019 bis 2021 beachtliche 60 Prozent des gesamten, auf KI bezogenen Energieverbrauchs auf die Inferenzphase zurückzuführen sind. In einem Gespräch mit Reuters äusserte John Hennessy, der Vorstandsvorsitzende von Alphabet, dass ein Dialog mit einer KI, insbesondere einem umfangreichen Sprachmodell, voraussichtlich das Zehnfache im Vergleich zu einer Standard-Schlüsselwortsuche kosten würde, wenngleich Optimierungen rasch zu einer Kostensenkung führen könnten. Trotz der möglichen Einkünfte durch Chat-basierte Suchanzeigen könnte diese Technologie Alphabet mit zusätzlichen Ausgaben in Milliardenhöhe belasten, prognostizieren Analysten, wie es in dem Bericht von Reuters weiter hiess.
Andererseits gibt es auch Daten, die eine geringere Energieintensität während der Inferenzphase anzeigen. In dem Beitrag von Alex de Vries hiess es, dass das BLOOM-Modell von Hugging Face in der Inferenzphase deutlich weniger Energie verbraucht hat als während der Trainingsphase.
Der zukünftige Stromverbrauch durch KI
Die steigende Nachfrage nach KI-Technologie hat auch die Nachfrage nach spezialisierten KI-Chips erhöht, was durch NVIDIAs Rekordumsatz von 13,5 Milliarden US-Dollar im zweiten Quartal 2023 illustriert wird. Die enormen Verkaufszahlen unterstreichen die wachsende Beliebtheit der KI, bringen aber auch eine Steigerung des Energieverbrauchs mit sich.
Ein spezifisches Beispiel ist die mögliche Integration von generativer KI in die Google-Suche. Das Unternehmen bearbeitet momentan bis zu neun Milliarden Suchanfragen täglich. Basierend auf den vorliegenden Daten schätzt de Vries, dass Google, sollte es bei jeder Suche KI-Technologie einsetzen, einen jährlichen Strombedarf von rund 29,2 Terawattstunden hätte. Während eine Standard-Google-Suche derzeit nur etwa 0,3 Wattstunden an Strom verbraucht, könnte sich mit der Einführung von generativer KI, je nach dem spezifischen Modell und der Implementierung, der Energieverbrauch pro Anfrage auf drei bis 8,9 Wattstunden erhöhen, wie de Vries weiter berichtet.
Sollten sich die gegenwärtigen Entwicklungen in Bezug auf KI-Kapazität und -Anwendung fortsetzen, könnte NVIDIA bis zum Jahr 2027 jährlich 1,5 Millionen KI-Servereinheiten ausliefern, wie de Vries in der Fachzeitschrift Joule weiter berichtet. Diese 1,5 Millionen Server würden bei voller Auslastung jährlich mindestens 85,4 Terawattstunden Strom benötigen - ein Verbrauch, der den jährlichen Strombedarf vieler kleiner Länder übersteigt. Eine andere Prognose von MIT News deutet darauf hin, dass Rechenzentren bis 2030 sogar bis zu 21 Prozent des weltweiten Strombedarfs ausmachen könnte, insbesondere durch grosse und populäre Modelle wie ChatGPT.
D. Maier / Redaktion finanzen.ch
Weitere Links:
Nachrichten zu Alphabet Inc (A) Cert Deposito Arg Repr 0.034482 Shs
Keine Nachrichten verfügbar. |
Analysen zu Alphabet Inc (A) Cert Deposito Arg Repr 0.034482 Shs
📈 Zitat: „Digitalisierung beginnt nicht bei der Technik – sie beginnt beim Menschen.“ 🔎
Wie gelingt eine erfolgreiche Verbindung zwischen Tradition und Innovation im Bankwesen? Und welche Rolle spielt eine starke Führungspersönlichkeit dabei? In dieser Ausgabe des BX Morningcall tauchen wir tief ein in die Zukunft des Schweizer Bankgeschäfts – gemeinsam mit Melek Ates, der neuen Leiterin für das Privat- und Firmenkundengeschäft bei der Bank WIR. Sie bringt nicht nur über 30 Jahre Bankerfahrung mit, sondern auch frische Impulse in einer Zeit des Umbruchs und der digitalen Transformation.
Im Gespräch mit François Bloch und David Kunz gibt Melek Ates spannende Einblicke in ihre Vision für die Bank WIR, ihre Perspektiven auf den Schweizer KMU-Markt und ihre ganz persönliche Führungsphilosophie. Es geht um mehr als nur Zahlen – es geht um Werte, Wandel und Weitblick. Was macht Genossenschaftsbanken wie die Bank WIR besonders? Wie gelingt die digitale Transformation in einem traditionell geprägten Sektor? Und warum stehen dabei immer die Menschen im Mittelpunkt?
👉🏽 https://bxplus.ch/bx-musterportfolio/
Inside Trading & Investment
Mini-Futures auf SMI
Meistgelesene Nachrichten
Top-Rankings
Börse aktuell - Live Ticker
SMI und DAX verabschieden sich stärker ins Wochenende -- Wall Street schliesst im Plus -- Asiatische Börsen letztlich mit deutlichen AufschlägenAm Freitag zeigte sich der heimische Markt fester, während der deutsche Leitindex deutlich nach oben stieg. An der Wall Street ging es aufwärts. An den wichtigsten asiatischen Märkten ging es zum Wochenausklang nach oben.
finanzen.net News
Datum | Titel |
---|---|
{{ARTIKEL.NEWS.HEAD.DATUM | date : "HH:mm" }}
|
{{ARTIKEL.NEWS.BODY.TITEL}} |