Mathematik  |  Informatik

 

Diego Muzzarelli, 2006 | Uster, ZH

 

Ozon ist ein bedeutender bodennaher Luftschadstoff mit gesundheitlichen Auswirkungen, weshalb zuverlässige Vorhersagen zunehmend an Bedeutung gewinnen. Neben klassischen physikalisch-chemischen und statistischen Modellen werden zunehmend auch neuronale Netze wie Long Short-Term Memory (LSTM) eingesetzt. In dieser Arbeit werden LSTM-Modelle zur Vorhersage der stündlichen Ozonkonzentration in der Stadt Zürich untersucht. Verschiedene Modellarchitekturen und Trainingskonfigurationen werden getestet und anhand von Fehlermetriken sowie Vorhersagediagrammen bewertet. Die Ergebnisse zeigen, dass LSTM-Modelle zeitliche Muster der Ozonkonzentration erfolgreich erfassen, jedoch Schwierigkeiten bei Abweichungen von diesen Mustern haben.

Fragestellung

Diese Arbeit untersucht, ob LSTM-Modelle geeignet sind, die stündliche Ozonkonzentration in Zürich mit ausreichender Genauigkeit für den praktischen Einsatz vorherzusagen. Dabei werden Vorhersagehorizonte von 1, 12 und 24 Stunden betrachtet. Als Referenz gilt ein MAE von maximal 15 µg/m³ für Vorhersagen 24 Stunden in die Zukunft.

Methodik

Long Short-Term Memory (LSTM)-Modelle sind eine Form neuronaler Netze, die speziell für die Vorhersage zeitlich abhängiger Daten geeignet sind. Sie verfügen über interne Speichermechanismen, welche es ermöglichen, sowohl kurzfristige als auch langfristige Muster in Zeitreihen zu erfassen.
Als Datengrundlage dienen stündliche Messwerte zu Schadstoffkonzentrationen und meteorologischen Grössen von drei Messstationen in Zürich für die Jahre 2020 bis 2024. Die Daten werden zunächst bereinigt und eine Korrelationsanalyse wird durchgeführt. Danach werden sie in Trainings-, Validierungs- und Testdaten unterteilt. Anschliessend werden verschiedene LSTM-Modelle mit unterschiedlichen Inputkonfigurationen, Layeranzahlen und Trainingsparametern entwickelt und trainiert. Dabei werden insbesondere der Einfluss der Anzahl Inputfeatures und der Modellkomplexität auf die verschiedenen Vorhersagehorizonte untersucht.
Die Evaluation der Modelle auf einem Testdatensatz erfolgt quantitativ anhand der Fehlermetriken MAE, RMSE und Pearson-Korrelation sowie qualitativ durch den Vergleich der Vorhersagekurven.

Ergebnisse

Die Resultate zeigen, dass LSTM-Modelle die Ozonkonzentration ausreichend genau vorhersagen und den 24-Stunden-Richtwert erfüllen. Das beste Modell erreichte ein MAE von 14.19 µg/m³, während das MAE der meisten Modelle zwischen 14 und 15 µg/m³ lag. Modelle mit mehr Inputfeatures liefern präzisere Vorhersagen, während einfache Modelle mit nur einem LSTM-Layer besser abschneiden als komplexere Modelle mit mehr LSTM-Layers. Die Modelle erfassen die tägliche Periodizität der Ozonkonzentration gut, zeigen jedoch Schwierigkeiten bei plötzlichen Abweichungen.
Ausserdem zeigt sich bei allen Modellen eine deutliche Tendenz zum Overfitting, da die Leistung auf den Validierungsdaten bereits nach wenigen Trainingsepochen stagniert. Der Einsatz von Dropout zur Reduktion dieses Effekts führt zu keiner signifikanten Verbesserung der Modellleistung.

Diskussion

Die Fragestellung kann insgesamt positiv beantwortet werden. Die Modelle erreichen gemäss dem definierten Richtwert eine ausreichende Genauigkeit, um für praktische Anwendungen eingesetzt zu werden. Mehr Inputdaten liefern den Modellen zusätzlichen Kontext und verbessern die Vorhersagequalität, während eine erhöhte Modellkomplexität nicht zwangsläufig zu besseren Ergebnissen führt.
Die schwächere Leistung mehrschichtiger Modelle lässt sich damit erklären, dass diese eine deutlich höhere Anzahl an Parametern besitzen und somit umfangreichere Datensätze benötigen, um diese effizient zu trainieren. Das beobachtete Overfitting ist eine bekannte Eigenschaft neuronaler Netze.
Die Schwierigkeiten bei der Vorhersage von Ausreissern sind darauf zurückzuführen, dass LSTM-Modelle primär darauf ausgelegt sind, Muster und Trends zu erlernen, und daher Konzentrationsveränderungen gemäss erlernter Regelmässigkeiten erwarten – was in der Realität nicht immer zutrifft.

Schlussfolgerungen

Die Arbeit zeigt, dass LSTM-Modelle zeitliche Muster der Ozonkonzentration erfolgreich erlernen können. Entgegen der Erwartungen liefern jedoch einfachere Modelle bessere Resultate als komplexere Architekturen.
Für zukünftige Arbeiten bietet sich die Untersuchung weiterer Schadstoffe sowie anderer Standorte an, um die Ergebnisse zu generalisieren.
Neben Dropout könnten auch andere Regularisierungstechniken getestet werden, um dem Overfitting entgegenzuwirken. Zudem wäre es interessant, die Leistung der Modelle für die Multi-Step-Vorhersage der Ozonkonzentration zu untersuchen.

 

 

Würdigung durch den Experten

Dr. Stefan Ganscha

Die Prognose von bodennahen Ozonwerten ist aufgrund der zugrunde liegenden Dynamiken komplex. Diego Muzzarelli begegnet dieser Aufgabe in seiner empirischen Machine-Learning-Arbeit systematisch. Besonders erwähnenswert sind die Datenaufbereitung (modifizierter Tukey-Fence, KNN-Imputation) und die Evaluationen (Block-Bootstrapping). In der Modellierung mit LSTMs analysiert er kritisch schlanke Architekturen und adressiert das Overfitting. Mit dem Erreichen praxisrelevanter Richtwerte für den 24-Stunden-Horizont liefert er eine überzeugende Arbeit zur computergestützten Umweltanalyse in Zürich.

Prädikat:

Bronze

 

 

 

Kantonsschule Uster
Lehrerin: Julia Imhof