Waarom we AI-klimaatmodellen (nog) niet blindelings moeten vertrouwen
Je vertrouwt je navigatiesysteem, ook al snap je niet precies hoe het de snelste route berekent. Bij AI-modellen die het weer of klimaat voorspellen, ligt dat lastiger. Wetenschappers willen namelijk wél weten waarom zo'n model tot een voorspelling komt, voordat ze het echt gaan gebruiken. Een nieuw onderzoek laat zien dat de tools die dat inzicht moeten geven, vaak tekortschieten.
Steeds meer weer- en klimaatvoorspellingen worden gemaakt met kunstmatige intelligentie (AI). Deze modellen zijn razendsnel en vaak verrassend nauwkeurig. Maar ze werken als een soort zwarte doos: je ziet wat erin gaat en wat eruit komt, maar niet wat er precies binnenin gebeurt. Om toch te snappen hoe zo'n model denkt, gebruiken onderzoekers "uitlegbare AI" (in het Engels: explainable AI, afgekort XAI). Dat zijn technieken die proberen te tonen welke informatie een AI-model het zwaarst laat wegen bij zijn voorspelling.
Het probleem is: de meeste van deze uitlegtechnieken zijn oorspronkelijk gemaakt voor een ander soort taak. Ze zijn ontworpen om AI te helpen bij het indelen van dingen in categorieën, bijvoorbeeld "is dit een foto van een kat of een hond". Klimaatmodellen doen echter iets anders: ze voorspellen een precieze waarde, zoals de temperatuur van morgen. Dat heet een regressietaak. De onderzoekers vroegen zich af of de bestaande uitlegtechnieken wel geschikt zijn voor dit soort voorspellingen.
Getest op een chaotisch systeem
Om dit te onderzoeken, gebruikte het team een bekend wiskundig model: het Lorenz-63-systeem. Dit is een simpel maar chaotisch systeem, vaak gebruikt als testcasus omdat het lastig te voorspellen gedrag vertoont, vergelijkbaar met echte weerpatronen. De onderzoekers bouwden een AI-model dat dit systeem nabootst, en pasten daar verschillende uitlegtechnieken op toe.
De uitkomst: de bestaande uitlegmethoden vertonen duidelijke zwakke plekken en storingen ("failure modes") zodra ze worden ingezet voor dit soort voorspellingsproblemen. Ze zijn simpelweg niet goed toegesneden op de manier waarop klimaatmodellen werken. Vervolgens bekeken de onderzoekers hoe deze en vergelijkbare technieken in de praktijk worden gebruikt binnen de aardwetenschappen, en troffen daar dezelfde beperkingen aan.
De onderzoekers pleiten voor een aanpak op maat. Verschillende groepen gebruikers, denk aan wetenschappers die een model bouwen versus weerdiensten die het dagelijks toepassen, hebben andere soorten uitleg nodig. Ze sluiten af met concrete aanbevelingen om uitlegbare AI verantwoord in te zetten bij klimaat- en weervoorspellingen.
Wat betekent dit (nog) niet: Dit onderzoek betekent niet dat AI-klimaatmodellen zelf onbetrouwbaar zijn. Het gaat specifiek over de tools die moeten uitleggen hóe die modellen tot hun voorspelling komen. Het is bovendien één onderzoeksteam dat dit heeft onderzocht, met name aan de hand van één testmodel (Lorenz-63). Of dezelfde problemen optreden bij alle grote operationele klimaatmodellen, moet nog verder blijken.
Voor de praktijk betekent dit vooral dat er meer werk nodig is voordat we AI-klimaatmodellen volledig kunnen doorgronden. Zolang de uitlegtechnieken zelf nog kinderziektes hebben, is voorzichtigheid op zijn plaats bij het interpreteren van wat een AI-model precies "geleerd" heeft.