← Powrót do projektówNauka
Identyfikowalność i wyjaśnialność modeli uczenia z nagród i kar na przykładzie Iowa Gambling Task
Python · SciPy · NumPy · emcee · metody Monte Carlo · statystyka bayesowska · modelowanie matematyczne · optymalizacja numeryczna
Współczesne systemy sztucznej inteligencji, choć skuteczne, często działają jako „czarne skrzynki”. W branżach regulowanych (medycyna, finanse) kluczowe jest stosowanie modeli, które nie tylko przewidują, ale też wyjaśniają mechanizm podejmowania decyzji.
W ramach tego projektu przeprowadziłem kompleksowy audyt stabilności i wiarygodności wiodących modeli uczenia ze wzmocnieniem (RL) symulujących zachowania decyzyjne. Zaprojektowałem autorską architekturę o znacznie wyższej odporności na szum oraz stworzyłem rygorystyczny, uniwersalny potok diagnostyczny, który matematycznie weryfikuje, kiedy i w jakim stopniu można zaufać wyjaśnieniom generowanym przez algorytmy AI.
Główne osiągnięcia i wkład inżynieryjny
- Zaprojektowanie odpornej architektury RL (podwojenie stabilności modelu): Opracowałem i przetestowałem autorski model uczenia ze wzmocnieniem, który łączy asymetryczną ocenę ryzyka (Teorię Perspektywy) z dynamicznym śledzeniem niepewności (mechanizm inspirowany Filtrem Kalmana). Nowa architektura pozwoliła na podwojenie stabilności estymacji parametrów (wzrost z ~38% w modelach referencyjnych do aż 76,2% całej przestrzeni roboczej), co drastycznie zwiększa rzetelność generowanych wyjaśnień.
- Budowa potoku symulacyjnego (stress-testing na poziomie 50k+ prób): Zaprojektowałem i wdrożyłem wielopoziomowy potok walidacyjny oparty na wielowymiarowym próbkowaniu przestrzeni (Latin Hypercube Sampling) oraz metodach bootstrapowych. Dzięki temu zdemaskowałem krytyczne wady powszechnie stosowanej estymacji punktowej (MLE) i udowodniłem, że standardowe metryki raportujące błędy (oparte na macierzy Hessego) wykazują skrajną nadpewność (overconfidence), co w realnych wdrożeniach grozi podejmowaniem błędnych decyzji na podstawie losowego szumu.
- Wdrożenie bayesowskiego audytu modeli (przełamywanie ograniczeń optymalizatorów): Zastąpiłem klasyczną, punktową optymalizację gradientową probabilistycznym próbkowaniem bayesowskim przy użyciu metod Monte Carlo (MCMC). Stworzyłem framework, który potrafi wydobyć czysty sygnał informacyjny z bardzo zaszumionych sekwencji danych w 96% przypadków, w których tradycyjne algorytmy gradientowe poddawały się i błędnie klasyfikowały parametry jako całkowicie nieodzyskiwalne.
- Odkrycie dysocjacji diagnostycznej (wiarygodna klasyfikacja mimo szumu): Opracowałem metodologię mapowania globalnej przestrzeni zachowań systemów decyzyjnych (PSP) i nałożyłem ją na rozkłady błędów estymacji. Udowodniłem, że wysokopoziomowa klasyfikacja strategii i segmentacja użytkowników pozostaje w pełni stabilna i bezpieczna, nawet gdy szczegółowe parametry ilościowe na najniższym poziomie są obarczone silnym szumem numerycznym. Pozwala to na bezpieczne wdrażanie systemów kategoryzacji o bardzo wysokim stopniu pewności.
- Mitygacja ryzyka błędu systematycznego w personalizacji modeli: Przeprowadziłem rygorystyczną analizę wpływu metod hierarchicznego dociągania parametrów do średniej (shrinkage). Wykazałem, że popularne techniki uśredniające maskują unikalne, atypowe zachowania (np. anomalie czy rzadkie patologie), sztucznie dociągając je do "normy". Sformułowałem rygorystyczny postulat stress-testowania modeli na "czystych danych" (flat priors) w celu ochrony systemów AI przed błędami algorytmicznymi i niezamierzoną dyskryminacją unikalnych profili.