20/07/2026
🤖 Sztuczna inteligencja coraz częściej staje się „współbadaczem”, który razem z nami diagnozuje nowotwory, wybiera cząsteczki pod nowe leki czy analizuje zdjęcia satelitarne. Gdy AI współdecyduje o zdrowiu, bezpieczeństwie i kierunkach badań, nie wystarczy już wiedzieć, „co model przewidział” i po prostu mu ufać – kluczowe staje się zrozumienie, „dlaczego podjął taką decyzję” i jak przebiega jego tok rozumowania.
💡 To właśnie zadanie wyjaśnialnej AI (XAI), której znaczenie podkreśla także europejski „AI Act”: systemy wysokiego ryzyka, zwłaszcza w medycynie czy autonomii, nie mogą być nieprzeniknioną „czarną skrzynką” – użytkownik musi umieć zinterpretować ich wyniki. W najnowszym numerze „Alma Mater” Adam Wróbel, Dawid Rymarczyk i Bartosz Zieliński z Jagiellońskiego Centrum Sztucznej Inteligencji proponują metodę DAVE – nowe narzędzie wyjaśniania stworzone specjalnie dla popularnych dziś modeli Vision Transformer. DAVE oddziela to, co wynika z prawdziwego sygnału w obrazie, od tego, co jest tylko „odciskiem” architektury modelu. Dzięki temu lekarz, ekolog czy materiałoznawca widzą na mapie istotności te fragmenty zdjęcia, które rzeczywiście zaważyły na decyzji, a nie przypadkowy szum.
✨ Eksperymenty pokazują, że takie wyjaśnienia są nie tylko czytelniejsze wizualnie, ale przede wszystkim bardziej wiarygodne. Więcej na ten temat przeczytasz w letnym wydaniu miesięcznika Uniwersytetu Jagiellońskiego.
