Na początku algorytmy były niewidzialne. Nie decydowały o kredytach, nie wspierały lekarzy, nie analizowały ryzyka przestępstw. Były prostymi zestawami reguł: jeśli X, to Y. Kalkulatory, pierwsze systemy komputerowe, automatyczne procedury w administracji. Nie zastępowały decyzji. One je tylko porządkowały. Do czasu…
Reguły zamiast ludzi
Pierwsze „algorytmy decyzyjne” w instytucjach publicznych pojawiły się wraz z cyfryzacją administracji. Systemy zaczęły:
- przetwarzać dane podatkowe,
- automatyzować przyznawanie świadczeń,
- klasyfikować dokumenty.
To był moment, w którym decyzje zaczęły być standaryzowane.
Nie było jeszcze mowy o sztucznej inteligencji. Ale pojawiło się coś ważnego: przekonanie, że system może być bardziej spójny niż człowiek.
Dane zaczynają mówić więcej niż reguły
Przełom przyszedł wraz z rozwojem uczenia maszynowego. Zamiast pisać reguły, zaczęto uczyć systemy na danych kto spłaca kredyty, gdzie częściej dochodzi do nadużyć, jakie czynniki wpływają na ryzyko. I nagle algorytmy przestały tylko wykonywać polecenia. Zaczęły przewidywać.
To wtedy weszły do obszarów, które wcześniej były „ludzkie”:
- scoring kredytowy,
- systemy rekomendujące kontrole podatkowe,
- wsparcie decyzji medycznych.
Decyzja nadal należała do człowieka. Ale coraz częściej była podejmowana na podstawie tego, co pokazał system.
Algorytmy wchodzą w przestrzeń publiczną
Dziś jesteśmy w momencie przejściowym. Algorytmy nie są już tylko narzędziem w tle. Stają się aktywnym uczestnikiem procesów decyzyjnych.
Systemy AI są wykorzystywane m.in. do wykrywania oszustw i nadużyć, zarządzania ruchem miejskim, wspierania decyzji w ochronie zdrowia, analizowania ryzyka w systemach społecznych i finansowych.
Problem, który pojawił się po drodze
Wraz z rosnącą rolą algorytmów pojawiło się coś, czego wcześniej nie było na taką skalę: brak przejrzystości.
W klasycznym modelu decyzji można było zapytać:
- kto zdecydował,
- dlaczego,
- na jakiej podstawie.
W modelu opartym na AI odpowiedź bywa mniej oczywista. Badacze opisują to jako problem „czarnej skrzynki”. System podejmuje decyzję, ale nie zawsze potrafimy w pełni wyjaśnić jego logikę.
A to w kontekście publicznym zmienia wszystko.
Bo jeśli decyzja dotyczy:
- przyjęcia na studia,
- przyznania świadczenia,
- oceny ryzyka,
to pojawia się fundamentalne pytanie: kto bierze za to odpowiedzialność?
Czy algorytmy są obiektywne?
Jedna z największych iluzji dotyczących AI polega na przekonaniu, że jest neutralna.
W rzeczywistości algorytmy uczą się na danych. A dane odzwierciedlają świat — razem z jego nierównościami i błędami.
W związku z tym systemy mogą:
- wzmacniać istniejące uprzedzenia,
- utrwalać nierówności,
- podejmować decyzje, które wydają się „obiektywne”, ale nie są sprawiedliwe.
Gdzie jesteśmy dzisiaj?
Obecny model nie polega na tym, że algorytmy zastępują ludzi. Polega na tym, że ludzie coraz rzadziej decydują bez nich. System analizuje dane. Proponuje rozwiązanie. Człowiek podejmuje decyzję.
Tyle że w praktyce bardzo trudno jest ignorować rekomendację systemu — szczególnie jeśli opiera się na tysiącach danych.
Dlatego badacze mówią dziś raczej o współdecydowaniu człowieka i algorytmu, niż o zastępowaniu.
A co dalej?
Najbardziej realistyczny scenariusz nie jest ani dystopią, ani utopią.
Algorytmy będą:
- coraz dokładniejsze,
- coraz szybsze,
- coraz bardziej obecne w decyzjach publicznych.
Będą wspierać:
- planowanie polityk publicznych,
- zarządzanie miastami,
- systemy zdrowia i edukacji.
Ale jednocześnie rosnąć będzie presja na:
- transparentność,
- regulacje,
- kontrolę.
Unia Europejska już wprowadza przepisy, które ograniczają użycie AI w najbardziej wrażliwych obszarach. To sygnał, że technologia rozwija się szybciej niż systemy, które mają ją kontrolować.