Zjawisko tendencyjności danych
Według badania Harvard Business Review:
-
Brak różnorodności w zespołach: Zespoły AI często składają się z jednorodnych kulturowo mężczyzn z doktoratami, co ogranicza perspektywę.
-
Kwalifikacje nie rozszerzają perspektywy: Pomimo wysokich kwalifikacji, pracownicy ci często nie są w stanie rozszerzyć swojej perspektywy na społeczności, których nie reprezentują.
Efektem takiej sytuacji jest powstawanie algorytmów, które nie mogą asystować firmom w podejmowaniu sprawiedliwych, inkluzywnych decyzji, ponieważ dysponują informacjami reprezentującymi jedynie wąską część populacji
Przykłady i konsekwencje tendencyjności danych
Tendencyjność danych może wpływać na różne obszary funkcjonowania przedsiębiorstwa. Ciekawy przykład przytoczył Jakub Andrzejewski, Business Development Manager na Polskę:
Stosunkowo niedawno jeden ze znanych sprzedawców detalicznych odkrył wadę w swoim zautomatyzowanym systemie rekrutacji. Okazało się, że algorytm docelowo obsadzał wolne stanowiska technologiczne mężczyznami, ignorując równie dobrze wykwalifikowane kandydatki.
Konsekwencje tendencyjności danych mogą być poważne:
- Straty wizerunkowe dla firm
- Straty finansowe
- Niemożność pełnego wykorzystania potencjału AI
Świadomość firm i działania przeciwdziałające
Badanie przeprowadzone przez firmę Progress i zaprezentowane w raporcie Data Bias: The Hidden Risk of AI wykazało rosnącą świadomość firm dotyczącą problemu tendencyjności danych:
- 78% firm uważa, że problem będzie się nasilać
- 45% rozpoczęło prace nad wdrożeniem polityki zmniejszającej ryzyko
- 36% zaczęło zgłębiać istotę problemu
- Tylko 13% opracowało stały proces oceny skali zjawiska
Główne bariery w walce z tendencyjnością danych to:
- Brak powszechnej świadomości problemu
- Niewystarczające zrozumienie procesu identyfikacji uprzedzeń
- Ograniczony dostęp do zasobów eksperckich
Aby przeciwdziałać tendencyjności danych, firmy powinny:
-
Zadbać o zróżnicowanie personelu pracującego nad AI – skład zespołów powinien być bardziej różnorodny pod względem kulturowym i zawodowym.
-
Przeprowadzać szkolenia z zarządzania zbiorami danych – treningi dotyczące zarządzania zbiorami danych i przeciwdziałania stronniczości są niezbędne
-
Regularnie sprawdzać dane pod kątem stronniczości, aktywnie monitorując dane na każdym etapie ich wykorzystania.
Całkowite wyeliminowanie problemu data bias będzie wymagało czasu i inwestycji. Brak reakcji może prowadzić do strat wizerunkowych oraz finansowych. Ponadto, niepełne wykorzystanie potencjału AI może hamować rozwój przedsiębiorstw. Dlatego walka z tendencyjnością danych jest decyzją zarówno etyczną, jak i biznesową.
Foto: Freepik
Zgłoś naruszenie/Błąd
Oryginalne źródło ZOBACZ
Dodaj kanał RSS
Musisz być zalogowanym aby zaproponować nowy kanal RSS