Różnego rodzaju uprzedzenia często są przekazywane poprzez doświadczenia kulturowe i osobiste. Podczas gromadzenia danych oraz wykorzystywania ich do szkolenia modeli uczenia maszynowego, dziedziczone są uprzedzenia osób tworzących te informacje, co daje nieoczekiwane i potencjalnie szkodliwe wyniki. Jednak, pomimo ryzyka wystąpienia pułapek prawnych i finansowych, związanych z obecnością tendencyjności danych, brakuje zrozumienia w zakresie konieczności prowadzenia szkoleń oraz odpowiedniej modyfikacji procesów i mechanizmów przetwarzania informacji, potrzebnych do skutecznego radzenia sobie z tym zjawiskiem.
Przeprowadzone przez Progress badanie wykazało, że 78% osób odpowiedzialnych za podejmowanie decyzji biznesowych i związanych z IT uważa, iż różnego rodzaju uprzedzenia obecne w danych staną się większym problemem wraz ze wzrostem wykorzystania AI/ML. Jednak tylko 13% obecnie zajmuje się tym zjawiskiem i wypracowało stały proces oceny jego skali. Największe bariery, jakie dostrzegają ankietowani, to brak świadomości występowania tendencyjności danych, zrozumienia, jak identyfikować uprzedzenia, a także brak dostępu do zasobów eksperckich, takich jak konsultacje z naukowcami zajmującymi się danymi.
Z badania dowiadujemy się, że:
- 66% przedsiębiorstw przewiduje, że w najbliższych latach będzie w coraz większym stopniu polegać na podejmowaniu decyzji z wykorzystaniem sztucznej inteligencji i uczenia maszynowego.
- 65% menedżerów uważa, że w ich przedsiębiorstwie występuje obecnie zjawisko tendencyjności danych.
- 77% ankietowanych twierdzi, że w ich firmie powinno się podejmować intensywniejsze działania, aby rozwiązać problem tendencyjności danych.
- 51% badanych uważa, że brak świadomości istnienia zjawiska tendencyjności danych oraz niedocenianie jego negatywnego wpływu będzie stanowił barierę w rozwiązywaniu tego problemu.
– Każdego dnia tendencyjność danych może negatywnie wpływać na działalność biznesową oraz podejmowanie decyzji. Rośnie ryzyko zagrożenia dla bezpieczeństwa i ładu, utraty zaufania klientów, implikacji finansowych oraz potencjalne konsekwencje prawne i etyczne. Dlatego, w ramach strategii stawiania naszych polskich klientów w centrum wszystkiego, co robimy, chcemy zapewnić, że korzystając z narzędzi AI/ML będą oni uzbrojeni w odpowiednie informacje, aby podejmować najlepsze biznesowe decyzje – Niklas Enge, Dyrektor Regionalny Nordics i Polska w firmie Progress.