AI analizuje informacje, ale czy rozumie biznes? Połowa firm wyciąga błędne wnioski z danych

Niemal 2 na 3 liderów biznesowych (64 proc.) analizuje i interpretuje dane przy pomocy sztucznej inteligencji. Zaledwie co drugi (53 proc.) zgłasza się w tym celu po pomoc specjalistów technicznych^[1]. Badania te wskazują na coraz większe zapotrzebowanie firm na szybkie przetwarzanie informacji i wyciąganie wniosków. Okazuje się jednak, że efekt jest często odwrotny do zamierzonego. Prawie połowa analityków (49 proc.) zauważa istotny problem: organizacje podejmują błędne decyzje na podstawie danych, w których pominięto lub nieprawidłowo zinterpretowano kontekst biznesowy^[2]. Eksperci transformacji cyfrowej wskazują, że częściowo za sytuację tę odpowiadają narzędzia AI.

Błędy sztucznej inteligencji nie zawsze wynikają z halucynacji

Aż 74 proc. użytkowników narzędzi analitycznych opartych na AI przyznaje, że wykorzystało w swojej pracy wyniki, które okazały się błędne^[3]. Częstą przyczyną takiej sytuacji są tzw. halucynacje – niektóre modele sztucznej inteligencji mają tendencję do generowania fałszywych statystyk lub podawania nieprawdziwych informacji. Za ograniczenia te odpowiadają między innymi niezoptymalizowane prompty, metody trenowania AI oraz brak systemów kontrolujących kontekst zapytań. W konsekwencji narzędzia mogą przykładowo wskazać błędną przyczynę spadku sprzedaży określonego produktu lub uznać trendy dotyczące wąskiej grupy konsumentów za typowe dla wszystkich.

Jak zauważa Maciej Wawrzyniak, Dyrektor obszaru baz danych i inżynierii danych w Linux Polska, źródłem problemu nie są wyłącznie halucynacje. Zdarza się, że na drodze do wartościowych wniosków stoi trudność w użytkowaniu narzędzi.

– Aż 63 proc. analityków twierdzi, że błędy wynikają z problemów podczas przekładania kwestii biznesowych na zapytania techniczne. Niemal wszyscy (93 proc.) są zgodni, że wyniki generowane przez narzędzia AI byłyby lepsze, gdyby pytania dotyczące danych były zadawane w języku naturalnym^[4]. Faktycznie, jeśli rozwiązania dostępne w organizacji wymagają przykładowo znajomości SQL (strukturalnego języka zapytań), wiele osób nie będzie potrafiło korzystać z pełni ich potencjału. Dlatego tak ważne jest dostosowanie ich do potrzeb pracowników operacyjnych czy analityków. Chatboty powinny umożliwiać zadawanie pytań w języku naturalnym, a następnie automatyczne tłumaczyć je na zapytania SQL – tłumaczy Maciej Wawrzyniak, Dyrektor obszaru baz danych i inżynierii danych w Linux Polska.

Sztuczna inteligencja musi zrozumieć organizację

Paradoksem jest, że nawet poprawnie wykonana analiza AI czasami nie przynosi wartości firmie. Dzieje się tak wtedy, gdy wyniki nie uwzględniają specyfiki konkretnej organizacji, jej możliwości i ograniczeń, a także celu, który chce osiągnąć. Liderzy biznesowi zdają sobie sprawę ze znaczenia kontekstu w analizie danych. Aż 93 proc. z nich wskazuje, że jest on niezbędny do wyciągnięcia właściwych wniosków^[5]. Niemal połowa analityków (49 proc.) zauważa jednak, że wymóg ten nie zawsze jest spełniony^[6].

– Analiza nie powinna być oderwana od kontekstu rynkowego, w którym funkcjonuje firma. Dlatego w strukturze plików z danymi należy uwzględniać możliwie szczegółowe metadane kontekstowe, opisujące na przykład cel biznesowy zebranych informacji, ich źródła i pochodzenie, a także definicje istniejących wskaźników. Taki opis ogranicza ryzyko generowania przez narzędzia AI błędnych wniosków i zaleceń – mówi Tomasz Dziedzic, CTO Linux Polska.

Ekspert dodaje, że pominięcie tego aspektu często skutkuje inwestowaniem w nieopłacalne projekty czy niedopasowaniem oferty do potrzeb klientów. Co więcej, modele AI wykorzystywane do oceny zagrożeń mogą również wpłynąć na bezpieczeństwo organizacji.

– Analiza ryzyka musi bazować na szerokim kontekście biznesowym i technologicznym, np. specyfice branży, zmianach w licencjach oprogramowania, danych historycznych dotyczących cyberataków czy regulacjach prawnych, którym podlega organizacja. Dzięki temu działanie narzędzia AI nie ogranicza się do wskazania podatności – obejmuje również potencjalne zagrożenia oraz ich wpływ na ciągłość działania firmy – mówi Tomasz Dziedzic, CTO Linux Polska.

Decyzje podejmowane w chaosie informacyjnym

Poważnym wyzwaniem jest także przygotowanie organizacji do wdrożenia narzędzi AI. Analitycy szacują, że ilość informacji przetwarzanych przez organizacje rośnie w dużym tempie – o ok. 30 proc. rocznie^[7]. Gromadzenie danych z różnych źródeł często skutkuje rozproszeniem infrastruktury. Przeciętna firma korzysta już z 21 usług chmurowych i 21 operacyjnych baz danych wspierających codzienną działalność. Informacje dotyczące klientów również nie są przechowywane w jednym miejscu. Organizacje wykorzystują do tego celu średnio 15 różnych platform^[8].

Rozproszenie źródeł danych oraz nieuporządkowana struktura przechowywanych informacji to jedna z głównych przyczyn błędów w analityce. Z tego względu duże znaczenie ma wybór rozwiązań oraz ich integracja ze środowiskiem IT, co podkreśla Tomasz Sąciński, Senior Solutions Architect w Linux Polska.

– Rosnący wolumen danych sprawia, że firmom coraz trudniej kontrolować gromadzone zasoby. Rozproszona infrastruktura utrudnia również zadanie narzędziom analitycznym. Problemem jest z jednej strony brak spójnych i pełnych informacji, z drugiej zaś – utrudniona komunikacja między rozwiązaniami AI a bazami danych czy systemami IT organizacji. Dlatego wybór konkretnych modeli powinien być uzależniony przede wszystkim od potrzeb biznesowych i możliwości ich integracji z istniejącą infrastrukturą – dodaje Tomasz Sąciński, Senior Solutions Architect w Linux Polska.

Wykorzystanie sztucznej inteligencji do analizy danych może przyspieszyć realizację żmudnych zadań, poprawić efektywność zespołów i zwiększyć szansę na podjęcie słusznych decyzji. Ryzyka związane z wdrożeniem AI wynikają nie tylko z technicznych ograniczeń, takich jak halucynacje. Problemem może być także jakość danych wejściowych, utrudniona integracja ze środowiskiem IT, a nawet wybór nieodpowiednich rozwiązań. Duże znaczenie dla skuteczności analiz ma warstwa semantyczna, która nadaje danym kontekst biznesowy i ułatwia modelom interpretację informacji. Według szacunków inwestowanie w ten obszar może zwiększyć dokładność agentów AI nawet o 80 proc.^[9] To z kolei ograniczy ryzyko podejmowania złych i często kosztownych decyzji w firmach.