W czerwcu 2023 roku Parlament Europejski przegłosował projekt AI Act, mający na celu regulację korzystania ze sztucznej inteligencji w celu zwiększenia bezpieczeństwa dla odbiorców. Nowe przepisy będą miały wpływ na przedsiębiorstwa we wszystkich branżach, w tym również na sektor handlu detalicznego (retail).

Projekt AI Act ma na celu ustanowienie zasad dotyczących implementacji systemów sztucznej inteligencji, a w szczególności wprowadzenia na rynek oraz użytkowania. W praktyce oznacza to, że wszystkie systemy AI wspierające biznes będą musiały spełniać wymagania transparentności. Przykładowo firmy handlowe wykorzystujące boty do rozmów z klientami będą miały obowiązek poinformowania interlokutora, że rozmawia z maszyną. Firmy handlowe przygotowując się do działań zgodnych z prawem dotyczącym AI powinny więc wiedzieć, jakie rozwiązania wykorzystujące tę technologię są stosowane w organizacji.

Co branża może zrobić z tą wiedzą dziś?

Choć ustawa AI Act wejdzie w życie najwcześniej za mniej więcej rok, przedsiębiorstwa już teraz mogą wdrożyć politykę AI zgodną z przygotowywanymi przez Komisję Europejską przepisami, w tym procedury jej wykorzystania. Wczesne dostosowanie się do nowych regulacji pozwoli firmom uniknąć przyszłych problemów prawnych i operacyjnych, a także zbudować przewagę konkurencyjną.

Na początek – inwentaryzacja

W pierwszej kolejności należy zidentyfikować obszary, w których AI jest lub będzie stosowana, a także przeprowadzić inwentaryzację wykorzystywanych narzędzi. Następnie należy określić ramy jej zastosowania – przypisać zadania, jakie ma wykonywać AI oraz zasady wykorzystania (ograniczenia i dopuszczenia).

Jak rozpoznać AI w organizacji (aplikacje/funkcje)?

AI rozpoznaje mowę i obrazy oraz dokonuje obliczeń na wielkich zbiorach danych, dlatego warto zwrócić uwagę na:

• przeglądarki internetowe i komunikatory – np. automatyczne tłumaczenie stron www, asystenci rozmowy w komunikatorze, od których można uzyskać szybkie odpowiedzi lub podpowiedzi, automatyczne tłumaczenia, np. podczas negocjacji handlowych;
• boty, wirtualni asystenci – występujące w automatyzacji obsługi pracowników i klientów;
• aplikacje biometryczne w systemach IT, urządzeniach – np. rozpoznawanie twarzy przez system w ramach uwierzytelniania użytkowników;
• aplikacje typu Office i wspierające prace biurowe z odczytywaniem głosu – np. możliwość dyktowania treści maili i wydawania poleceń systemowi lub aplikacji;
• kreatory treści pisanych i obrazów – np. tworzenie ofert handlowych i grafik na potrzeby sprzedaży produktów;
• aplikacje biznesowe z rozpoznawaniem i klasyfikowaniem obrazów – np. automatyczne rozpoznawanie rodzaju dokumentu i wprowadzanie go w odpowiednie miejsce systemu IT lub przekierowywanie do konkretnej osoby w firmie.

Aplikacje wspierające e-handel (platformy sprzedaży/e-sklepy)

Konkretne funkcje jak niżej wskazują na wbudowaną technologię AI:

• inteligentne prognozowanie popytu – np. na bazie analizy historycznych danych sprzedażowych, trendów rynkowych, czynników sezonowych itp.;
• personalizacja oferty i rekomendacje produktowe oparte na analizie zachowań i preferencji klientów;
• optymalizacja łańcucha dostaw, procesów logistycznych – np. poprzez planowanie tras dostaw, zarządzanie zapasami i stanami magazynowymi;
• detekcja oszustw i anomalii – np. wykrywanie podejrzanych transakcji, prób wyłudzeń lub innych nieprawidłowości;
• analityka i wsparcie decyzyjne – np. analizy danych sprzedażowych, trendów rynkowych, zachowań klientów oraz generowanie raportów, wizualizacji i rekomendacji, które wspierają kadrę zarządzającą w podejmowaniu strategicznych decyzji.

Wykonane inwentaryzacja i określenie ram wykorzystania AI w firmie pozwolą przejść dalej – do bezpiecznego zarządzania tym obszarem. Właściwe zarządzanie AI, zwłaszcza w kontekście nadchodzącego AI Act, wymaga podjęcia szeregu kluczowych działań. Przede wszystkim konieczna jest analiza wykorzystywanych systemów sztucznej inteligencji, gdyż zgodnie z planowanymi przepisami różne kategorie systemów AI podlegają zróżnicowanym wymogom regulacyjnym. Kolejno warto przeprowadzić pełną ocenę ryzyka związanego z wykorzystywaniem tych systemów, identyfikując potencjalne luki w zakresie cyberbezpieczeństwa i wdrożyć środki zaradcze. Jednym z przykładowych, częstych ryzyk jest korzystanie z zewnętrznych narzędzi generujących obrazy lub teksty dla potrzeb stworzenia oferty, co może się wiązać z naruszeniem praw autorskich.

Stworzenie polityk i procedur zgodnych z kategoryzacją ryzyka związanego z wykorzystaniem sztucznej inteligencji, prowadzenie rzetelnej dokumentacji i rejestrów działań związanych z systemami AI oraz szkolenie pracowników w zakresie etycznego wykorzystywania AI stanowią kolejne, istotne kroki we właściwym podejściu do zarządzania sztuczną inteligencją.

Pamiętajmy, że AI jest niedoskonała i może popełniać błędy. Jest tylko narzędziem, dlatego wiedza o tym, gdzie się znajduje w organizacji, zbudowanie reguł jej wykorzystania i przeszkolenie pracowników są bardzo ważne dla bezpieczeństwa firmy. Wdrożenie odpowiednich działań pomoże przedsiębiorcom bezpiecznie korzystać z AI, pozostając w zgodzie wymogami AI Act. Potencjał sztucznej inteligencji jest ogromny, ale musi być wykorzystywany w sposób odpowiedzialny i zgodny z prawem.

Robert Zyskowski, CTO, Grupa Symfonia

\