AI doradcą klienta w e-commerce, czyli wyzwania w budowaniu modelu opartego o wewnętrzne know-how

Prezentacja wprowadza koncepcję Retrieval Augmented Generation (RAG) jako sposobu na budowę asystenta AI w e-commerce opartego o wewnętrzne know-how firmy, który może doradzać klientom i rekomendować produkty. Talk zaczyna się od wyjaśnienia czym są duże modele językowe (LLM, np. ChatGPT) i ich ograniczeń: dobrze radzą sobie z przetwarzaniem tekstu (tworzenie postów, redakcja, streszczanie, zmiana stylu, wykrywanie spamu), ale słabo radzą sobie ze stwierdzaniem faktów, wiedzą specjalistyczną i nie znają wewnętrznych informacji o firmie — w dodatku nie przyznają się do błędów. Rozwiązaniem przedstawianym w prelekcji jest RAG w trzech krokach: (1) wyszukanie źródła wiedzy, (2) przekazanie go do modelu, (3) wygenerowanie odpowiedzi opartej o to źródło. Zastosowania obejmują porównywanie produktów, wykorzystanie wewnętrznego know-how i inne scenariusze. Część case study pokazuje budowę asystenta AI rekomendującego produkty na podstawie danych katalogowych (tytuł, opis, specyfikacja techniczna, zdjęcia). Omawiane możliwości: instrukcje kierujące modelem (dopytywanie o atrybuty produktowe, wiedza ekspercka), wielojęzyczność (polski, angielski, niemiecki, chiński, hiszpański, arabski, francuski), dopasowanie stylu (formalny / casualowy) do wizerunku marki, automatyczne generowanie opisów do zdjęć produktowych, rekomendacje, moderowanie opinii/komentarzy/spamu. Wyzwania wdrożeniowe: zgodność z RODO i prywatność danych (ryzyko wycieku przy wysyłaniu danych poza firmę — przywołany przykład Samsunga, wybór chmura vs. lokalna maszyna), jakość źródeł wiedzy ("garbage in, garbage out"), trafne wyszukiwanie oraz bariery technologiczne modeli. Zamknięcie danymi rynkowymi: AI może zwiększyć produktywność o 40% do 2035 r. (PWC); 64% właścicieli firm widzi w AI sposób na lepsze relacje z klientami (Forbes Advisor); 44% organizacji pracuje nad włączeniem AI do aplikacji i procesów (IBM). Wymienieni główni gracze: NVIDIA, Meta, Google, Microsoft, OpenAI (z odniesieniem do Sory). Prelegent reprezentuje software house/agencję e-commerce tworzącą platformy B2B i B2C oraz dedykowane rozwiązania AI. Format: wprowadzenie konceptualne + case study, poziom podstawowo-średniozaawansowany.