Jak obsłużyć 587 tys. transakcji na sekundę?

Wartość rynkowa firm działających w modelu marketplace pobudza wyobraźnię. Trend sprawia, że eCommerce, to gigantyczny obszar gospodarki zasilany nie tylko najnowszymi osiągnięciami technologii, lecz również masowo przetwarzanymi danymi. Jednym z graczy w branży, który cieszy się coraz lepszą rozpoznawalnością w Polsce jest Alibaba, która nie tylko stała się jedną z największych globalnych sprzedawców detalicznych i firm e-commerce, ale także znalazła się w pierwszej dziesiątce najbardziej wartościowych marek świata. Według rocznego raportu, przychody firmy w 2021 r. przekroczyły 109 miliardów dolarów amerykańskich. Co więcej, od marca 2022 r. Alibaba działa na Nowojorskiej Giełdzie Papierów Wartościowych i ma przybliżoną kapitalizację rynkową w oszałamiającej wysokości 322 miliardów dolarów. Alibaba jest także pierwsza na świecie jeśli chodzi o całkowitą wartość towarów sprzedanych, ponad dwukrotnie prześcigając w tym zakresie lidera rankingu najbardziej wartościowych marek świata i swojego głównego konkurenta – Amazon. Niewiele osób jednak wie, że Alibaba to także jedna z największych firm venture capital i jedna z największych korporacji inwestycyjnych na świecie, a jednym z jej głównych obszarów inwestycyjnych jest sztuczna inteligencja. Sprawia to, że Alibaba jest nie tylko jednym z topowych e-commerce, ale także jednym z liderów w zakresie sztucznej inteligencji.

Optymalizacja w czasie rzeczywistym

Alibaba, podobnie jak inne przedsiębiorstwa e-commerce, dąży do maksymalizacji przychodów poprzez optymalizację wirtualnych zakupów i rekomendowanie najbardziej trafionych dla danego użytkownika produktów. Jako że Alibaba ma niemal 1,3 miliarda aktywnych użytkowników na całym świecie, zarządzanie taką ilości ruchu przy jednoczesnej optymalizacji zakupów nie jest sprawą łatwą. Sprostanie temu wyzwaniu wymaga wykorzystania w szczególności uczenia maszynowego i sztucznej inteligencji w chmurze. Idea systemu rekomendacji Alibaby (ang. Recommendation System Framework, RSF) jest pozornie prosta: zoptymalizuj przepływ ruchu, jednocześnie aktualizując i oferując odpowiednie produkty konsumentom. Trzeba jednak pamiętać o tym, że wykonywanie tych wszystkich operacji powinno odbywać się w czasie rzeczywistym, w sposób niezauważalny dla użytkownika. Tylko w ten sposób zwiększyć można współczynnik klikalności i przychody firmy, a nie frustrację klientów z powodu opóźnień w działaniu systemu. Jak zatem działa system rekomendacyjny Alibaby, aby sprostać oczekiwaniom zarówno firmy, jak i klientów?

Różnorodność zamiast podobieństwa

Przed rokiem 2019 w swoim silniku rekomendacyjnym Alibaba używała funkcji skoncentrowanej na trafności rekomendacji, która oblicza stopień podobieństwa między poprzednimi klikniętymi i/lub zakupionymi produktami na platformie. W ten sposób analizując wcześniejsze wybory użytkownika rekomendowane mu były produkty podobne, jednak takie rozwiązanie miało pewną wadę – rekomendowane produkty były często zbyt podobne do siebie. Brakowało zróżnicowania, które mogłoby zwiększyć zainteresowanie użytkownika. Dlatego też Alibaba zmienił pierwotną funkcję rekomendacyjną opartą na podobieństwie w sposób pozwalający uwzględnić różnorodność rekomendacji i optymalizację odkrywania. Firma opracowała w tym celu silnik Rekomendacji Sztucznej Inteligencji (ang. Artificial Intelligence Recommendation, AIRec). Według Alibaby, silnik AIRec może analizować i przechwytywać zachowanie użytkowników w ciągu kilku sekund oraz dostarczać spersonalizowane rekomendacje w ciągu milisekund. Wszystko to jest możliwe pomimo jego zaawansowanej, hierarchicznej budowy opartej na czterech modułach wykorzystujących różne metody obliczeniowe, w tym uczenie maszynowe w różnych odsłonach.

Obsłużyć 587 tys. transakcji na sekundę

Rekomendacja w czasie rzeczywistym brzmi jak standard w dzisiejszych czasach. Co jednak jeśli trzeba obsłużyć 800 milionów klientów, oferując im produkty 290 tysięcy marek i przeprowadzić 583 tysiące transakcji na sekundę? Takimi statystykami poszczycić się może ostatni festiwal Double 11, czyli organizowany corocznie globalny festiwal zakupów online na platformie Alibaby, który odbywa się w pierwszych jedenastu dniach listopada (pierwotnie był to jeden dzień, 11 listopada). Zapotrzebowanie na moc obliczeniową zdolną obsłużyć taki ruch, jest ogromne. Zwłaszcza gdy używa się algorytmów sztucznej inteligencji, które same w sobie już wymagają sporej mocy obliczeniowej. Sprostanie tym wyzwaniom wymaga odpowiednio skalowalnych zasobów na żądanie, czyli takich które oferują większą moc wtedy gdy jest ona potrzebna, bez konieczności utrzymywania jej podczas spadków zapotrzebowania. Jako, że opieranie się na zasobach lokalnych jest w takiej sytuacji nieefektywne i nieekonomiczne, Alibaba wykorzystuje do obsługi swojego ogromnego (i zmiennego) ruchu zasoby chmurowe. Co jednak kryje się za sukcesem wykorzystania infrastruktury chmurowej podczas Double 11?

Trzy kluczowe technologie chmurowe podczas Double 11

• Elastic Computing Service (ECS) – czyli elastyczna konfiguracja obliczeniowa, która sprawia, że przetwarzanie danych jest bardziej efektywne i wydajne niż fizyczne serwery. Dzieje się tak, ponieważ ECS umożliwia użytkownikom natychmiastowe skalowanie zasobów obliczeniowych. Jest to także sposób bardziej niezawodny, opłacalny i stabilny niż fizyczne serwery. Według Alibabay, ich elastyczna konfiguracja obliczeniowa pozwoliła im pomóc klientom osiągnąć 30-procentowy wzrost liczby zapytań na sekundę i zmniejszyć opóźnienia o 60 procent.
• Cloud Content Delivery Network (CDN) – czyli odpowiednik serwerów fizycznych w chmurze. W przypadku Alibaby, technologia ta pozwoliła zarezerwować przepustowość ponad 100 Tb/s dla dziesiątek usług. Dzięki temu uzyskano szybszą dostępność treści, ulepszone czasy wczytywania witryny, poprawę bezpieczeństwo witryny oraz zmniejszone koszty przepustowości.
• Elastic GPU Service – czyli elastyczna usługa GPU, pozwalająca na wykorzystanie procesorów graficznych w sposób odpowiadający zapotrzebowaniu, a zatem w sposób skalowalny. Elastyczny procesor graficzny poprawia zasięg sieci, moc obliczeniową i wydajność sieci. Według Alibaby, elastyczne GPU pomogły zmniejszyć opóźnienie transmisji na żywo do mniej niż 1 sekundy, co według nich jest o 75% niższe niż średnia w branży.

Impakt

Chociaż trudno jednoznacznie określić wpływ samego AI oraz jego umiejscowienia w chmurze obliczeniowej na wyniki biznesowe, to są pewne przesłanki pozwalające ocenić jak wdrożenie tych technologii wpłynęło na Alibabę. I to nie tylko przez ogólnikowe stwierdzenia, że pozwoliło to Alibabie stać się jedną z największych firm świata i jednym z liderów w branży e-commerce. Faktem jest, że w latach 2019-2020, kiedy to wdrożono nowsze procesy algorytmiczne w zakresie rekomendacji produktów, Alibaba odnotowała aż 19-procentowy wzrost przychodów. Jeśli chodzi natomiast o zasoby sztucznej inteligencji w chmurze, to festiwal Double 11 w roku 2021 zarobił około 84 miliony dolarów, podczas gdy festiwal w roku 2020 zarobił „tylko” 56 milionów dolarów. Jest to imponujący wzrost o 50% rok do roku. I nawet jeśli pytaniem otwartym jest, na ile to procesy zachodzące na świecie, takie jak pandemia COVID19 i izolacja społeczna wpłynęły na te wyniki, to nie sposób nie zwrócić uwagi, że wykorzystane technologie AI pomogły obsłużyć zwiększony ruch i zapotrzebowanie w tym okresie. Jako że światowe trendy w zakresie popularności e-commerce wciąż rosną, AI wydaje się dobrym wyborem także dla innych firm z tej branży, które doświadczają zwiększonego ruchu.

Niezależnie od tego, czy chcesz opracować nowy silnik rekomendacyjny, potrzebujesz większej automatyzacji procesów, czy też doświadczasz trudności w dostępie do danych, TIDK opracuje dla Ciebie i wesprze Cię we wdrożeniu nowych technologii w Twoim biznesie. Umów się z nami, aby wspólnie omówić jak możemy Ci pomóc wejść w świat AI i nowoczesnej analityki. Zapraszamy do kontaktu!