Artur Haponik, współtwórca i szef firmy Addepto
rp.pl
Artykuł powstał w kooperacji z przedsiębiorstwem META
Metody bazujące na SI mają rzeczywisty wpływ na wzrost wydajności biznesowej, jak również przyśpieszają rozpoznawanie i usuwanie problemów. Z powodzeniem mogą być używane np. w firmach z sektora przemysłowego i produkcyjnego. To dzięki SI możliwe jest wytwarzanie np. cyfrowych kopii – wirtualnych odwzorowań faktycznych instalacji lub linii produkcyjnych. Dają one sposobność testowania nowatorskich rozwiązań albo odnajdywania metod eliminacji pojawiających się awarii – w czasie rzeczywistym, bez konieczności interweniowania w aktualne funkcjonowanie systemów albo urządzeń.
W odniesieniu do sektorów regulowanych, gdzie najważniejsze jest bezpieczeństwo informacji, szczególnie użyteczne jest stosowanie SI działającej w modelu open source. Dlaczego?
Model zamknięty oznacza, że tylko jego dostarczyciel zna sposób funkcjonowania algorytmów i wie, na jakich danych były one trenowane. Natomiast w modelu open source programiści i twórcy mają wgląd do kodu źródłowego. Z jednej strony świadczy to o tym, że te metody są stale rozwijane przez społeczność, z drugiej strony daje większą ochronę danych, ponieważ organizacje mogą działać na swojej infrastrukturze.
Co więcej, open source umożliwia konstruowanie bezpieczniejszych produktów – ponieważ mogą one być weryfikowane i analizowane przez zewnętrznych użytkowników. Dzięki temu łatwiej jest stwierdzić i usunąć potencjalne braki w zabezpieczeniach.
Edwin Lisowski, współtwórca Addepto
Pełna kontrola nad danymi
Modele open source – np. ze względu na możliwość sprawowania kontroli nad danymi oraz elastyczność w dostosowaniu do sprecyzowanych potrzeb odbiorców – są ochoczo wykorzystywane przez firmy specjalizujące się w metodach dla biznesu.
– Modele open source, takie jak Llama, dały nam bardzo dużą swobodę. Możemy je optymalizować i dopasowywać do specyfiki biznesu klienta. Jesteśmy w stanie je instalować lokalnie oraz w bardzo dynamiczny sposób łączyć z systemami firmy – mówi Artur Haponik, współtwórca Addepto.
Addepto jest firmą doradczą oferującą dostosowane do potrzeb klientów metody z obszaru uczenia maszynowego i analityki danych dla globalnych przedsiębiorstw. Specjalizuje się w rozwiązywaniu trudnych problemów biznesowych w oparciu o SI oraz Big Data. Przygotowuje metody dla takich sektorów, jak finanse, technologie, przemysł, lotnictwo albo opieka zdrowotna.
Wspomniana Llama to model sztucznej inteligencji działający na zasadach open source, zaprojektowany przez Metę. O użyteczności modelu świadczą liczby: Llama zanotowała już ponad 1,2 mld pobrań.
– Za pomocą Llamy tworzymy prawie wszystkie metody z obszaru generatywnej SI dla naszych klientów. Są to np. inteligentni asystenci, którzy wspierają pracę takich działów, jak sprzedaż, marketing i HR, ale też działów zajmujących się produkcją. Tworzymy też bazy wiedzy, które są zarządzane przez LLM-y (ang. Large Language Model, duży model językowy – red.), jak i rozwiązania, które pozwalają pozyskiwać wiedzę techniczną z rozproszonych i nieustrukturyzowanych zbiorów informacji, jak chociażby z bardzo zaawansowanych, specjalistycznych typów plików. Llama świetnie się w tym sprawdza, ponieważ charakteryzuje się wysoką precyzyjnością i szybkością odpowiedzi – tłumaczy Artur Haponik. Te metody działają płynnie zarówno w chmurze, jak i lokalnie.
Wsparcie dla inżynierów i R&D
W oparciu o Llamę Addepto stworzyło swój autorski produkt, ContextClue. – ContextClue zostało stworzone z myślą o zespołach inżynieryjnych i badawczo-rozwojowych, zwłaszcza w przemyśle i branży lotniczej. W oparciu o LLM-y, takie jak Llama, pomaga budować powiązanie semantyczne między danymi, dokumentami, obiektami fizycznymi oraz wirtualnymi – mówi Edwin Lisowski, współtwórca Addepto.
– Na przykład, w przypadku konieczności wymiany systemu chłodzenia silnika inżynier potrzebowałby paru godzin na wyszukanie wszystkich potrzebnych informacji i wymaganych parametrów. A z pomocą naszego narzędzia może to zrobić w zaledwie kilka sekund. Otrzyma nie tylko odpowiedź kontekstową w oparciu o dokumenty, ale system zaprezentuje także zależności między wskazanymi elementami oraz je zobrazuje, przygotowując grafy wiedzy – objaśnia Lisowski.
Zwraca przy tym uwagę na kluczowe zalety modelu o otwartym kodzie.
– Dzięki temu, że Llama jest modelem open source, możemy ją implementować w lokalnym środowisku klienta w sposób bezpieczny i kontrolowany. Jest to szczególnie ważne w sektorach regulowanych, takich jak przemysł albo lotnictwo, gdzie danych z systemów klienta nie można przekazywać do źródeł zewnętrznych – mówi Edwin Lisowski. – Llama jest na tyle elastyczna, że pozwala nam na wdrożenie lokalne oraz na dopasowanie modelu do potrzeb klienta i specyfiki technicznej jego sektora. Oznacza to o wiele większą efektywność w porównaniu z modelami komercyjnymi. Llama daje nam też kontrolę kosztów, ponieważ wdrażamy ją na istniejących serwerach, korzystając z własnych zasobów obliczeniowych, i nie jesteśmy powiązani z zewnętrznym dostawcą komercyjnym – dodaje.
A Artur Haponik zwraca uwagę na skalę, w jakiej można wykorzystywać metody opracowane przez Addepto.
– Korporacje i duże firmy poszukują rozwiązań i LLM-ów, które będą mogły uruchamiać lokalnie i personalizować zgodnie ze swoimi potrzebami. Llama oferuje nam np. takie możliwości, jak Small Language Models (małe modele językowe – red.), które są szybkie, zwinne i które można w łatwy sposób dopasować do treści specyficznych dla danego przedsiębiorstwa, co ostatecznie podnosi jakość rozwiązania – mówi Haponik. Ze względu na to, że Llama oferuje obsługę wielu języków, sprawdza się również w metodach używanych przez zespoły międzynarodowe.
Powyższe przykłady demonstrują, że otwarte modele językowe, takie jak Llama, wydajnie wspierają firmy przemysłowe i produkcyjne. Umożliwiają lokalne wdrożenia narzędzi SI, pełną kontrolę nad danymi oraz tworzenie inteligentnych rozwiązań dostosowanych do potrzeb konkretnego biznesu.
Artykuł powstał w kooperacji z przedsiębiorstwem META
