Red Hat przyczynia się do przyspieszenia budowy zaufania i bezpieczeństwa w obszarze sztucznej inteligencji dzięki przejęciu firmy Chatterbox Labs

Przejęcie ma na celu rozszerzenie rozwiązania Red Hat AI o procedury kluczowych testów bezpieczeństwa i mechanizmy ochronne, umożliwiając odpowiedzialne wdrażanie sztucznej inteligencji w dużej skali produkcyjnej.

Red Hat, wiodący na świecie dostawca rozwiązań bazujących na otwartym kodzie źródłowym, ogłosił przejęcie firmy Chatterbox Labs, pioniera w dziedzinie zapewniania bezpieczeństwa mechanizmom generatywnej sztucznej inteligencji, niezależnie od zastosowanego modelu LLM. Dzięki tej transakcji do portfolio Red Hat AI zostają włączone ważne funkcje z zakresu bezpieczeństwa ukierunkowanego na systemy AI, co wzmacnia wysiłki firmy na rzecz dostarczenia kompleksowych, otwartych platform sztucznej inteligencji dla przedsiębiorstw, zaprojektowanych z myślą o chmurze hybrydowej.

Akwizycja firmy Chatterbox Labs, następująca po wprowadzeniu na rynek rozwiązania Red Hat AI Inference Server oraz Red Hat AI 3, jest zwieńczeniem roku intensywnych innowacji w obszarze sztucznej inteligencji w portfolio Red Hat. Klienci na całym świecie i w różnych branżach wdrażają Red Hat AI, aby przyspieszać innowacyjność dzięki aplikacjom generatywnej, predykcyjnej oraz agentowej sztucznej inteligencji. W momencie przechodzenia z fazy eksperymentalnej do wdrażania środowisk produkcyjnych, stają oni przed złożonym wyzwaniem: muszą wdrażać modele, które są nie tylko wydajne, ale także weryfikowalne, godne zaufania i bezpieczne. Zapewnienie mechanizmów ochronnych jest obecnie absolutnym minimum w nowoczesnych operacjach uczenia maszynowego (MLOps).

Skupienie na bezpieczeństwie i zaufaniu odzwierciedla zaangażowanie Red Hat i IBM we wspieranie klientów w przyjmowaniu podejścia „po pierwsze bezpieczeństwo” przy odpowiedzialnym skalowaniu mechanizmów sztucznej inteligencji w środowiskach chmury hybrydowej. Integracja rozwiązań Chatterbox Labs pozwala stworzyć ujednoliconą platformę z wbudowanymi funkcjami bezpieczeństwa, wzmacniając zdolność Red Hat do obsługi produkcyjnych zadań obliczeniowych AI z wykorzystaniem dowolnego modelu, na dowolnym akceleratorze, w dowolnym środowisku.

Przeciwdziałanie niezamierzonym konsekwencjom powodowanym przez sztuczną inteligencję

Założona w 2011 roku firma Chatterbox Labs wypracowała ważne rozwiązania techniczne oraz know‑how w zakresie bezpieczeństwa i przejrzystości sztucznej inteligencji. Jej doświadczenie w ilościowej ocenie ryzyka związanego z AI zostało docenione przez globalne, niezależne think tanki i decydentów politycznych. Dzięki tej akwizycji Red Hat zyskuje ważne mechanizmy uczenia maszynowego.

Chatterbox Labs dostarcza zautomatyzowane, dopasowane do potrzeb przedsiębiorstw możliwości testowania bezpieczeństwa i niezawodności systemów AI. Zapewnia tym samym obiektywne, mierzalne wskaźniki czynników ryzyka, których liderzy biznesowi potrzebują do zatwierdzania wdrożeń AI do pracy w środowiskach produkcyjnych. Rozwiązania te oferują kilka rodzajów solidnego, niezależnego od modelu podejścia do walidacji danych i modeli:

• AIMI dla generatywnej sztucznej inteligencji – Dostarczanie niezależnych, ilościowych wskaźników ryzyka dla dużych modeli językowych (LLM).

• AIMI dla predykcyjnej sztucznej inteligencji – Weryfikowanie dowolnej architektury AI w kluczowych obszarach, takich jak odporność, bezstronność oraz wyjaśnialność (explainability).

• Guardrails – Precyzyjne wykrywanie i usuwanie niebezpiecznych, toksycznych lub stronniczych promptów przed wdrożeniem modeli do produkcji.

Ochrona mechanizmów sztucznej inteligencji nowej generacji

Przejęcie firmy Chatterbox Labs wpisuje się w wizję Red Hat, zakładającą obsługę zróżnicowanych modeli i celów wdrożeniowych w środowisku chmury hybrydowej. Uzupełnia również wprowadzoną w Red Hat AI 3 z myślą o przyszłości funkcjonalność, w szczególności w obszarze agentowej sztucznej inteligencji oraz protokołu kontekstowej wymiany informacji w modelach AI (Model Context Protocol, MCP). Wraz ze wzrostem popularności wykorzystania agentowej sztucznej inteligencji przez przedsiębiorstwa, zaufanie do modeli i ich bezpieczeństwo stają się jeszcze ważniejsze, biorąc pod uwagę złożoną, autonomiczną rolę agentów sztucznej inteligencji oraz ich potencjalny wpływ na kluczowe systemy biznesowe.

W trakcie swojej działalności Chatterbox Labs prowadziło prace badawcze nad całościowym bezpieczeństwem agentowych systemów AI, obejmujące m.in. monitorowanie odpowiedzi agentów oraz wykrywanie wyzwalaczy akcji serwerów MCP. Prace te okazały się spójne z planami rozwoju Red Hat w zakresie obsługi rozwiązań Llama Stack i MCP, co pozycjonuje firmę jako dostawcę rozwiązań zapewniających bezpieczeństwo kolejnej generacji inteligentnych, zautomatyzowanych zadań obliczeniowych sztucznej inteligencji na zaufanej, gotowej do zastosowań korporacyjnych platformie. Dzięki połączeniu możliwości MLOps firmy Red Hat z mechanizmami ochronnymi zapewnianymi przez Chatterbox Labs, przedsiębiorstwa będą mogły sprawne i z większym poczuciem pewności przenosić swoje inwestycje w AI z fazy eksperymentalnej do produkcyjnej.

Dodatkowe wypowiedzi

Steven Huels, vice president, AI Engineering and Product Strategy w Red Hat
„Przedsiębiorstwa przenoszą sztuczną inteligencję z laboratoriów do środowisk produkcyjnych w bardzo szybkim tempie, co dodatkowo zwiększa potrzebę wdrażania systemów AI w sposób zaufany, bezpieczny i przejrzysty. Innowacyjne, niezależne od modeli AI metody testowania bezpieczeństwa oraz mechanizmy ochronne Chatterbox Labs stanowią krytyczną warstwę zabezpieczającą, której potrzebuje cała branża. Integrując Chatterbox Labs z portfolio Red Hat AI, wzmacniamy naszą obietnicę wobec klientów, że dostarczymy kompletną platformę open source, która nie tylko pozwala uruchamiać dowolny model w dowolnym środowisku, lecz także daje pewność, że bezpieczeństwo jest wbudowane w nią od samego początku. Akwizycja ta umożliwi wdrażanie prawdziwie odpowiedzialnej sztucznej inteligencji na dużą skalę produkcyjną.”

dr Stuart Battersby, współzałożyciel i Chief Technology Officer w Chatterbox Labs
„W miarę jak systemy sztucznej inteligencji przenikają wszystkie aspekty biznesu i życia społecznego, nie możemy pozwolić, by kwestie bezpieczeństwa stały się zastrzeżoną, nieprzejrzystą czarną skrzynką. Niezwykle ważne jest, aby mechanizmy ochronne dla środowisk AI nie były jedynie wdrażane – muszą być rygorystycznie testowane i bazować na wymiernych, możliwych do wykazania wskaźnikach. Chatterbox Labs wyznacza kierunek w tej dziedzinie – od wczesnych etapów rozwoju predykcyjnej sztucznej inteligencji aż po agentowe systemy przyszłości. Dołączając do Red Hat, możemy wnieść te zweryfikowane, niezależne metryki bezpieczeństwa do społeczności open source. Taka przejrzystość pozwala firmom weryfikować poziom bezpieczeństwa bez ryzyka uzależnienia od jednego dostawcy, otwierając drogę do przyszłości, w której wszyscy możemy korzystać ze sztucznej inteligencji, która jest bezpieczna, skalowalna i otwarta.”

Red Hat Unlocks Generative AI for Any Model and Any Accelerator Across the Hybrid Cloud with Red Hat AI Inference Server:
www.redhat.com/en/about/press-releases/red-hat-unlocks-generative-ai-any-model-and-any-accelerator-across-hybrid-cloud-red-hat-ai-inference-server
Red Hat Brings Distributed AI Inference to Production AI Workloads with Red Hat AI 3:
www.redhat.com/en/about/press-releases/red-hat-brings-distributed-ai-inference-production-ai-workloads-red-hat-ai-3