W wyniku zwiększonego zapotrzebowanie na agentów AI firma Snowflake, zajmująca się chmurą danych, wprowadziła Cortex Agents. To w pełni zarządzana usługa, która upraszcza proces integracji, pobierania i przetwarzania danych ustrukturyzowanych oraz nieustrukturyzowanych, umożliwiając klientom Snowflake budowanie wysokiej jakości agentów na dużą skalę.
Agenci AI wychodzą poza ramy podstawowej automatyzacji, dynamicznie zarządzając wieloetapowymi zadaniami i podejmując decyzje na podstawie rozumowania. To znaczący krok naprzód w porównaniu z obecnie stosowanymi, głównie reaktywnymi narzędziami programowymi. W miarę rozwoju dużych modeli językowych (LLM) agenci AI będą współpracować, planować, wykonywać i doskonalić zadania, co przełoży się na wzrost efektywności i redukcję kosztów.
Cortex Agents: przyszłość biznesu w rękach AI
Agenci AI mają potencjał zwiększenia produktywności biznesowej poprzez automatyzację złożonych zadań. Ich skuteczność jednak zależy od dostępu do wysokiej jakości danych. Dla wielu organizacji wyzwaniem pozostaje zarządzanie kontrolą dostępu i utrzymanie ścisłych protokołów prywatności przy jednoczesnym efektywnym pozyskiwaniu dokładnych informacji.
Usługa Cortex Agents dostępna jest obecnie w publicznej wersji testowej, zarządza różnorodnymi źródłami danych – od tabel po pliki PDF przechowywane w magazynach obiektowych, by dostarczać cenne analizy i wnioski. Agenci przetwarzają złożone zapytania, pobierają odpowiednie dane i generują precyzyjne odpowiedzi, wykorzystując Cortex Search, Cortex Analyst oraz duże modele językowe (LLM). Dzięki temu zapewniona jest dokładność, wydajność i zgodność z prawem na każdym etapie działania.
Agenci planują zadania, używają narzędzi do ich realizacji i analizują wyniki, aby stale doskonalić odpowiedzi. Dostępni poprzez REST API, mogą być płynnie integrowani z dowolną aplikacją, zapewniając elastyczność i łatwość implementacji.
Obserwowalność AI: monitorowanie i ocena agentów AI
Obserwowalność zwiększa niezawodność i zaufanie do aplikacji AI. Dzięki kompleksowej ewaluacji i monitorowaniu firmy mogą optymalizować koszty, uzyskiwać bardziej trafne wyniki i spełniać wymagania dotyczące zarządzania danymi.
Cortex AI Observability, działające na Snowflake i wspierane przez TruLens, ocenia wydajność agentów AI za pomocą technik takich jak LLM-as-a-judge, raportując kluczowe wskaźniki, m.in. trafność i zgodność z faktami. Użytkownicy mogą porównywać konfiguracje LLM, analizować każdy etap działania agenta i optymalizować jego wydajność. Snowflake zapewnia kompleksowe zarządzanie danymi, a przejęcie Datavolo przez Snowflake dodatkowo wzmacnia możliwości integracji danych multimodalnych, co potwierdza zaangażowanie firmy w solidne zarządzanie danymi.
Cortex Search: wysokiej jakości silnik do wyszukiwania danych niestrukturalnych
Usługa Cortex Agents korzysta z Cortex Search, aby wyszukiwać dane niestrukturalne, takie jak tekst, audio, obrazy czy wideo. Cortex Search łączy wyszukiwanie wektorowe i leksykalne, stosując dodatkową warstwę ponownej klasyfikacji semantycznej, co pozwala na szybkie i precyzyjne wyszukiwanie na dużą skalę. Cortex Search zapewnia najlepszą jakość wyników, przewyższając konkurencyjne rozwiązania korporacyjne o 11% pod względem trafności wyszukiwania (NDCG@10) przy użyciu modeli embeddingowych OpenAI.
Snowflake wprowadził szereg usprawnień do Cortex Search, takich jak większą skalowalność czy redukcję kosztów działania o 30%. Nowe opcje dostosowania obejmują wybór modelu wektorowego, w tym wielojęzyczne modele, oraz filtrowanie według zakresów dat. W wersji podglądowej pojawił się interfejs admina do monitorowania jakości wyszukiwania, możliwość dostrajania wyników na podstawie sygnałów liczbowych i czasowych, ocena pewności wyników oraz zaawansowane opcje filtrowania.
Cortex Analyst: generowanie SQL wspomagane przez AI z rozumieniem semantycznym
Cortex Analyst to jedno z narzędzi uwzględnionych w Cortex Agents. W odróżnieniu od typowych systemów text-to-SQL, które bazują na prostym dopasowywaniu wzorców, Cortex Analyst wykorzystuje model semantyczny do mapowania pojęć biznesowych na konkretne dane źródłowe. Takie podejście znacznie zwiększa precyzję w rzeczywistych scenariuszach biznesowych, zwłaszcza przy pracy z wieloma tabelami.
Snowflake wprowadza ulepszenia w Cortex Analyst, które zwiększają precyzję analiz i elastyczność konfiguracji. Nowe mechanizmy obsługują bardziej złożone schematy relacji danych, eliminując błędy, takie jak fałszywe połączenia (JOIN hallucinations) czy podwójne zliczanie, co poprawia dokładność zapytań wielotabelowych. Administratorzy zyskują nowy interfejs w Snowsight, który umożliwia łatwe tworzenie i monitorowanie modeli semantycznych – wybór tabel i kolumn wspomagany jest przez modele LLM generujące pliki YAML, a funkcja monitorowania pozwala oceniać skuteczność modeli. Dodatkowo użytkownicy mogą dostosować logikę biznesową za pomocą funkcji Custom Instructions, definiując kluczowe założenia w języku naturalnym, takie jak początek roku fiskalnego czy priorytetyzacja tabel w SQL, co pozwala lepiej dopasować narzędzie do indywidualnych potrzeb organizacji.
