Którą usługę Google wywołuje platforma
Integracja korzysta z Gemini API, czyli usługi, do której klucz tworzy się w Google AI Studio. Platforma wysyła zapytania wprost do metody generateContent i uwierzytelnia się kluczem API w nagłówku żądania. Po drodze nie ma żadnego SDK ani zewnętrznej usługi pośredniczącej.
Warto to wiedzieć przed rozmową z działem IT: to nie jest połączenie z Vertex AI. Jeśli Twoja organizacja używa modeli Gemini wyłącznie przez Vertex AI i konta usługi, na potrzeby asystenta potrzebny będzie osobny klucz Gemini API.
Sam asystent w panelu działa tak samo jak na innych modelach: polecenie w palecie poleceń, plan zmian, Twoje potwierdzenie, wykonanie.
Co przygotować po stronie Google
- Projekt Google Cloud. Każdy klucz Gemini API jest przypisany do projektu, który odpowiada za rozliczenia i uprawnienia. Nowym użytkownikom AI Studio tworzy projekt domyślny, istniejące projekty trzeba do AI Studio zaimportować.
- Klucz API. Tworzysz go w AI Studio. Google zaleca nakładanie na klucze ograniczeń, na przykład zawężenie klucza do samego Generative Language API. Opis znajdziesz w dokumentacji kluczy Gemini API.
- Płatny poziom usługi. Zgodnie z warunkami Gemini API przy udostępnianiu rozwiązania użytkownikom z Europejskiego Obszaru Gospodarczego, Szwajcarii i Wielkiej Brytanii wolno korzystać wyłącznie z usług płatnych. W usługach płatnych Google deklaruje, że nie używa promptów ani odpowiedzi do ulepszania swoich produktów. Dla firmy z Polski oznacza to w praktyce włączenie rozliczeń w projekcie przed startem.
- Identyfikator modelu. Wpisujesz go ręcznie, dokładnie tak, jak podaje go dokumentacja Gemini API. Model musi obsługiwać wywoływanie funkcji (function calling), bo na tym opiera się cała praca asystenta.
Konfiguracja w panelu
- W module poświadczeń tworzysz nową konfigurację typu LLM z dostawcą Gemini. Podajesz nazwę, stały kod, klucz API i model.
- W ustawieniach asystenta wskazujesz tę konfigurację jako poświadczenia LLM i włączasz asystenta.
- Operatorom, którzy mają z niego korzystać, nadajesz na ekranie ról uprawnienie do asystenta.
Klucz jest szyfrowany w bazie, po zapisaniu nie da się go odczytać w panelu ani przez API, a w dzienniku audytu jest zamaskowany. Zmiana konfiguracji działa od następnego polecenia, bez restartu.
Typ i dostawca konfiguracji są po zapisaniu zablokowane, więc przejście z Gemini na GPT albo Claude polega na utworzeniu drugiej konfiguracji i przepięciu ustawienia, a nie na edycji istniejącej. Rotacja klucza to z kolei jedna zmiana w jednym miejscu.
Co trafia do Google, a co zostaje w platformie
Do Gemini API wysyłane są:
- treść polecenia wpisanego przez operatora,
- instrukcja systemowa asystenta,
- opisy narzędzi, do których dany operator ma uprawnienia,
- wyniki wyszukiwań tylko do odczytu, którymi asystent zamienia nazwy z polecenia na konkretne rekordy, na przykład pasujące produkty, kategorie i magazyny.
Model nie dostaje dostępu do bazy ani do dowolnych endpointów. Może jedynie wskazać narzędzie z zamkniętego katalogu zarejestrowanego w kodzie platformy. Zmiany nie są wykonywane w trakcie interpretacji polecenia: trafiają do planu, a wszystko, co widzisz na karcie planu (nazwy, liczby rekordów, bieżące wartości), wylicza serwer, nie model. Każde wykonanie zapisuje w dzienniku audytu treść polecenia, dostawcę i model.
Różnice Gemini API względem innych dostawców bierze na siebie adapter: Gemini nie zwraca identyfikatorów wywołań narzędzi i przyjmuje węższy schemat parametrów funkcji. Narzędzie dopisane do katalogu przez własny moduł nie wymaga więc osobnej wersji pod Gemini.
Limity po stronie Google
Limity Gemini API są naliczane na projekt, a nie na klucz, i liczone w trzech wymiarach: żądania na minutę, tokeny na minutę i żądania na dzień. Przekroczenie któregokolwiek kończy się błędem 429. W praktyce:
- Jeśli ten sam projekt Google Cloud obsługuje inne aplikacje, dzielą one limity z asystentem. Osobny projekt dla platformy upraszcza i limity, i rozliczenia.
- Modele eksperymentalne i w wersji preview mają limity ostrzejsze, więc na produkcji lepiej wskazać model stabilny.
Kiedy Gemini, a kiedy inny dostawca
Gemini jest naturalnym wyborem, gdy firma ma już projekt, rozliczenia i procedury zakupowe w Google Cloud albo chce mieć drugiego dostawcę obok obecnego. Zakres pracy asystenta nie zależy od dostawcy, bo katalog narzędzi należy do platformy, a nie do modelu.
Jeśli zależy Ci na Vertex AI z kontami usługi, ta integracja tego nie obejmuje. Na liście dostawców konfiguracji LLM znajdziesz też DeepSeek.