Kto choć raz porównywał oferty narzędzi opartych na modelach językowych, wie, że cenniki i opisy funkcji pełne są słów, które brzmią znajomo, ale znaczą coś innego niż w codziennym marketingu. Prompt to nie to samo co zapytanie w wyszukiwarce, kontekst nie jest „tłem kampanii”, a okno kontekstowe nie ma nic wspólnego z oknem przeglądarki. Poniżej zebraliśmy podstawowe pojęcia AI dla marketera, wyjaśnione na przykładach z pracy nad treściami i kampaniami.
Ten tekst należy do naszego słownika pojęć. Jeśli zależy Ci na podobnie uporządkowanym wstępie do analityki, zajrzyj też do objaśnienia, czym różnią się sesja, użytkownik aktywny i zdarzenie kluczowe w GA4.
Prompt: instrukcja, nie zapytanie
Prompt to cały tekst, który przekazujesz modelowi, zanim zacznie generować odpowiedź. Najczęstszy błąd marketerów polega na traktowaniu go jak frazy wpisywanej w Google: krótko, hasłowo, bez szczegółów. Wyszukiwarka dopasowuje zapytanie do istniejących dokumentów. Model językowy niczego nie wyszukuje w tym sensie; na podstawie instrukcji przewiduje kolejne fragmenty tekstu.
Dlatego dobry prompt bardziej przypomina brief niż zapytanie. Określa cel, odbiorcę, format, ograniczenia i przykłady. Różnica jest dokładnie taka jak między poleceniem „napisz tekst o butach” a briefem, który mówi, dla kogo, w jakim tonie, na jaką długość i z jakimi zastrzeżeniami prawnymi. Te same zasady, które opisujemy w tekście o tym, jak przygotować brief dla zewnętrznego copywritera, działają zaskakująco dobrze także wobec modelu.
Kontekst i okno kontekstowe
Kontekst to wszystko, co model „widzi” w danym momencie: instrukcje systemowe, Twoje wiadomości, jego wcześniejsze odpowiedzi, wklejone dokumenty i wyniki narzędzi, z których korzysta. Model nie ma pamięci w ludzkim rozumieniu. Przy każdej odpowiedzi przetwarza od nowa całą zawartość kontekstu.
Okno kontekstowe to z kolei techniczny limit: maksymalna ilość tekstu (liczona w tokenach), jaką model może jednorazowo przetworzyć. Gdy rozmowa przekroczy ten limit, aplikacja musi coś usunąć albo streścić, najczęściej najstarsze fragmenty. Stąd bierze się zjawisko, które marketerzy opisują jako „model zapomniał, co ustaliliśmy na początku”. Dostawcy dokumentują te limity wprost, na przykład Anthropic w opisie działania okien kontekstowych.
Warto pamiętać o jeszcze jednym: duże okno nie gwarantuje, że model równie uważnie potraktuje każdy fragment. Przy bardzo długich materiałach informacje ukryte w środku bywają pomijane częściej niż te na początku i na końcu. Praktyczny wniosek: najważniejsze wymagania powtórz blisko miejsca, w którym prosisz o wynik.
Token i dlaczego rozliczenia liczą się w tokenach
Token to jednostka, na którą model dzieli tekst. Nie jest to ani słowo, ani znak. Krótkie, popularne słowa angielskie często mieszczą się w jednym tokenie, dłuższe dzielone są na kilka kawałków. Język polski, z odmianą przez przypadki i długimi formami wyrazów, zwykle zużywa więcej tokenów na tę samą treść niż angielski.
Tokeny mają znaczenie z dwóch powodów. Po pierwsze, w nich wyrażony jest rozmiar okna kontekstowego. Po drugie, w nich rozliczane jest korzystanie z API. Dostawcy osobno liczą tokeny wejściowe (to, co wysyłasz) i wyjściowe (to, co model generuje), przy czym tokeny wyjściowe są zazwyczaj wyraźnie droższe.
Temperatura i losowość odpowiedzi
Temperatura to parametr, który steruje tym, jak bardzo model „ryzykuje” przy wyborze kolejnych tokenów. Niska wartość sprawia, że wybiera najbardziej prawdopodobne kontynuacje, a odpowiedzi są przewidywalne i powtarzalne. Wysoka zwiększa różnorodność, ale też ryzyko dziwnych sformułowań i błędów.
W praktyce: do ekstrakcji danych, klasyfikacji zapytań czy przepisywania opisów produktów według szablonu lepiej sprawdza się niska temperatura. Do burzy mózgów nad hasłami kampanii można ją podnieść. Losowość wyjaśnia też część różnic między odpowiedziami na identyczne pytanie zadane dwa razy z rzędu, choć różnice między samymi produktami mają głębsze przyczyny (inne modele, inne źródła, inne instrukcje systemowe).
Wnioskowanie kontra trening modelu
Trening to proces, w którym model uczy się na ogromnych zbiorach tekstu; trwa tygodnie, kosztuje miliony i kończy się w określonym momencie (tzw. data odcięcia wiedzy). Wnioskowanie (ang. inference) to każde pojedyncze użycie gotowego modelu: wysyłasz prompt, dostajesz odpowiedź. Ogólne tło tej architektury dobrze opisuje hasło duży model językowy w polskiej Wikipedii.
To rozróżnienie rozwiewa częsty mit: wklejenie dokumentów firmowych do rozmowy nie „uczy” modelu. Informacje trafiają do kontekstu tej jednej sesji i znikają razem z nią. Jeśli narzędzie obiecuje, że „zna Twoją markę”, zapytaj, czy chodzi o dotrenowanie modelu (fine-tuning), czy o automatyczne dołączanie Twoich materiałów do kontekstu przy każdym zapytaniu. To dwa zupełnie różne rozwiązania, o różnych kosztach i ograniczeniach.
System prompt i rola instrukcji stałych
System prompt to instrukcja ustawiana przez twórcę aplikacji, zwykle niewidoczna dla użytkownika. Określa rolę modelu, ton, zakazane tematy, format odpowiedzi i dostępne narzędzia. To właśnie on sprawia, że ten sam model bazowy zachowuje się inaczej w czacie obsługi klienta, a inaczej w narzędziu do pisania opisów produktów.
Dla marketera wniosek jest praktyczny: stałe zasady marki (słownik zakazanych sformułowań, preferowana forma zwracania się do klienta, zasady dotyczące cen i promocji) powinny trafić do instrukcji stałych, a nie być powtarzane w każdej wiadomości. Wiele narzędzi udostępnia do tego pole w rodzaju „instrukcje niestandardowe” albo „projekt”. Instrukcja systemowa też zajmuje miejsce w oknie kontekstowym i jest wliczana do tokenów wejściowych przy każdym zapytaniu.
Podobnie jak w SEO, gdzie trzeba odróżniać sygnały pokrewne, a jednak działające inaczej (dobrym przykładem są canonical, noindex i nofollow), tu też granica między instrukcją systemową a zwykłą wiadomością ma realne skutki dla wyniku.
Jak te pojęcia przekładają się na koszty
Złóżmy wszystko w całość. Koszt pojedynczego wywołania modelu zależy od liczby tokenów wejściowych i wyjściowych. Do tokenów wejściowych wlicza się system prompt, cała dotychczasowa historia rozmowy i wszystkie załączone dokumenty. Oznacza to, że długi wątek drożeje z każdą wiadomością, bo model za każdym razem przetwarza całość od początku.
| Pojęcie | Co oznacza w praktyce | Wpływ na koszt |
|---|---|---|
| Prompt | Instrukcja dla modelu, bliższa briefowi niż zapytaniu | Dłuższy prompt to więcej tokenów wejściowych |
| Okno kontekstowe | Limit tekstu przetwarzanego jednorazowo | Duże okno pozwala więcej wysłać, ale każdy wysłany token kosztuje |
| Token | Fragment tekstu, jednostka rozliczeń | Polski tekst zwykle zużywa więcej tokenów niż angielski |
| Temperatura | Poziom losowości odpowiedzi | Bez wpływu na cenę, ale z wpływem na liczbę poprawek |
| System prompt | Stałe instrukcje aplikacji | Doliczany do każdego zapytania |
Z tej tabeli wynikają proste zasady oszczędności: zaczynaj nowy wątek przy nowym zadaniu, zamiast ciągnąć jeden przez cały dzień; wklejaj tylko te fragmenty dokumentów, które są potrzebne; ograniczaj długość odpowiedzi, gdy nie potrzebujesz eseju. W skali zespołu, który generuje setki opisów miesięcznie, takie nawyki szybko przekładają się na rachunek.
FAQ
Czy dłuższy prompt zawsze daje lepszy wynik?
Nie. Prompt powinien być kompletny, ale nie przegadany. Liczy się jasny cel, odbiorca, format i ograniczenia. Dodawanie zbędnych informacji zwiększa koszt i może rozproszyć uwagę modelu.
Dlaczego model zapomina ustalenia z początku rozmowy?
Najczęściej dlatego, że rozmowa przekroczyła okno kontekstowe i aplikacja usunęła lub streściła najstarsze wiadomości. Czasem informacja wciąż jest w kontekście, ale ginie w długim materiale. Pomaga powtórzenie kluczowych wymagań bliżej końca.
Czy wklejając dokumenty do czatu, trenuję model?
Nie. Wklejone treści trafiają tylko do kontekstu bieżącej sesji. Trening i dotrenowanie to osobne procesy, prowadzone przez dostawcę lub w ramach płatnych usług fine-tuningu.
Ile tokenów ma jedno polskie słowo?
To zależy od tokenizera konkretnego modelu i od samego słowa. Krótkie, częste wyrazy mogą zająć jeden token, długie formy odmienione nawet kilka. Dokładną liczbę pokazują narzędzia do liczenia tokenów udostępniane przez dostawców.
Jaką temperaturę ustawić do pisania tekstów marketingowych?
Do wersji roboczych i burzy mózgów sprawdza się średnia lub nieco wyższa wartość. Do redakcji, skracania i pracy według szablonu lepsza jest niska temperatura, która daje przewidywalne i spójne wyniki.