Co to jest LLM?

Jak LLM dochodzi do odpowiedzi

1. Trening wstępnyModel uczy się na ogromnych zbiorach tekstu przewidywać kolejne słowo.
2. DostrajanieDotrenowanie i oceny ludzi uczą go wykonywać polecenia i odpowiadać pomocnie.
3. PolecenieDostaje prompt: instrukcje, pytanie i dane podane w tej chwili.
4. OdpowiedźPisze tekst token po tokenie, wybierając najlepiej pasującą kontynuację.

Skąd nazwa „duży model językowy”?

Model językowy to program, który na podstawie dotychczasowego tekstu przewiduje, co powinno być dalej. Duży, bo ma bardzo wiele parametrów, czyli liczb ustawianych w trakcie treningu, i uczy się na ogromnych zbiorach tekstu. Większość dzisiejszych LLM opiera się na architekturze Transformer, opisanej w 2017 roku w pracy „Attention Is All You Need”.

Jak działa LLM?

1. Trening wstępny (pretraining): model czyta ogromną ilość tekstu i uczy się przewidywać następne słowo. Według dokumentacji Anthropic taki model sam z siebie słabo wykonuje polecenia.
2. Dostrajanie: dotrenowanie (fine-tuning) i uczenie na ocenach ludzi (RLHF) robią z niego asystenta, który odpowiada na pytania i trzyma się instrukcji.
3. Praca: model dostaje prompt i pisze odpowiedź kawałek po kawałku, w tokenach. Nie zagląda przy tym do bazy faktów, tylko układa najbardziej prawdopodobny tekst.

Czego LLM nie wie?

Wiedza modelu kończy się na dacie odcięcia danych treningowych. Model nie zna Twojego cennika, stanów magazynu ani historii klienta, dopóki ktoś mu ich nie poda. Gdy czegoś nie wie, może napisać coś, co tylko brzmi wiarygodnie, czyli zhalucynować. Dlatego w firmie dane podaje się modelowi z systemów i dokumentów, np. przez RAG.

Model nie przegląda też sam internetu ani systemów firmy. Może to robić tylko wtedy, gdy aplikacja da mu narzędzia, np. wyszukiwarkę albo dostęp do CRM przez API. Bez nich odpowiada wyłącznie z tego, czego nauczył się w treningu, i z tekstu, który dostał w poleceniu.

LLM, chatbot i agent AI

LLM to silnik. Chatbot to okno rozmowy, w którym ten silnik odpowiada. Agent AI to LLM z instrukcjami, narzędziami i dostępem do danych firmy, który wykonuje zadanie w kilku krokach. Ten sam model może działać w każdej z tych ról.

Jak dobrać model do zadania?

• Największe modele: najlepsze w trudnym rozumowaniu i długich zadaniach, ale wolniejsze i droższe.
• Małe, szybkie modele: wystarczą do klasyfikacji, wyciągania danych z tekstu i prostych odpowiedzi w dużej skali.
• Modele otwarte (np. Llama): można je uruchomić na własnym serwerze, ale utrzymanie spada na firmę.

LLM w naszych agentach

Model dobieramy do zadania i kosztów, a instrukcje, narzędzia i testy trzymamy osobno, więc model można później zmienić bez przebudowy agenta. Dane trafiają do modelu tylko przez oficjalne API systemów, a agent na start pracuje w trybie szkiców: przygotowuje, człowiek zatwierdza.

Najczęstsze pytania

Czy LLM uczy się z rozmów z klientami firmy?

Nie w trakcie rozmowy: parametry modelu nie zmieniają się od tego, że ktoś z nim pisze. To, czy dostawca może użyć danych do trenowania kolejnych modeli, zależy od jego warunków i planu, dlatego sprawdza się to przed wdrożeniem.

Czy LLM to to samo co ChatGPT?

Nie. ChatGPT to aplikacja firmy OpenAI, a pod spodem działają modele z rodziny GPT. Podobnie Claude to nazwa zarówno asystenta, jak i rodziny modeli Anthropic.

Czy LLM dobrze rozumie po polsku?

Czołowe modele dobrze radzą sobie z polskim, ale jakość różni się między modelami i zadaniami, więc warto testować na własnych przykładach. Polski tekst zwykle dzieli się na więcej tokenów niż angielski, co wpływa na koszt.

Źródła

• Vaswani i in., Attention Is All You Need (arXiv 1706.03762, 2017)
• Anthropic: Glossary (LLM, pretraining, RLHF)