Wyzwanie
Pierwsza wersja infolinii działała na gotowej usłudze operatora telefonii z modelem językowym i syntezą mowy. Po każdej wypowiedzi dzwoniący czekał ok. 1,5-2 s na odpowiedź, co w rozmowie telefonicznej jest bardzo długo.
Diagnoza pokazała, że problem leży w obsłudze polskiego. Gotowa usługa pozwalała tylko na jeden silnik rozpoznawania mowy dla polskiego, a koniec wypowiedzi wykrywała po stałym oknie ciszy 1,2 s. Nowsze modele, które pozwalają odpowiadać szybciej, polskiego nie obsługiwały.
Podejście
Najpierw rozpisaliśmy budżet opóźnień etap po etapie: wykrycie końca wypowiedzi, transkrypcja, pierwsze słowo modelu i synteza mowy. Pierwsze poprawki objęły konfigurację modelu (wyłączone rozumowanie, krótkie odpowiedzi) i limit czasu z jedną ponowną próbą, żeby awaria nie kończyła się ciszą na linii.
Następnie porównaliśmy cztery architektury: dopracowanie obecnej, gotową platformę agentów głosowych, własny pipeline i zewnętrzne usługi typu voice AI. Wybraliśmy własny pipeline, bo daje pełną kontrolę nad każdym etapem i najniższy możliwy czas reakcji. Ceną jest odpowiedzialność za cały tor audio.
Wdrożenie
Nowy tor: strumień audio z telefonii trafia do rozpoznawania mowy w czasie rzeczywistym, potem do detekcji aktywności głosu i semantycznego modelu końca wypowiedzi, który obsługuje polski i działa na zwykłym CPU. Dalej odpowiada Claude, a syntezator mowy zamienia odpowiedź na głos. Asystent rozpoznaje dzwoniącego po numerze i wita go personalnie, a każde połączenie ma weryfikowany podpis.
Testowe rozmowy przyniosły konkretne poprawki: asystent nie przerywa już sam sobie, numer telefonu zapisuje przez oddzwonienie zamiast dyktowania, a kwoty zawsze potwierdza, bo rozpoznawanie mowy potrafi pomylić „siedem” z „siedemdziesiąt”.
Wyniki
Nowa wersja działa produkcyjnie od lipca 2026 jako pilot. Zmianę można wycofać jednym commitem. Rozpoznawanie mowy w testowych rozmowach poprawnie zapisywało cyfry, a pozostałe problemy dotyczyły przebiegu rozmowy, nie technologii.
Kolejnym krokiem jest pomiar opóźnień na serii identycznych rozmów przed zmianą i po niej, żeby porównać wersje na liczbach, a nie na wrażeniu.
