Přejít na obsah

Publikace

Detail publikace

Citace

Soutner, D. and Loose, Z. and Müller, L. and Pražák, A. : Neural Network Language Model with Cache . Lecture Notes in Computer Science, p. 528-534, 2012.

Abstrakt

In this paper we investigate whether a combination of statistical, neural network and cache language models can outperform a basic statistical model. These models have been developed, tested and exploited for a Czech spontaneous speech data, which is very different from common written Czech and is specified by a small set of the data available and high inflection of the words. As a baseline model we used a trigram model and after its training several cache models interpolated with the baseline model have been tested and measured on a perplexity. Finally, an evaluation of the model with the lowest perplexity has been performed on speech recordings of phone calls.

Abstrakt v češtině

V tomto článku jsme zkoumali, zda kombinace statistických jazykových modelů, jazykových modelů založených na neuronových sítích a cache modelů může překonat základní statistický model. Tyto modely byly vyvinuty, testovány a využity pro řečová data českých spontánních řečových nahrávkách, která jsou velmi odlišná od běžné psané češtiny a jsou určena malým souborem dostupných údajů a častým skloňováním slov. Jako základní model jsme použili trigram model, po jeho natrénování bylo testováno a vyhodnoceno pomocí perplexity několik cache modelů interpolovaných se základním modely. Nakonec vyhodnocení modelu s nejnižší perplexitou bylo provedeno na řečových nahrávkách telefonních hovorů.

Detail publikace

Název: Neural Network Language Model with Cache
Autor: Soutner, D. ; Loose, Z. ; Müller, L. ; Pražák, A.
Jazyk publikace: anglicky
Datum vydání: 1.9.2012
Rok vydání: 2012
Typ publikace: Stať ve sborníku
Svazek: Lecture Notes in Computer Science
Strana: 528 - 534
DOI: 10.1007/978-3-642-32790-2_64
/ 2013-12-16 13:41:35 /

Klíčová slova

neural networks, language modelling, automatic speech recognition

BibTeX

@ARTICLE{SoutnerD_2012_NeuralNetwork,
 author = {Soutner, D. and Loose, Z. and M\"{u}ller, L. and Pra\v{z}\'{a}k, A.},
 title = {Neural Network Language Model with Cache},
 year = {2012},
 pages = {528-534},
 series = {Lecture Notes in Computer Science},
 doi = {10.1007/978-3-642-32790-2_64},
 url = {http://www.kky.zcu.cz/en/publications/SoutnerD_2012_NeuralNetwork},
}