Publikace
Detail publikace
Citace
Vietnam, Ho Chi Minh City, 2012. : Full Covariance Gaussian Mixture Models Evaluation on GPU . IEEE International Symposium on Signal Processing and Information Technology,
PDF ke stažení
Abstrakt
Gaussian mixture models (GMMs) are often used in various data processing and classification tasks to model a continuous probability density in a multi-dimensional space. In cases, where the dimension of the feature space is relatively high (e.g. in the automatic speech recognition (ASR)), GMM with a higher number of Gaussians with diagonal covariances (DC) instead of full covariances (FC) is used from the two reasons. The first reason is a~problem how to estimate robust FC matrices with a~limited training data set. The second reason is a~much higher computational cost during the GMM evaluation. The first reason was addressed in many recent publications. In contrast, this paper describes an efficient implementation on Graphic Processing Unit (GPU) of the FC-GMM evaluation, which addresses the second reason. The performance was tested on acoustic models for ASR, and it is shown that even a low-end laptop GPU is capable to evaluate a large acoustic model in a fraction of the real speech time. Three variants of the algorithm were implemented and compared on various GPUs: NVIDIA CUDA, NVIDIA OpenCL, and ATI/AMD OpenCL.
Abstrakt v češtině
Směsi Gaussovských modelů jsou často používány v mnoha úlohách klasifikace či jiného zpracování dad. Používány jsou jako modely hustoty pravděpodobnosti v prostorech vyšších dimenzí. V případech, kdy je dimenze prostoru příznakových vektorů relativně veliká (např. v systémech automatického rozpoznávání řeči), jsou používány smesi Gaussovských modelů s diagonální kovarianční maticí, spíše než modely s plnou kovariancí. A to ze dvou důvodů: Prvním důvodem je problematičnost odhadu parametrů těchto plných kovariančních matic v případě omezeného množství trénovacích dat. Druhým důvodem je pak výrazně vyšší výpočetní náročnost vyhodnocování těchto modelů. Robustnost odhadů byla zkoumána v mnoha již publikovaných pracích. Tento článek popisuje efektivní implementaci výpočtu pravděpodobností těchto modelů na GPU a řeší tak problém velké výpočetní náročnosti. Výkonost byla testována na akustickém modelu systému automatického rozpoznávání řeči. Výsledky naší implementace ukazují, že i grafická karta levného notebooku je schopná zvlándnout vyhodnotit velké akustické modely ve reálném čase. Tři varianty algoritmu byly implementovány a porovnány mezi sebou na různých GPU: NVIDIA CUDA, NVIDIA OpenCL a ATI/AMD OpenCL.
Detail publikace
Název: | Full Covariance Gaussian Mixture Models Evaluation on GPU |
---|---|
Autor: | Vaněk J. ; Trmal J. ; Psutka J. V. ; Psutka J. |
Název - česky: | Vyhodnocování směsí Gaussovských modelů s plnou kovarianční maticí na GPU |
Jazyk publikace: | anglicky |
Datum vydání: | 12.12.2012 |
Rok vydání: | 2012 |
Typ publikace: | Stať ve sborníku |
Název časopisu / knihy: | IEEE International Symposium on Signal Processing and Information Technology |
ISBN: | 978-1-4673-5604-6 |
Místo vydání: | Vietnam, Ho Chi Minh City |
Datum: | 12.12.2012 - 15.12.2012 |
Klíčová slova
Gaussian Mixture Models, Full Covariance, Automatic Speech Recognition, GPU, CUDA, OpenCL
Klíčová slova v češtině
Směsi Gaussovských modelů, plné kovarianční matice, Automatické rozpoznávání řeči, GPU, CUDA, OpenCL
BibTeX
@INPROCEEDINGS{VanekJ_2012_FullCovariance, author = {Van\v{e}k J. and Trmal J. and Psutka J. V. and Psutka J.}, title = {Full Covariance Gaussian Mixture Models Evaluation on GPU}, year = {2012}, journal = {IEEE International Symposium on Signal Processing and Information Technology}, address = {Vietnam, Ho Chi Minh City}, ISBN = {978-1-4673-5604-6}, url = {http://www.kky.zcu.cz/en/publications/VanekJ_2012_FullCovariance}, }