Přejít na obsah

Publikace

Detail publikace

Citace

Alexey Karpov and Liliya Tsirulnik and Miloš Železný and Zdeněk Krňoul and Andrey Ronzhin and BorisLobanov : Study on Audio-Visual Asynchrony of Russian Speech for Improvement of Talking Head Naturalness . SPECOM'2009 Proceedings, p. 130-138, SPIIRAS, Petrohrad, 2009.

Abstrakt

An audio-visual speech synthesis system with modeling of asynchrony between auditory and visual speech streams has been proposed in the paper. Corpus-based study of real multimedia recordings gave us the required data for understanding the problem of modalities asynchrony that is partially caused by the co-articulation phenomena. A set of context-dependent timing rules and recommendations was elaborated in order to make a synchronization of auditory and visual speech cues of the animated talking head similar to a natural humanlike way. The proposed asynchrony model was introduced into the audio-driven talking head as an intermediate level for visual synthesis controlling. The cognitive evaluation of the model-based Russian-speaking talking head with implementation of the original asynchrony model has shown high intelligibility and naturalness of audio-visual synthesized speech.

Abstrakt v češtině

V tomto článku je navržen systém audiovizuální syntézy řeči s modelováním asynchronnosti mezi akustickým a vizuálním datovým proudem. Studie využívající řečového korpusu reálných multimediálních nahrávek poskytla požadovaná data pro porozumění problému asynchronnosti mezi modalitami, částečně způsobeného koartikulačním jevem. Sada kontextově závislých pravidel časování a doporučení byla zpracována s cílem vytvořit pokyny pro synchronizaci akustické a vizuální složky animované mluvicí hlavy napodobující člověka. Předložený model asynchronnosti byl představen v akusticky řízené mluvicí hlavě jako mezistupeň pro řízení vizuální syntézy. Kognitivní vyhodnocení rusky mluvícího modelu hlavy s implementací originálního modelu asynchronnosti prokázalo vysokou srozumitelnost a přirozenost syntetizované audiovizuální řeči.

Detail publikace

Název: Study on Audio-Visual Asynchrony of Russian Speech for Improvement of Talking Head Naturalness
Autor: Alexey Karpov ; Liliya Tsirulnik ; Miloš Železný ; Zdeněk Krňoul ; Andrey Ronzhin ; BorisLobanov
Název - česky: Studie audiovizuální asynchronnosti ruské řeči pro zlepšení přirozenosti mluvicí hlavy
Jazyk publikace: anglicky
Datum vydání: 25.6.2009
Rok vydání: 2009
Typ publikace: Stať ve sborníku
Název knihy: SPECOM'2009 Proceedings
Strana: 130 - 138
ISBN: 978-5-8088-0442-5
Nakladatel: SPIIRAS
Místo vydání: Petrohrad
/ 2012-05-25 14:09:36 /

Klíčová slova

audi-visual asynchrony, talking head, russian

Klíčová slova v češtině

audiovizuální asynchronie, mluvící hlava, ruština

BibTeX

@INPROCEEDINGS{AlexeyKarpov_2009_StudyonAudio-Visual,
 author = {Alexey Karpov and Liliya Tsirulnik and Milo\v{s} \v{Z}elezn\'{y} and Zden\v{e}k Kr\v{n}oul and Andrey Ronzhin and BorisLobanov},
 title = {Study on Audio-Visual Asynchrony of Russian Speech for Improvement of Talking Head Naturalness},
 year = {2009},
 publisher = {SPIIRAS},
 address = {Petrohrad},
 pages = {130-138},
 booktitle = {SPECOM'2009 Proceedings},
 ISBN = {978-5-8088-0442-5},
 url = {http://www.kky.zcu.cz/en/publications/AlexeyKarpov_2009_StudyonAudio-Visual},
}

Další informace