Слух и зрение работают вместе — мозг постоянно сопоставляет акустический сигнал с визуальной информацией об артикуляции: положением губ, движением челюсти, мимикой. В обычных условиях эти каналы совпадают и усиливают друг друга.
Когда между ними возникает противоречие, мозг не выбирает один из сигналов — он пытается их объединить. Результат может быть трёх видов:
Доминирование зрения: воспринимается звук, соответствующий артикуляции на видео, а не реальный звук.
Компромисс: слуховая кора объединяет два несовместимых сигнала в третий — которого нет ни в звуке, ни в картинке.
Доминирование слуха: реальный звук побеждает — встречается реже и зависит от конкретного сочетания фонем.
Исследования показывают, что зрение доминирует над слухом примерно в 70% случаев. Причём эффект сохраняется, даже когда человек знает о нём и специально пытается услышать реальный звук.