А что разве VLC перекодирует системным аудиокодеком а не встроенным в него? Может дело в VLC версии: 0.9.9 ?
Вот так я запускаю вещание:
c:\Program Files\VideoLAN\VLC>vlc -vvv 1.mpg --sout "#transcode{vcodec=mp2v,vb=2
000,acodec=mpga,ab=128,channels=2}:duplicate{dst=std{access=udp,mux=ts,dst=239.2
55.2.6:1234}}
1.mpg записан с QWERTY этим же самым VLC захватом в файл.
если даже убрать acodec=mpga,ab=128,channels=2 то тишина (