Do samej konwersji i scalenia wypróbuj VirtualDub + preferowany kodek; jeśli chcesz, żeby nagrywany film od razu był mniejszy (bo np. masz mały dysk) to możesz nagrać MSI Afterburnerem, który kompresuje od razu do MJPG/RTV1 zachowując dobrą jakość, przy czym uwaga: czasami trzeba mocno kombinować z ustawieniami, żeby dostać przyzwoite FPS-y w filmie.
Jest też HyperCam, ale wydawał się bardziej obciążać sprzęt.
@Feliks: Wiesz, kiedy ostatnio miałem do czynienia z Linuksem?
Podaj parametry sprzętu i ustawienia nagrywania (kodek, rozdzielczość wejściowa i wyjściowa). Odpal alsamixer w terminalu i zobacz, czy tam nie masz zbytnio wyciszonego (oraz całkiem wyciszonego, klawisz M przełącza) żadnego z kanałów.
Trzymaj się tego ustawienia/kodeka, który utrzymywał normalne tempo.
Spróbuj nagrać sam dźwięk innym programem, np. Audacity (o ile to jeszcze obsługuje), ewentualnie możesz nagrać dźwięk na innym sprzęcie innym programem - to nie jest problemem bo będziesz potrzebował tylko kabla z wtyką jack 3,5 mm po obu stronach, większość kart dźwiękowych ma port wejścia, nie wiem tylko, jak potem będzie z synchronizacją.