Handbrakeに関しては、そのままで問題ないと思います。ひとまずそれでmp4に変換してください。mp4形式がムービーメーカに読み込めたかどうか記憶にないですが、ダメなら何かしらのソフトでWMVやAVI形式に変換すれば良いのはおそらくご承知かと。
なので問題は編集の段階だと思いますが、旧ムービーメーカーはそもそもあまり高画質で出力できないソフトです。Windows Media Encorderのプロファイルエディタを使って、オリジナルの保存形式を作れば高画質化できます。
また、Windows Live ムービーメーカーならデフォルトのままでも そこそこ高画質な出力が可能です。