1) Превью можно (и правильнее) экспортировать из самого Афтера через меню: Composition - Save Frame As - File...
Кадр попадает в Render Queue, а там надо выбрать "Output Module - Custom - PNG Sequence", указать целевую папку и нажать Render.
В итоге быстро и просто получится качественный PNG-стопкадр без потерь, по которому можно будет уже частично судить: есть ли у вас артефакты в видео, или нет.
Частично - потому, что некоторые артефакты на стопкадре не видны и проявляются только в видеоряде.
UPD. Экспортировать стопкадр нужно из уже отрендеренного файла (который вы грузите на сток), закинув его в Афтер и создав из него новую композицию.
2) Если артефакты есть, то тут варианты разные, которые зависят от природы этих артефактов. Самый простой и понятный - выбор и настройки кодека. Сейчас, если честно, я по второму скрину не понимаю, что у вас за кодек выбран
Но только настройками кодека обойтись всё равно не получится - вам же важно каждый раз контролировать качество ролика. А это значит, вам нужно научиться видеть эти артефакты.