Как добиться высокого качества и малого размера при оцифровке с видеокассет?

очевидно тут нельзя дать однозначный ответ, если качество записи на в. кассете высокое надо соответственно и настройки ставить высокие, ну а если низкое, то сам понимаешь, надо самому пробовать и нарабатывать опыт

ставь разрешение в насройках кодека 352*288, звук 32000 Hz 16 bit вполне достаточно будет более высокое разрешение себя не оправдает, а кодек сам выбирай

сжимай в формат MP4