Для MKV прежде всего нужен не проигрыватель, а Matroska Splitter.
Поскольку это файл-контейнер, видеопоток (и аудио) может быть закодирован разными кодерами.
Чаще всего это H.264, лучший декодер для него - CoreAVC (платный, но можно найти с регистрацией).