Спасибо за подсказки, залез в настройки, стало лучше!
Копаю дальше, столкнулся со следующим:
1. Не могу понять как воспроизводить dts, по идее его необходимо транскодировать. В меню "о профиле"-"кодеки" поставил dts, но не помогло.
2. На части фильмов в DVD и BDMV, пишет ошибку "Ошибка воспроизведения. В настоящее время совместимых потоков в наличии не имеется". Вот примеры https://rutracker.org/forum/viewtopic.php?t=5768705, https://rutracker.org/forum/viewtopic.php?t=5755193, https://rutracker.org/forum/viewtopic.php?t=4422833
3. Не воспроизводит mp4, просто зависает http://kinozal.me/details.php?id=1780179
4. Почему-то не воспроизводит часть фильмов в 4К когда захожу на сервер через входы. Когда захожу через клиента, все ок.
5. Смотрю медуз140, он транскодирует, причину транскодирования указывает "Потоковая скорость медиаданных превысила предел", это норм?
6. Прогнал медуз120, там не транскодирует, но все равно подвисает часто В смартшаре подвисает, но меньше.