эта проблема не ОС, а быстродействия процессора. который под линухом быстрее работать не станет.
если же у тебя видеокарта ноута поддерживает аппаратное декодирование h.264, то тогда поставь последние драйвера, а в настройках декодера включи использование аппаратного декодирования.
лично я использую ffdshow из K-Lite Codec Pack. в нем есть ffdshow DXVA video decoder, в котором ставишь галочки аппаратного декодирования, и выбираешь его в плеере (я использую MediaPortal) в качестве декодера для h.264.

что касается линуха - вроде были готовые сборки заточенные под медиаплеер. но я несколько лет назад в них быстро наигрался, плюнул, и поставил ХР + MediaPortal. хотя может сейчас появились более продвинутые и удобные сборки.