Какой кодек лучше для сжатия видео, именно для качества x264 или VP7?

x264 хороший кодек. VP7 - ничего не слышал. Если это супер новый, то надо рассматривать. Если давно существует, то явно должен быть хуже.

П/С
Ну посмотрел что это такое. Сразу скажу - дрянь.

Если в описании сказано, что он имеет более высокую степень сжатия, и применяется в интернет-трансляциях, то о каком качестве можно говорить? Насколько я понял, это всё некие адаптации под мобильные устройства и инет-трансляции. Тут же не только в самих видео дело, но и в том, на чём ты будешь потом это смотреть. Когда в продаже появились первые mp3-проигрыватели, магнитофоны и муз центры с mp3, звук такой ужасный был, что противно было слушать. Не потому, что mp3 стандарт был хуже, а потому что сами проигрыватели были хуже. Примерно так же и с видео. Сейчас больше адаптации под более распространённые кодеки, поэтому они для большинства случаев будут предпочтительней. И если разработчик, например, VP8 гугл, то понятно, с какой целью это делается, чтобы сэкономить место на серверах. Ютуб уже сжимает 4к видео, и будет дальше идти в этом направлении. На каждого юзера, выкладывающего стримы, места не напасёшься. Это как один в комментах сказал, "убил блогера - спас серверную стойку" ))

H.265 или самый новый AV1 - еще лучше

лучше всего hevc и VP9