Melhor do que o próprio Ben Harper para selecionar o melhor de sua carreira, a coletânea By My Side é utilizou o melhor do artista resumido em 12 faixas apontadas pelo dedo do compositor, cantor e vencedor de dois prêmios Grammy.
Dentre os principais sucessos, é possível destacar: "Forever", "Diamonds On The Inside" e "Waiting On An Angel". Mas nem só de "Revivals" o disco se sustenta, Harper apresenta também uma balada atual, Crazy Amazing, e também inclui uma rara versão de estúdio de Not Fire Not Ice.