Fue un músico violonchelista y director de orquesta soviético-ruso, considerado el máximo violonchelista de su generación.
Además de sus interpretaciones y técnicas, fue conocido por inspirar y encargar nuevas obras, que ampliaron el repertorio de violonchelo más que cualquier violonchelista anterior o posterior. Inspiró y estrenó más de 100 piezas, formando amistades de larga duración y asociaciones artísticas con compositores como Dmitri Shostakóvich, Serguéi Prokófiev, Henri Dutilleux, Witold Lutosławski, Olivier Messiaen, Luciano Berio, Krzysztof Penderecki, Alfred Schnittke, Leonard Bernstein, Aram Jachaturián y Benjamin Britten.
Rostropovich fue reconocido internacionalmente como un firme defensor de los derechos humanos y recibió el Premio de la Liga Internacional de Derechos Humanos en 1974. Estaba casado con la soprano Galina Vishnévskaya y tenía dos hijas, Olga y Yelena Rostropovna.