Fue un violonchelista estadounidense de origen húngaro. También fue profesor en la Jacobs School of Music de la Universidad de Indiana en Bloomington desde 1958, donde ostentaba el título de Profesor Distinguido.
Starker recibió su primer violonchelo antes de su sexto aniversario. Sus dos hermanos mayores eran violinistas. Realizó su primera presentación pública a los seis años. Asistió a la Academia de música Franz Liszt en Budapest, donde estudió con Adolf Schiffer. Entre los músicos que lo influenciaron están Leó Weiner, Zoltán Kodály, Béla Bartók y Ernő Dohnányi.

Starker realizó su debut profesional a los 14 años, cuando interpretó el Concierto para violonchelo de Antonín Dvořák.3​ Abandonó la Academia Liszt en 1939 y pasó la mayor parte de la Segunda Guerra Mundial en Budapest. Debido a su juventud, Starker escapó el trágico destino de sus hermanos mayores, quienes tuvieron que realizar trabajos forzados y fueron asesinados por los nazis. A pesar de esto, Starker pasó tres meses en un campo de concentración.