Robert Allen Zimmerman naquit à Duluth, dans le Minnesota, le 24 mai 1941. Il est le premier fils de Beatrice (Beatty) Stone, née en 1915 et morte en 1999, et de Abram (Abe) Zimmerman, né en 1911 et mort en 1968, qui s'étaient mariés à Duluth en 1934, et eurent un autre fils, David, en 1946. Ses grand-parents paternels avaient fui Odessa en Ukraine, et ses ancêtres maternels avaient émigré de Lituanie, à la suite des persécutions antisémites en Russie au tournant du 20ème siècle.

A l'âge de quatre ans, Bob chanta à des réceptions pour sa grand-mère et pour sa tante, à la demande des invités qui furent apparemment enchantés…