Родился 22 октября (3 ноября) 1887 в Воронеже, в еврейской семье заводского техника-мастера Якова Мироновича Маршака (1855—-1924). Фамилия «Маршак» является сокращением, означающим «Наш учитель рав Аарон Шмуэль Кайдановер» и принадлежит потомкам известного раввина и талмудиста (1624—1676). С раннего детства писал стихи. В 1902 вместе с семьей переехал в Петербург, где случай помог ему познакомиться с В.В. Стасовым, а через чего с Ф.И. Шаляпиным и М. Горьким, принявшими горячее участие в судьбе талантливого мальчика.
