Родился в Варшаве. С 1897 г. живет в Петербурге. Образование получил в Тенишевском училище (1899-1907 гг.), одном из наиболее прогрессивных учебных заведений того времени. В 1908-1910 гг. учился в Сорбонне и в Гейдельбергском университетах. Начинал как представитель акмеизма, дружил с Н. Гумилевым и А. Ахматовой. Первая книга стихов «Камень» вышла в 1913 г. Неоднократно был арестован. Февральскую революцию 1917 г. принял с энтузиазмом, Октябрьскую – с отвращением. В 1925-30 гг. пишет прозу: «Шум времени», «О поэзии», «Египетская марка». В ноябре 1933 г., на пике своей ненависти к советскому официозу, Мандельштам пишет стихотворение «Мы живем, под собою не чуя страны…», направленное против Сталина, за которое его арестовывают и отправляют в ссылку в Воронеж (1934-37 гг.). Умер в декабре 1938 г. в пересыльном лагере Северо-Восточных исправительно-трудовых лагерей.