Шолом Рабинович родился 2 марта 1859 года в городе Переяславе Полтавской губернии, в границе черты оседлости Российской империи. Его воспитывал отец — человек набожный, но при этом отличавшийся современными взглядами. Детство Рабиновича прошло в местечке Воронькове, которое впоследствии станет прототипом для вымышленного городка — Касриловки. Поначалу он писал на русском языке. Так, по-русски написан рассказ «Еврейский Робинзон Крузо». Получив образование, он работал учителем русского языка, а также «казенным раввином» в городе Лубны. 

Рабинович принадлежал к первому поколению русско-еврейских интеллектуалов, сделавших себе имя в прессе. Под псевдонимом Шолом-Алейхем («Мир вам») он опубликовал свои первые тексты в «Газете еврейского народа» (פאָלקסבלאַט יוּדישעס) — единственной в царской России газете, выходившей на идише. В 1883 году он женился на дочери богатого купца, Ольге, и та родила ему шестерых детей. До 1890 года он со своей семьей жил в Киеве, который вывел в своих произведениях под названием Егупец. В этот период он днем играл на бирже, а по вечерам писал рассказы и сатирические скетчи. 

В 1890 году Рабинович разорился, перевез семью в Одессу, потом обратно в Киев, но так и не смог восстановить ни финансовую стабильность, ни положение в обществе. «Из господина Мир-Вам, — писал он, — я превратился в господина Всё-В-Прошлом». Всю свою энергию Шолом-Алейхем употребил на создание литературы на идише. Личную неудачу и финансовый крах он превратил в темы своих произведений. 

В 1905 году после еврейского погрома в Киеве, свидетелем которого он стал, Шолом-Алейхем покинул Россию и с тех пор бывал там только на гастролях, когда приезжал читать свои рассказы. Стремясь в 1906-1907 годах покорить мир американского идишского театра, он пережил жестокое разочарование. В триумфальном туре по России Шолом-Алейхем чуть не умер от туберкулеза. Он лечился в итальянском городке Нерви, где и написал собственную эпитафию. К этому времени он стал популярнейшим еврейским писателем, на его лечение собирал средства весь идишский мир. 

Начало Первой мировой войны застало Шолом-Алейхема в Берлине, где он пробовал себя в создании немых фильмов, но теперь стал восприниматься как подозрительный иностранец. С помощью влиятельных почитателей ему удалось вместе с семьей перебраться в Нью-Йорк. 

Шолом-Алейхем заслуженно считается одним из самых остроумных еврейских писателей. Его перу принадлежат романы, короткие рассказы, путевые заметки, монологи, комедии, автобиография и несколько стихотворений, вошедших в песенный фольклор. Он превратил опыт современного еврейства в комичную историю изгнаний и возвращений. Его произведения любимы читателями всего мира, они переведены на иврит, русский, украинский и английский языки. Благодаря бродвейскому мюзиклу Тевье-молочник стал узнаваемым и хрестоматийным типажом забавного отца семейства. 

Шолом-Алейхем умер 13 мая 1916 года в Нью-Йорке в возрасте 57 лет и был похоронен на старом кладбище Маунт-Кармел в Квинсе. По сообщению газеты «Нью-Йорк таймс», на его похороны пришли более 100 тысяч человек — это была одна из самых масштабных похоронных процессий в истории города. 

Простой еврей под камнем сим, 

На идише общался. 

И от написанного им 

Люд со смеху катался. 

Высмеивал он ход всего,

Шутил над жизни драмой, 

Смеялись все, но у него

На сердце были шрамы. 

Пока все хлопали ему, 

Смеялись беззаветно, 

Страдал он; Богу одному 

Известно было это. 

      Написано Шолом-Алейхемом в 1908 году