Михаил Моисеевич Рабинович родился в городе Екатеринославе (ныне Днепропетровск) в 1892 году. Семья жила бедно, и ему рано пришлось испытать на себе голод и нужду. В поисках работы он изъездил немало городов Украины и Белоруссии. Постепенно в юноше зародилось сознание несправедливости существующего строя, ненависть к эксплуатации, и он твердо встал на путь революционной борьбы.
В 1914 году Михаил Рабинович был арестован за революционную пропаганду и сослан в Туруханский край. В ссылке он стал большевиком, подружился с Яковом Свердловым, Александром Масленниковым и другими коммунистами-ленинцами.
После февральской революции Михаил приехал в Томск. Вскоре горняки Кузбасса избрали его в Судженский комитет РСДРП и Совет рабочих и солдатских депутатов. С началом гражданской войны он ушел в подполье.
В августе 1918 года на I областной подпольной конференции большевики Томска избрали М. Рабиновича в состав Сибирского подпольного комитета РКП(б). На второй подпольной Сибирской конференции РКП(б), проходившей в Томске в ноябре 1918 года и принявшей решение о переводе областного комитета партии в Омск, он был избран секретарем обкома, а в начале декабря вошел в состав Сиббюро ЦК партии.
Обком РКП(б) направляет М. М. Рабиновича в Барнаул, где он информирует подпольщиков-большевиков о решениях конференции. Возвратившись в Омск, как член Военно-революционного штаба включается в активную подготовку восстания против диктатуры Колчака.
Колчаковцы потопили восстание в крови. Но большевики-подпольщики не пали духом. М. М. Рабинович участвует в подготовке и проведении III подпольной Сибирской конференции большевиков, состоявшейся в Омске весной 1919 года. На ней был намечен конкретный план борьбы с интервентами и белогвардейцами, выработаны инструкции для деревенских комитетов, крестьянских штабов и партизанских отрядов, избран руководящий орган большевиков — Сибирский областной комитет, куда вошел и М. М. Рабинович.
Конференция проводилась в обстановке строжайшей секретности. Контрразведка белогвардейцев безуспешно искала ее следы. И только когда делегаты стали разъезжаться, начались аресты. Это было дело рук провокатора, проникшего на конференцию с подложным мандатом.
Колчаковская контрразведка выследила 2 апреля 1919 года руководителей сибирского подполья, среди которых был и М. М. Рабинович. Их жестоко пытали, требуя назвать имена оставшихся на свободе товарищей, адреса конспиративных квартир, явки. Но никто не проронил ни слова. В предсмертном письме герои-подпольщики писали своим друзьям: «Мы знаем, что борьба требует жертв, и мы жертвуем себя; нисколько не жалеем своих жизней, ибо глубоко верим в грядущую всемирную социалистическую революцию и в конечную победу рабочего класса...»
18 апреля 1919 года Михаил Моисеевич Рабинович и его соратники были расстреляны.
Омичи не забыли героя-подпольщика. Улица в Первомайском районе города носит имя М. М. Рабиновича.
