Михаил Иванович Глухов родился 31 января (по новому стилю — 12 февраля 1893 года) в деревне Песьяны (ныне — Киржачский район Владимирской области). По национальности русский.
В октябре 1914 года Глухов был мобилизован в Русскую императорскую армию и направлен на фронт Первой мировой войны. Его боевые заслуги были отмечены четырьмя Георгиевскими крестами и двумя Георгиевскими медалями. Дослужился до чина ефрейтора.
В июне 1917 года Глухов вступил в формирования Красной гвардии. Участвовал в штурме Зимнего дворца в ночь с 26 на 27 октября (по новому стилю — с 7 на 8 ноября) 1917 года.
В 1918 году Глухов поступил на службу в Рабоче-Крестьянскую Красную Армию. Участвовал в боях Гражданской войны против войск генерала А. И. Деникина и польских войск. В марте 1921 года Глухов, будучи комиссаром 31-х пехотных Смоленских курсов, командовал отрядом курсантов, направленных на подавление Кронштадтского восстания. За боевые отличия он был награждён орденом Красного Знамени.
После окончания войны Глухов продолжил службу в Красной Армии. Командовал Рославльским гарнизоном, затем был комиссаром 17-й пехотной Тульской школы. В 1924 году Глухов окончил Военно-академические курсы высшего начальствующего состава, после чего служил на военно-политических и командных должностях. В 1928-1931 годах он занимал должность начальника и военного комиссара Омской пехотной школы. В 1931-1935 годах командовал сначала 65-й стрелковой дивизией Сибирского военного округа, затем 2-й колхозной стрелковой дивизией Отдельной Краснознамённой Дальневосточной Армии (ОКДВА). В 1937 году Глухов был назначен на должность командира 26-го стрелкового корпуса ОКДВА.
В марте 1938 года Глухов был арестован органами НКВД СССР по сфабрикованному обвинению. В декабре 1939 года уголовное преследование против него было прекращено, а сам он был освобождён с восстановлением в кадрах РККА. Служил старшим преподавателем кафедры тактики, начальником курса основного факультета Военной академии РККА имени М. В. Фрунзе.
В начале Великой Отечественной войны Глухов был направлен в действующую армию. Выполнял специальное задание в группе генерала армии И. В. Тюленева. С сентября 1941 года Глухов служил начальником штаба 61-й армии Юго-Западного, затем Брянского фронтов. Участвовал в битве за Москву, проведении наступлений на Болховском и Орловском направлениях. В июле 1942 года, выполняя задание командования, Глухов лично руководил на наиболее ответственных участках действиями соединений армии. Благодаря его действиям противник не смог прорвать оборону на этих участках и был вынужден отступить с большими потерями. 26-31 января 1943 года подвижная группа из двух стрелковых дивизий и двух танковых бригад под командованием Глухова прошла с боями десятки километров, освободила более 100 населённых пунктов, в том числе райцентр Волово. Впоследствии ему ещё не раз приходилось принимать на себя командование подвижными группами и руководить разгромом немецких частей и соединений.
В апреле 1943 года Глухов был назначен заместителем командующего 13-й армией Брянского фронта. Проводил большую работу по сколачиванию боевых частей армии, выполнял ответственные задания Военного Совета по обследованию и налаживанию боевой службы в частях. Так, 5-12 июля 1943 года, в период оборонительных боёв, Глухов бесстрашно работал на передовой, умело направляя действия частей. В тех боях он был ранен. Во время форсирования Десны и Днепра Глухов оказывал большую помощь командирам 15-го и 17-го стрелковых корпусов, чем содействовал общему успеху.
В январе 1944 года Глухов был назначен командиром 76-го стрелкового корпуса. Под его руководством части этого корпуса участвовали в Житомирско-Бердичевской, Ровно-Луцкой, Проскуровско-Черновицкой, Сандомирско-Силезской, Нижнесилезской, Берлинской и Пражской операциях. За успешный прорыв немецкой обороны и освобождение городов Кельце и Скоржиско-Каменна Глухов 3 февраля 1945 года был представлен к званию Героя Советского Союза, однако вышестоящие инстанции снизили статус награды до ордена Кутузова 2-й степени. Таким же орденом за отличия в боях на реке Нейсе был награждён и сражавшийся под его командованием 76-й стрелковый корпус. В период Берлинской операции корпус Глухова прорвал немецкую оборону на реке Шпрее и разгромил части 9-й армии вермахта, нанеся ей большие потери.
Участвовал в Параде Победы. После окончания войны Глухов продолжил службу в Советской Армии, был заместителем командующего сначала в 3-й гвардейской танковой, а с декабря 1946 года — 8-й механизированной армиях. Скончался 13 марта 1947 года в Житомире, похоронен на Лукьяновском кладбище Киева (участок № 17, ряд № 3, место № 6).
