Русский ученый, правовед, публицист, один из крупнейших представителей либерального движения, активный участник земского движения с момента его зарождения, редактор журнала «Русская мысль».
Родился в бедной дворянской семье. Отец зарабатывал на жизнь учительством. В 1861 г. поступил в Тульскую гимназию. Благодаря поддержке инспектора гимназии, будущего известного писателя Е.Л. Маркова, Гольцев был принят на казенный счет в гимназический пансион. Он был глубоко верующим ребенком. В гимназии писал стихи на библейские темы. В старших классах юноша стал давать частные уроки, помогая семье. К моменту окончания гимназии разочаровывается в вере и увлекается произведениями В.Г. Белинского, А.И. Герцена, И.С. Тургенева, Н.Г. Чернышевского и Н.А. Добролюбова. Окончил гимназию с золотой медалью в 1868 г. и поступил в Московский университет на юридический факультет. Во время обучения Гольцев принимал участие в студенческих собраниях и по некоторым данным даже в деятельности некоего «тайного общества», предположительно московского отделения «чайковцев»; был знаком с будущим народовольцем Л.А. Тихомировым. Окончил университет в 1872 г. и был оставлен при университете на кафедре финансового права. После сдачи магистерских экзаменов по финансовому праву и политической экономии в сентябре 1875 г. он был командирован за границу для подготовки магистерской диссертации.
Он побывал в Париже, Гейдельберге, Вене и Лейпциге. Во время путешествия Гольцев получил возможность познакомиться с деятельностью российской революционной эмиграции. Из Парижа он обратился с письмом к одному из лидеров революционных народников П.Л. Лаврову, в котором, осудил насильственные методы политической борьбы и призвал революционеров вместе с либералами добиваться введения конституции в России. Письмо было опубликовано в эмигрантском журнале «Вперед!», 1875, № 21 за подписью «Русский конституционалист» с полемическим ответом редактора П.Л. Лаврова.
В Вене Гольцев выступил в украинском обществе «Буковина» со своей первой публичной лекцией о русской литературе, а также с речью, направленной против «антимоскальских выступлений» со стороны украинской диаспоры. В результате один из полицейских агентов донес о «неблагонадежности» Гольцева.
По возвращении из командировки сдав еще один магистерский экзамен по полицейскому (административному) праву, в 1878 г. в Московском университете Гольцев защитил магистерскую диссертацию на тему «Государственное хозяйство во Франции XVII века», в которой доказал пагубность абсолютной монархии как формы государственного правления. В том же году был избран доцентом Московского университета, но не был утвержден в этой должности министром народного просвещения Д.А. Толстым.
Приглашение в Новороссийский университет (1879 г.) также закончилось вынужденной отставкой из-за негласного распоряжения не допускать неблагонадежного преподавателя до работы со студентами. Во время «диктатуры сердца» М.Т. Лорис-Меликова новый министр народного просвещения А.А. Сабуров в феврале 1881 г. утвердил Гольцева в должности доцента Московского университета. Он начал читать курс «Учение об управлении», с интересом встреченный студентами. Однако с началом реакции после гибели императора Александра II августе 1882 г. Гольцев был уволен в отставку.
Смирившись с тем, что научная карьера для него закрыта, Гольцев отдался публицистической и общественной деятельности. В конце 1870-х - 1880-х гг. он активно включился в земское движение и был одним из организаторов нелегального съезда земской оппозиции, состоявшегося в марте 1879 г. в Москве. В 1880-1884 гг. избирался уездным и губернским земским гласным в Тверской губернии, в 1892-1893 гг. - гласным Московской городской думы, однако до этой должности не был допущен по решению вышестоящих властей.
После возвращения из-за границы Гольцев находился под надзором полиции. Неоднократно арестовывался на короткие сроки в 1884 и 1888 гг. по подозрению в связях с народниками
Гольцев работал над докторской диссертацией «Законодательство и нравы в России ХVIII века», которая была издана в 1886 г., но так и осталась незащищенной, что не позволило Гольцеву получить степень доктора.
В 1880 г. стал одним из ведущих сотрудников журнала «Русская мысль» (с 1885 г. по цензурным условиям неофициальный, а с 1905 г. официальный редактор). В журнале публиковались Г.И. Успенский, Н.С. Лесков, М. Горький, В.М. Гаршин, В.Г. Короленко, А.П. Чехов и многие другие писатели. Сам Гольцев много лет вел в журнале колонку «политическое обозрение». Кроме того он печатался и в других либеральных периодических изданиях: «Голос», «Русские ведомости», «Вестник Европы».
Гольцев один из создателей Московского юридического общества (в 1882-1888 гг. занимал пост товарища председателя), был членом Общества Любителей русской словесности, Московского психологического общества, Комитета грамотности и других общественных организаций, выступал с публичными лекциями в различных аудиториях. В 1891-1892 гг. он участвовал в организации помощи голодающим.
Первую русскую революцию и Манифест 17 октября, Гольцев встретил с большим оптимизмом. Он вступил в партию кадетов и принял участие в выборах в I Государственную думу. Весной 1906 г. он был избран приват-доцентом Московского университета, но болезнь и скорая смерть не дали ему возможности не только возобновить педагогическую деятельность, но и принять участие в думских прениях.
Сочинения:
Очерк развития педагогических идей в новое время (1880)
Законодательство и нравы в России XVIII в. (1885)
Воспитание, нравственность, право (Сборник статей, 1889)
Об искусстве (критические заметки, 1890)
Вопросы дня и жизни (1893)
Законодательство и нравы в России ХVIII в. СПб., 1896.
Из воспоминаний и переписки // Русская мысль. 1905. №4.
