Датой образования МПС России считается 16 июня 1865 года, но систематическая деятельность правительства в области путей сообщения началась еще в 1649 г., когда царь Алексей Михайлович издал Уложение об охране судоходства. При Петре I была учреждена Коммерц-Коллегия, наблюдавшая за сухопутными дорогами, затем в 1742 г. эти функции перешли к Канцелярии перспективной дороги, а в 1748 г. - к Комиссии о дорогах в Государстве. В 1798 г. Павел I утвердил проект образования Департамента водяных коммуникаций, который в 1809 г. был переименован в Управление водяными и сухопутными сообщениями, с 1820 г. по 1832 г. назывался Главным управлением путей сообщения, а с 1833 г. по 1842 г. - Главным управлением путей сообщения и публичных зданий. В 1842 г. в управлении был создан Департамент железных дорог.

Департамент возглавил строительство Петербург-Московской железной дороги (1842 - 1851). В 1862 г. были завершены Петербурго-Варшавская железная дорога и Нижегородская железная дорога.

К шестидесятым годам XIX века бурное развитие промышленности потребовало образования надежной транспортной системы. 15 июня 1865 года Император Александр II издал Указ об учреждении Министерства путей сообщения России. Руководство публичными зданиями было передано в ведение Министерства внутренних дел, а телеграф - Главному почтовому департаменту. В МПС был сохранён Департамент железных дорог, и создано Управление Главного инспектора частных железных дорог.

Ведомство путей сообщения, которое находилось в Санкт-Петербурге (Петрограде) до 1918, в разные годы возглавляли выдающиеся деятели русского государства, среди которых были известные политические деятели, коммерсанты, учёные.

Первым министром путей сообщения был назначен Павел Петрович Мельников - выдающийся ученый, талантливый инженер и организатор. Его перу принадлежит первая в России книга "О железных дорогах", многочисленные монографии, статьи, которые охватывают широкий и разнообразный круг вопросов, касающихся железных дорог. Труды П.П. Мельникова положили начало железнодорожной науке, многим теоретическим разработкам, которые он претворял в жизнь при руководстве строительством железнодорожных линий. Благодаря Мельникову Министерство путей сообщения становится одним из самых авторитетных ведомств России, а служба на железнодорожном транспорте считается одной из самых престижных. Будучи профессором, П.П. Мельников воспитал плеяду выдающихся инженеров. Одним из них был Константин Николаевич Посьет - министр путей сообщения с 1874 по 1888 год, с именем которого тесно связано строительство железных дорог в Европейской части России. В период работы Посьета министром формировалась железнодорожная сеть со сквозными направлениями в Донбассе и Полесье, на Северном Кавказе и Закавказье с выходами на Волгу, к Уралу и в Среднюю Азию.

Под руководством Мельникова в МПС была разработана перспективная программа развития сети железных дорог России. Предлагалось строительство Южной дороги - от Москвы до Севастополя; Восточной - от Орла до Саратова; Западной - от Орла через Смоленск, Витебск до Динабурга (Даугавпилса); Юго-Восточной - от Екатеринослава до Ростова. Общая протяжённость сети должна была составить 4816,7 км. По этим планам к 1871 г. было построено 8125,3 км. Успеху строительства способствовало создание в МПС Управления строительства (1867 г.). В структуре МПС были также образованы: Департамент железных дорог и при нём Техническо-инспекторский комитет (1870 г.), Управление казённых железных дорог (с 1880 г.), Инспекция железных дорог (с 1892 г.).