Государственная казна приобрела для будущего музея Михайловский дворец — шедевр русского ампира, созданный в 1819—1825 гг. зодчим Карлом Ивановичем Росси при участии скульпторов Василия Ивановича Демут-Малиновского и Степана Степановича Пименова. В 1896—1897 гг. архитектор Василий Фёдорович Свиньин (1865— 1939) переоборудовал великокняжеские апартаменты в музейные залы.

Из Царского Села сюда привезли сто картин, находившихся в личной коллекции Александра III, в том числе работы В. Л. Боровиковского, К. П. Брюллова, А. Г. Венецианова, П. А. Федотова. Из Зимнего дворца поступили «Покорение Сибири Ермаком» В. И. Сурикова, полотна В. Д. Поленова, К. А. Савицкого, из Эрмитажа — «Последний день Помпеи» К. П. Брюллова, «Девятый вал» И. К. Айвазовского, «Запорожцы пишут письмо турецкому султану» И. Е. Репина, произведения скульптуры. Санкт-Петербургская академия художеств передала музею лучшие работы своих выпускников, коллекцию Музея христианских древностей и композицию из мрамора «Анна Иоанновна с арапчонком» Б. К. Растрелли. Девяносто две картины подарил князь А. Б. Лобанов-Ростовский, свыше четырёхсот рисунков и акварелей — княгиня М. К. Тенишева. Художник Н. А. Ярошенко передал свои графические работы. Русский музей был открыт 7 марта 1898 г.

К 191 7 г. фонды музея увеличились примерно вдвое — в основном за счёт пожертвований коллекционеров. При нём было создано хранилище русской церковной старины и иконописи — прообраз будущего Отдела древнерусского искусства; основаны Этнографический и Историко-бытовой отделы. (Впоследствии Этнографический отдел был преобразован в Российский этнографический музей, а на основе Историко-бытового отдела создан Отдел истории русской культуры Эрмитажа.) В 1914—1916 гг. архитектор Леонтий Николаевич Бенуа (1856—1928) пристроил к зданию ещё один выставочный корпус.

В советское время Русский музей пополнили памятники искусства, принадлежавшие царской фамилии, Академии художеств, графам Шуваловым, Строгановым, Шереметевым. Из Соловецкого, Кирилло-Белозерского, Александро-Свирского монастырей поступили замечательные памятники древнерусских мастеров. Особенно обогатилась скульптурная коллекция: в неё вошли произведения Ф. И. Шубина, Э. М. Фальконе, И. П. Мартоса, П. П. Трубецкого. Некоторые статуи из бронзы (в частности, бюст А. В. Суворова работы В. И. Демут-Малиновского) передали работники одного из литейных предприятий города, обнаружив их среди предназначенного для переплавки металла. Из Третьяковской галереи музей получил уменьшенный вариант картины А. А. Иванова «Явление Христа народу» и ряд картин передвижников. В музее также находится около четырёхсот полотен А. И. Куинджи, уникальное наследие скульптора А. С. Голубкиной, художников А. П. Остроумовой-Лебедевой и П. Н. Филонова.

Ныне Государственный Русский музей хранит более трёхсот шестнадцати тысяч экспонатов. В фондах музея находятся архивы большинства творческих организаций и многих видных художников России. В 1991—1992 гг. ему были переданы здания Михайловского (Инженерного) замка, Мраморного и Строгановского дворцов.