Gegründet wurde das Museum Eremitage im Jahr 1764, als die russische Zarin Katharina II. eine Gemäldekollektion von einem Berliner Kaufmann namens Johann Ernst Gotzowsky erwarb. Zu jener Zeit begann neben dem Winterpalast der Bau eines kleinen Pavillons, der Kleinen Eremitage, in dem Katharina II. für Eingeweihte Unterhaltungsabende veranstaltete und sich die Zeit in den Galerien der Kunstsammlung vertrieb. So entstand auch der Name des Museums.
Wie auch andere renommierte Museen, darunter das Louvre, das Museo del Prado und die Kunstsammlung Uffizien, begann die Eremitage als private Sammlung der regierenden Zarendynastie. Katharina II., geboren als deutsche Prinzessin Sophie Auguste Friedericke von Anhalt-Zerbst, war sehr gebildet, befürwortete die Leitgedanken der französischen Aufklärung, unterhielt einen Briefwechsel mit Voltaire und Diderot und scheute keine Kosten und Mühen, um als aufgeklärte und gebildete Herrscherin zu wirken. Dieses Image war für sie auch deshalb besonders wichtig, da sie den Thron durch die Entmachtung ihres eigenen Ehemannes, Peter III., bestiegen hatte.
Die Gemäldesammlung, die den Grundstein für die Kollektion der Eremitage legte, hatte Johann Ernst Gotzowsky ursprünglich für den preußischen König, Friedrich II., gesammelt. Doch der Siebenjährige Krieg hatte die Staatskasse geleert und den Monarchen dazu genötigt, vom Kauf abzusehen. Daraufhin bot Gotzowsky, bei der russischen Regierung verschuldet, Russland, das den Krieg gewonnen hatte, den Erwerb der Gemäldesammlung als Schuldenersatz an. Diese großzügige Geste gab Katharina II. zudem die Gelegenheit, gegen ihren Widersacher zu sticheln und mit dem Vermögen der russischen Staatskasse zu prahlen, die in Wirklichkeit nicht weniger leer war als die preußische. Da sich Gotzowsky nicht allzu gut in der Kunst auskannte, besaß die Kollektion keinen einheitlichen Wert. Unter den 225 Bildern befanden sich jedoch auch wahre Meisterwerke, darunter das „Portrait eines jungen Mannes mit einem Handschuh“ von Franz Hals und „Die Müßiggänger“ von Jan Steen.
Auch nachfolgende Generationen kauften für die Eremitage ein
Im Anschluss darauf folgte eine wahre Flut an Kunstkäufen. Katharinas Kunsthändler und russische Gesandte kauften die besten, auf dem Markt verfügbaren Arbeiten verschiedener renommierter Meister ein und gaben Bestellungen bei zeitgenössischen Malern in Auftrag. Unter den erstandenen Schätzen befanden sich die Kollektion des sächsischen Ministers und Grafen Heinrich von Brühl, die Sammlung des französischen Grafen Balduin sowie die Kollektion des britischen Premierministers Sir Robert Walpol. Jede neue europäische Sammlung bereicherte Katharinas Kollektion mit Hunderten von Arbeiten und zahlreichen Meisterwerken. Allein diese drei Sammlungen brachten Dutzende Arbeiten berühmter Maler wie Rembrandt, Rubens, Poussin, Murillo und Snyders in ihren Besitz.
Eine der wertvollsten Anschaffungen in der gesamten Museumsgeschichte war die Gemäldesammlung des Baronen Crozat, eines Bankiers und Kunstkenners, die mithilfe von Denis Diderot im Jahr 1772 in Paris erworben wurde. Durch sie gelangten Raphaels „Madonna mit dem bartlosen heiligen Joseph“, Giorgiones „Judith mit dem Kopf von Holofernes“, Rembrandts „Danaë“, Veroneses „Ariadne und Naxos“, Rubens „Porträt einer Kammerzofe“ sowie fünf Portraits und ein Selbstbildnis von van Dyck in die Eremitage. Zum Zeitpunkt des Todes Katharinas der Großen bestand die Kollektion aus 3 996 Bildern.
Die Erben Katharinas der Großen setzten die Suche fort. Unter den wertvollsten Käufen des 19. Jahrhunderts befanden sich Caravaggios „Der Lautenspieler“, die Sammlung der Josephine de Beauharnais aus dem Schloss Malmaison, fünf Arbeiten von Tizian aus dem Palazzo Barbarigo in Venedig, da Vincis „Madonna Litta“ sowie die „Madonna“ von Raphael. Diese war, begleitet von der Empörung der Italiener, dem Grafen Contestabile abgekauft worden, weil die italienische Regierung nicht genug Geld hatte, das Bild selbst zu erwerben.
Ausverkauf durch die sowjetischen Behörden
Zu einem öffentlichen Museum wurde die Eremitage im Jahr 1852 unter der Herrschaft Nikolaus I., der aus diesem Anlass ein eigenes Gebäude neben dem Winterpalast bauen ließ – die neue Eremitage mit Atlanten aus Granit, die den Eingang schmückten. Damals brauchte man jedoch noch eine Sondergenehmigung der Hofkanzlei, um das Gebäude zu betreten.
Nach der Revolution 1917 wurden der Winterpalast und die Eremitage zu staatlichen Museen erklärt. Dabei gingen zahlreiche verstaatlichte Sammlungen russischer Aristokraten in die Kollektion ein. Der darauffolgende Verkauf einiger Meisterwerke trug wesentlich zur Verarmung des Museums bei. Da die junge Sowjetunion Geld und Kontakte brauchte, schickte eine Sonderkommission von 1928 bis 1933 diverse Exponate aus der Eremitage zu europäischen Auktionen und das Kommissariat für Außenhandel nutzte sie als Geschenke für ausländische Staats- und Geschäftsmänner. Unter den Tausenden exportierten Ausstellungsstücken befanden sich 48 internationale Meisterwerke von van Eyck, Botticelli, Raphael, Perugino, Veronese und Velázquez. 28 von ihnen schenkte der US-Finanzminister Andrew Mellon der National Gallery of Art in Washington.
Im Jahr 1948 wurde in Moskau das Museum der Neuen Westlichen Kunst aufgelöst, das bis dahin die Sammlungen der größten Kunstsammler der Vorrevolutionszeit, Sergei Schjukin und Iwan Morozow, beherbergte. Die aus impressionistischen und postimpressionistischen Werken bestehende Sammlung wurde unter dem Puschkin-Museum in Moskau und der Eremitage aufgeteilt. So gelangten „Das Rote Zimmer“ und „Der Tanz“ von Matisse, „Die drei Frauen“ von Picasso sowie andere großartige Arbeiten nach Sankt Petersburg.
Seit 2007 widmet sich das Museum dem Projekt „Eremitage 20/21“, das die Arbeiten zeitgenössischer Künstler erwirbt und ausstellt. Wie auch ähnlich gestaltete Ausstellungen in Versailles sorgt dieses Projekt im konservativen Lager immer wieder für Entrüstung und Kritik. Dennoch waren in dieser Zeit in der Eremitage die Brüder Chapman, Antony Gormley, Anish Kapoor sowie Annie Leibovitz zu Gast. Im Jahr 2017 fand zudem bis zum 9. April die Ausstellung des Künstlers Jan Fabre „Der Ritter der Verzweiflung – der Krieger der Schönheit“ statt.