El costado sur de la Plaza Mayor albergó diversas construcciones destinadas a la administración pública del Virreinato de la Nueva Granada como la Casa de la Real Audiencia, el tribunal de cuentas, la cárcel grande y el Palacio Virreinal, este último fue destruido por un incendio ocurrido en mayo de 1786. Antes de una construcción del Capitolio, el Congreso no contó con una sede permanente y sesionó en diversos recintos de la ciudad, como colegios, cárceles, templos y conventos.

Por encargo del presidente Tomás Cipriano de Mosquera, el ministro plenipotenciario de Colombia en Venezuela Manuel Ancízar contrató el 27 de agosto de 1846 al arquitecto danés Thomas Reed, quien por entonces se encontraba en Caracas. El propósito de su contrato era la construcción de un edificio público destinable a Palacio de Gobierno, en el cual se deseaban albergar las dos Cámaras del Congreso, la Corte Suprema, el Tribunal del Distrito de Cundinamarca, la Registraduría y la Presidencia de la República. Pocas semanas más tarde, Reed se instaló en Bogotá e inició el diseño de la construcción. En sus planos le otorgó a la edificación el nombre de Capitolio Nacional y su proyecto fue aprobado por el Congreso. Para la ejecución de la obra se publicó la convocatoria de una licitación pública en la Gaceta Oficial del 17 de junio de 1847, la cual se le adjudicó al empresario Juan Manuel Arrubla.

Placa de la primera piedra de la construcción del Capitolio.

Las obras del Capitolio comenzaron el 20 de julio de 1848, por ley expedida por el presidente Tomás Cipriano de Mosquera. En aquella fecha se puso la primera piedra con la bendición del arzobispo de Bogotá Manuel José Mosquera (hermano del presidente Tomás Cipriano) y en presencia de todas las autoridades civiles.

Las obras de construcción duraron 78 años y diversos arquitectos estuvieron a su cargo. Su autor, Thomas Reed, dirigió la construcción hasta 1851, cuando se suspendió por la guerra civil. En febrero de 1870 se inició la segunda fase de trabajos a cargo de Francisco Olaya, antiguo maestro de obra de Thomas Reed y Director de Obras Públicas. El 1 de abril de 1874 los salones de las Cámaras del Congreso se habilitaron y se comenzaron a utilizar a pesar de que aún estaban en proceso de construcción,  justamente en esa fecha el presidente Manuel Murillo Toro dio investidura en el Salón Elíptico a su sucesor Santiago Pérez, quien fue el primer mandatario que se posesionó en dicho recinto. En 1881 continuó la labor el italiano Pietro Cantini, quien incluyó algunas reformas en el frontis diseñado originalmente por Reed. El poeta Rafael Pombo publicó una serie de críticas acerca de dichas reformas en el diario El Conservador del 29 de septiembre de 1881. Cantini continuó en la dirección de las obras hasta 1885, cuando la guerra civil las dejó sin presupuesto. Los trabajos se reanudaron en 1891 bajo la dirección de Antonio Clopatofsky, quien estuvo al frente durante un año, basado en los planos de Cantini.

Relieve en bronce del artista bávaro Ferdinand von Miller con una representación de la bendición de la primera piedra por el arzobispo Manuel José Mosquera.

En 1904 el mismo Pietro Cantini presentó unos nuevos planos y evaluaciones para la obra del Capitolio. El 11 de abril de 1905 se realizó un contrato para la instalación de energía eléctrica en el edificio. Cantini retomó la dirección de las obras entre 1906 y 1908, periodo en el que se apuntalaron los techos, se mejoró la entrada al costado sur, se revisó el drenaje de la edificación, se retiró el alquitrabe construido entre las pilastras del frontis y se cambió el techo antiguo. El 11 de febrero de 1908 renunció Cantini a las obras por su delicado estado de salud y quedó a cargo el arquitecto bogotano Mariano Santamaría por solicitud del presidente Rafael Reyes; en su labor, Santamaría diseñó el costado sur, levantó las columnas del patio interior, el frontón y el pórtico. Entre 1911 y 1919 asume la dirección de los trabajos el francés Gastón Lelarge, quien demolió el pórtico construido por Santamaría y lo reemplazó por el actual, diseñó los salones legislativos y las dependencias interiores y construyó las escalinatas exteriores. El 14 de octubre de 1914 el general Rafael Uribe Uribe fue asesinado por dos hombres subiendo las escalinatas de la entrada al Capitolio.

En 1920 el gobierno convocó a una comisión para decidir el remate más adecuado para el Capitolio, la cual no dio una solución adecuada y tres años después la Sociedad Industrial de Ingenieros abrió un concurso del cual se presentaron dos alternativas: una opción de cúpula presentada por Alberto Martínez y Sadi González, y otra que sugirió colocar cuatro grifos en el ático del Salón Elíptico, que fue finalmente la opción seleccionada.

Reverso de billete de 100 pesos con la imagen del Capitolio.

Entre 1924 y 1925 finaliza las obras el arquitecto Alberto Manrique Martín, quien terminó la construcción del Salón Elíptico y de las cubiertas, bajo la presidencia de Pedro Nel Ospina.11 El palacio se inauguró oficialmente el 7 de agosto de 1926, para la posesión presidencial de Miguel Abadía Méndez e inicio del periodo legislativo.

Entre 1945 y 1957 se realizaron las primeras modificaciones a la construcción, agregando una escalera imperial de comunicación entre el Salón Boyacá y el sótano, dos ascensores y una escalera monumental en el patio Núñez, obras realizadas por Rafael Lelarge, hijo del arquitecto Gastón Lelarge.

La imagen del Capitolio Nacional ha aparecido en dos series de estampillas emitidas por Adpostal, la primera en 1946 y la segunda en 1959. En 1969 el Banco de la República emitió una serie de billetes de 100 pesos con la imagen de la fachada del Capitolio Nacional en el reverso. Dicha serie de billetes se reemitió ocho años más tarde pero con una imagen del Capitolio modificada, en la que se presentaba la misma fachada desde una perspectiva lateral, la cual circuló hasta 1980.

En 1975 se propuso el Capitolio Nacional de Colombia como Monumento Nacional a través de la resolución 004 del 30 de junio y se declaró como tal por el decreto 1584 del 11 de agosto de 1975. Entre 1986 y 1989 el Banco de la República emitió una serie de monedas de 50 pesos con la imagen del Capitolio Nacional en el reverso con motivo del centenario de la Constitución Política.

Algunas reformas al edificio adaptaron el espacio interior para albergar las oficinas de los congresistas ante el incremento progresivo de representantes. Otros trabajos de mantenimiento se realizaron durante la década de 1990 para evitar el deterioro del edificio. La restauración más reciente fue realizada en 1997 por parte de la firma Conconcreto S.A. en la cual se recuperaron todos los interiores y se reforzó la estructura antisísmica.

En 2007 el Capitolio Nacional fue seleccionado como semifinalista en la votación para elegir las Siete maravillas de Colombia, patrocinada por el diario El Tiempo. El 12 de febrero de 2010 el artista samario Rafael Gómez Barros instaló sobre la fachada del Capitolio 1300 hormigas gigantes de fibra de vidrio como parte de una representación artística del desplazamiento interno, la cual permaneció instalada durante siete semanas en el edificio. En 2011 el Salón Elíptico fue dotado de sistemas tecnológicos para el control y la información durante las sesiones del Congreso.