Млади которски гимназијалац, који је са друговима 1876. године основао илегалну ђачку дружину „Бранко Радичевић“ како би ширили народну књигу и слободарски дух међу омладином Боке, каснији ће постати српски министар, велики државник и књижевник.
После учествовања у Кривошијском (Бокељском) устанку (1881–1882) прешао је у Србију и наставио школовање у Београду, на Великој школи. Поред српске историје, посветио је посебну пажњу изучавању историје српске књижевности и био један од најбољих ученика Светислава Вуловића.
Јовановић је био управник Народне библиотеке Србије, а потом је од 1903. до 1909. предавао на Катедри за српску историју на Великој школи и Универзитету, све до јуна 1909. када је постао члан владе Стојана Новаковића и све своје снаге посветио националном раду. За дописног члана Српске краљевске академије изабран је 1890. године, а за редовног 1900. године.
Био је један од оснивача Српске књижевне задруге, и то најмлађи. Приликом оснивања СКЗ изабран је за секретара, а на месту председника био је од 1904. до 1906. године. Написао је предговоре за „Бакоњу фра Брне” Симе Матавуља, „Приповетке” Лазе К. Лазаревића, „Причања Вука Дојчевића” од Стефана Митровог Љубише, „Људско срце” Илије Вукићевића. Значајни су његови критички радови о Стефану Митровом Љубиши и Лази Лазаревићу. Заједно са Љубомиром Ковачевићем објавио је Историју српског народа I–II (1893–1894) и био један од најзаслужнијих научника за коначну превагу критичког правца у српској историографији.
Учествовао је у оснивању Академског певачког друштва „Обилић”, Дружине књижевника и уметника, Професорског друштва, један је од покретача часописа „Дело” (1893) и један од оснивача и члан уређивачког одбора „Српског књижевног гласника” (1901).
Био је један од оснивача Српског књижевничког друштва (1905), каснијег Удружења књижевника Србије, министар унутрашњих послова Краљевине Србије, министар просвете и члан Државног савета.
Приликом проглашења Краљевине Срба, Хрвата и Словенаца, 1. децембра 1918, био је један од шест чланова одбора, као представник Владе Краљевине Србије, који је требало да утврди начин како да се уједињење прогласи.
Љуба Јовановић припада покољењу које је припремало, организовало и остварило ослобођење и уједињење Срба, Хрвата и Словенаца у једну државу. По њему је названа улица у Београду, на Сењаку, у којој се налази кућа у којој је живео и радио.