kir. tanácsos, nyug. főgymnasiumi tanár, a m. tudom. akadémia rendes tagja, szül. 1832. márcz. 22. Adán (Bács-Bodrogm.), hol atyja szükösmódú kovácsmester volt, anyja Jámbor Anna; Sz. hat éves korában Bajára költözött szüleivel és ott végezte középiskolai tanulmányait. Mikor hat osztályt elvégezett a benczések közé állott, de midőn 1852. letette az érettségit, kilépett a szerzetből és öt fél évig jogot hallgatott. Tanulmányait két évi betegség miatt félben kellett hagynia. 1857. tanári állást vállalt a bajai gymnásiumban; 1858. az egri gyimnasiumhoz nevezték ki, 1860. ismét Bajára, 1861. Pozsonyba, 1869. pedig Pestre. 1877. gerinczvelőbajba esett és ennek következtében szeme is mindinkább gyengült s 1881. nyugalomba vonult. A m. tudom. Akadémia 1871. levelező taggá választotta (rendessé 1884. jún. 4.). 1882. vette nőül Herrer Paulát, ki betegségében ápolta és munkájában támogatta. 1889-től a helsingforsi finnugor társaságnak is tagja volt. 1890. kir. tanácsosi czímmel tüntették ki. Meghalt 1895. okt. 12. Budapesten. Nagy érdemeit fényesen bizonyítja az, hogy mindjárt halála után mozgalom indult meg emléke megörökítésére s ennek eredménye az Akadémia előtti téren felállított emlékszobor, melyet Jankovich Gyula mintázott (1899. júl. 2. leplezték le); ugyane mellszobor másolatát állították fel szülővárosában Adán, (1898. jún. 19-én leplezték le).
Czikkei a pozsonyi főgymnasium Értesítőjében (1867. Magyartalanságok; ezen hosszabb értekezés feltünést keltett és több hirlap átvette). Ekkortájban sokat beszéltek arról, hogy a magyar nyelv művelésére s a nyelvészeti kutatások népszerűsítésére folyóiratot kellene indítani; szerkesztésével az Akadémia Sz-t bízta meg; e lap Magyar Nyelvőr cz. 1872. jan. 15. indult meg (ebben jelent meg legtöbb czikke). A Magyar Nyelvőr az irodalomban és a közönség körében rendkívüli érdeklődést keltett, de egyszersmind kemény támadásokat idézett föl maga ellen a nyelvújítás egyes híveitől, főleg magában az Akadémiában; e támadások visszaverésében fejtette ki Sz. legnagyobb erejét. A nyelvőrködés mellett a nyelvünk története és a szófejtés körül fejtett ki nagy buzgalmat lapjában és a M. Nyelvtörténeti Szótárban. Sikeresen küzdött a nemzeti hiúságnak ama balvéleménye ellen, mintha szégyenünkre válna az idegen nyelvekből való jövevényszók kimutatása; ellenkezőleg ebben van mint az angolnak, a mi nyelvünk gazdagságának is egyik legdúsabb forrása. Irt még a Nyelvtudományi Közleményekbe (X. 1871. Latin fordításaink és a latinságok), a Figyelőbe (1872. Hogy bírálják a M. Nyelvőrt), az Orsz. Tanáregylet Közlönyében (III.), a Nemzetbe (1882. 45. sz. Egy bepillantás a szófejtés műhelyébe), a Kisfaludy-Társaság Évlapjaiba, (Új F. 1898. hátrahagyott irataiból: A fordítás elvei Homeros Iliasából) sat.
Munkái:
1. Phaedri Augusti Liberti Fabularum Aesopiarum libri quinque. Accedit fabularum novarum atque restitutarum delectus. Magyarázata. Pozsony, 1868. (3. jav. kiadás. Bpest, 1884 Görög és latin remekírók Iskolai Könyvtára).
2. Tirocinium poeticum... Nyelvtani és tárgyi magyarázattal. Pest, 1869.
3. A magyar igeidők. U. ott, 1872. (Az akadémia által kitűzött jutalmat nyerte).
4. A magyar nyelvújításról. Bpest, 1875 (Értekezések a nyelv- és széptud. köréből IV. 10.).
5. A magyar nyelv szótára. Készítették Czuczor Gergely és Fogarasi János. Ismertetés. U. ott, 1880. (Különny. a M. Nyelvőrből).
6. A régi magyar nyelv szótára. U. ott, 1886. (Értekezések a nyelv- és széptud. kör. XIII. 6.).
7. Magyar nyelvtörténeti szótár, a legrégibb nyelvemlékektől a nyelvújításig. A m. tudom. Akadémia megbízásából. U. ott, 1890-93. Három kötet. (Simonyi Zsigmonddal együtt).
Szerkesztette a M. Nyelvőrön kívül a Bajai Közlönyt (1860) s a Pozsonyi Lapok két juliusi számát (1861), és a Nyelvemléktárt 1874-től 1884-ig, XII kötetét.
A debreczeni színügyegylet által kitűzött 50 arany jutalom «Egy veszélyes eset» cz. melodrámájának itéltetett (előadták 1862. okt. 29. névtelenül Debreczenben); «Galamb posta» cz. 4 felv. vígjátékot adtak elő Kassán 1878. márcz. 23., melynek szerzője szintén Szarvas Gábor (Nem tudom, vajjon ő írta-e ezt is?).
Álneve: Papp Rika (a Bajai Közlönyben 1860).
Hortobágy 1862. 28. sz.
Hölgyfutár 1862. 137. sz.
Magyarország és a Nagyvilág 1873. 12. sz. arczk.
Figyelő I. 1876. (M. Nyelvőr).
Budapesti Hirlap 1883. 140. sz. (Sz. és az Akadémia.)
Petrik, Könyvészete.
Kiszlingstein Könyvészete.
Akadémiai Értesítő 1890. (M. Nyelvőr és Nyelvtört. Szótár), 1897. és 1898. (Simonyi Zs.), 1899. (Beöthy Zsolt).
Nyelvőr-Emlék. Bpest, 1890. kőny. arczk.
1895: Hazánk 280. sz. (Erdélyi Pál), Budapesti Hirlap 280., 286. sz., Bajai Közlöny 43. sz., Vasárnapi Ujság 42. sz. arczk. Uj Idők 44. sz. (arczk. és önéletrajz), Zemplén 44. sz., Nemzeti Iskola 42. sz.
Orsz. Középisk. Tanáregylet Közlönye 1896. 4. sz. (Simonyi).
M. Paedagogia 1896. (Négyesy és Radó).
Pallas Nagy Lexikona XV. 433. XVIII. 620. l. (Simonyi).
M. Nyelvőr 1897. (Simonyi Zs., Szarvas G. emlékezete, 1902. Szily K., Arany János és Sz., 1905. Sz. emlékezete).
Nemzet 1898. 168. sz.
Budapesti Napló 1899. 61., 69. sz. (Sz. G. mint színműiró).
Vasárnapi Ujság 1898. 26. (Szobrának leleplezése).
Uj M. Szemle 1900. (Sz. G.-ról, írta özvegye).
Irodalomtörténeti Közlemények 1906. 199. l. (Levele 1871. decz. 15., 495. l. a Nyelvőr keletkezése).
Petrik, M. Könyvészet 1886-1900.