Сергей Громов родился в 1959 году в Талдыкорганской области.
В 1981 году окончил Джамбульский гидромелиоративно-строительный институт по специальности гидромелиорация, в 1991 году – Алматинский институт политологии и управления по специальности теория социально-политических отношений, в 2002 году – Университет «Аулие-Ата» по специальности юриспруденция.
Трудовую деятельность начал в 1981 году преподавателем Джамбульского гидромелиоративно-строительного института.
С 1998 года работает на государственной службе. В разные годы работал акимом района, первым заместителем акима Южно-Казахстанской области, государственным инспектором Администрации Президента.
С 2007 по 2011 годы работал руководителем аппарата, заместителем председателя, секретарем народно-демократической партии «Нур Отан».
С сентября 2011 по 2013 годы занимал должность заместителя Министра обороны РК.
С августа 2013 года по январь 2016 года — депутат Сената Парламента РК V созыва, член Комитета по международным отношениям, обороне и безопасности.
С января 2016 года и по настоящее время — заместитель Председателя Сената Парламента РК.