Nilo só foi demonstrar interesse pela política já com 39 anos, em1982, quando aceitou se candidatar a prefeito, pelo PDS, por influência de seu amigo Binha Teixeira. Utilizou como slogan na sua campanha “Nilo Coelho – um obcecado pelo trabalho”. Eleito permaneceu à frente da prefeitura, por três anos, obtendo o mesmo êxito, da prática empresarial, na gestão municipal. Durante sua gestão a produção de algodão alcançou altos índices e colocou Guanambi entre os mais importantes do estado. Este crescimento garantiu sua eleição para dirigir a 24ª Região Administrativa, composta por 24 prefeitos de outros municípios, e como presidente da União dos Prefeitos da Bahia (UPB) em 1985.
Em 1986, foi convidado pelo candidato ao governo do estado, Waldir Pires, para compor a chapa majoritária da coligação “Para Mudar a Bahia” como vice-governador. Eleitos, com mais de 1,5 milhões de votos a mais que o candidato, de Antônio Carlos Magalhães, e jurista Josaphat Marinho. No dia 15 de março de 1987, tomou posse como vice-governador e no dia seguinte acumulou a gestão da pasta das Minas e Energia, como fruto de um acordo com o governador visto que desejava uma função mais participativa na gestão estadual, tornando-se o pioneiro na história do Estado da Bahia a acumular o cargo eletivo de vice-governador com as responsabilidades administrativas de uma secretaria de estado.
Em 1989, o governador Waldir renunciou ao seu mandato, e Nilo Coelho assumiu legalmente o governo da Bahia em 14 de maio de 1989.
Durante seu governo que começou um pouco conturbado, em virtude da decepção de boa parte do eleitorado com a saída de Waldir do governo, Nilo, no período de dois meses, substituiu muitos secretários da gestão do ex-governador, por pessoas de sua confiança e intimidade.
Seu governo ficou marcado por realizações de projetos e obras nos setores de educação, saúde, eletrificação e transportes. Em 15 de março de 1991 encerrou o seu mandato de governador da Bahia.
Em 1999, foi eleito deputado federal, pelo PSDB, para o mandato 2000-2003. Em 2004, candidatou-se à prefeitura de Guanambi obtendo êxito nessa empreitada, e sendo reeleito nas eleições municipais de 2008. Depois de alguns anos afastado da política, tenta voltar à prefeitura de Guanambi na eleição municipal de 2016, quando foi derrotado por Jairo Magalhães. Já no ano de 2020, consegue aglutinar diversas forças políticas em torno de seu nome e vence a eleição contra o prefeito Jairo que tentava mais um mandato. Com problemas de saúde, só consegue governar por três anos e no final do ano passado renuncia ao mandato de Prefeito e o vice-prefeito Arnaldo Azevedo assume a prefeitura. Em seus 40 anos de vida pública, o ex-prefeito Nilo Coelho foi agraciado com a título de cidadania de dezenas de municípios e também foi agraciado com diversas medalhas de honra ao mérito.
É casado com Solange Maria Oliveira Coelho com quem teve quatro filhos: Gersino, Nilo Filho, Adriana e Patrícia.