O fator preponderante para a construção da Ferrovia Santos-Jundiaí foi a expansão do café, que chegou ao Rio de Janeiro no início do século XIX e logo se espalhou pelo vale do Rio Paraíba. A próxima região ocupada pela cultura cafeeira seria o oeste paulista, já bem no interior do estado. A partir daí, tornou-se urgente encontrar um meio de escoar o café com maior facilidade para o Porto de Santos. O mercado no exterior era certo, mas o produto levava dias de viagem em tropas de muares até o litoral.
Os primeiros estudos para a implantação da ferrovia começaram em 1835, mas foi apenas depois de 1850 que a idéia começou a sair do papel, graças ao espírito empreendedor do Barão de Mauá. Ele encontrou nos ingleses os parceiros ideais para executar o projeto. Além de ter interesses em dinamizar o fluxo de exportação e importação brasileiro, a Inglaterra detinha uma vasta experiência na construção de ferrovias, utilizando a tecnologia da máquina a vapor - algo imprescindível para vencer as dificuldades técnicas impostas pelo desnível de 796 metros entre o topo da serra e o litoral. Em 26 de abril de 1856, a recém-criada empresa inglesa São Paulo Railway Co. recebia, por um decreto imperial, a concessão para a construção e exploração da ferrovia por 90 anos.
As obras tiveram início em 1860, comandadas pelo engenheiro inglês Daniel M. Fox. Dadas as características extremamente íngremes do trecho da serra, optou-se pela adoção do chamado sistema funicular: o percurso foi dividido em quatro planos inclinados, cada um com uma máquina fixa a vapor que tracionava as composições através de cabos de aço.
A vila de Paranapiacaba era inicialmente apenas um acampamento de operários. Depois da inauguração da ferrovia, em 1867, houve a necessidade de se fixar parte deles no local para cuidar da manutenção do sistema. Assim, construiu-se a Estação Alto da Serra, que também foi o primeiro nome dado ao lugarejo. Por causa da sua localização, último ponto antes da descida da serra, a vila começou a ganhar importância. Também nesta época foi fundada, em torno da estação São Bernardo, a futura cidade de Santo André, à qual a vila de Paranapiacaba pertence hoje.
Enquanto isso, a ocupação no interior do estado se consolidava, graças à estrada de ferro. O comércio e a produção agrícola aumentaram significativamente. Em pouco tempo já era preciso duplicar a ferrovia.
A partir de 1896, começaram as obras. Paralelamente aos trabalhos de duplicação, a vila também sofreria modificações. No alto de uma colina, os ingleses construíram a casa do engenheiro-chefe, chamada de Castelinho, de onde toda a movimentação no pátio ferroviário poderia ser observada. Na mesma época, foi erguida a Vila Martim Smith, com casas em estilo inglês, de madeira e telhados em ardósia, para servir de moradia aos funcionários da empresa. Em 1900, o novo sistema de planos inclinados é inaugurado, recebendo o nome de Serra Nova.
Do outro lado da estrada de ferro, a Parte Alta de Paranapiacaba, que não pertencia à companhia, seguia padrões arquitetônicos diversos daqueles da vila inglesa. A área começou a ser ocupada por comerciantes para atender os ferroviários já na década de 1860. Ali também moravam os funcionários aposentados, que não poderiam mais usar as casas cedidas pela empresa.
Até meados da década de 40, os moradores viviam ali como uma grande família. A vila era bem cuidada, com ruas arborizadas e casas pintadas. O clube União Lira Serrano era o centro de uma intensa atividade sócio-cultural: bailes, jogos de salão, competições esportivas, encenações teatrais, exibições de filmes e concertos da Banda Lira. Outro importante ponto de encontro, para fechar um negócio ou conversar sobre política e futebol, era a Estação. Nas noites de sábados e domingos, moços e moças bem alinhados, interessados em namorar, caminhavam pelas plataformas largas, como relata João Ferreira, antigo morador da vila.
Em 1946, termina o período de concessão da São Paulo Railway Co. e todo seu patrimônio é incorporado ao da União. Este fato é apontado pelos antigos moradores como o início da decadência da vila. Com a desativação parcial do sistema funicular, na década de 70, mais um golpe: parte dos funcionários é dispensada ou aposentada e outros são contratados, para cuidar do novo sistema de transposição da serra - a cremalheira-aderência.
Nos anos 1980, depois de várias denúncias na imprensa sobre a deterioração da vila, é criado o Movimento Pró-Paranapiacaba. Em 1986, a Rede Ferroviária entregou restaurados o sistema funicular entre o 4° e o 5° patamares e o Castelinho. No ano seguinte, o núcleo urbano, os equipamentos ferroviários e a área natural de Paranapiacaba foram tombados pelo CONDEPHAAT - Conselho de Defesa do Patrimônio Histórico, Artístico e Turístico do Estado de São Paulo.