A criação da Secretaria da Administração Penitenciária no Estado de São Paulo, em 1993, foi pioneira no Brasil como órgão específico para cuidar de assuntos penitenciários.
Anteriormente a ela, o sistema penitenciário paulista estava sob a responsabilidade da Secretaria da Justiça, criada em 1892, onde permaneceu (com um pequeno lapso) até 1992.
Até o início de 1979, os estabelecimentos destinados ao cumprimento de penas privativas de liberdade no Estado de São Paulo, estavam subordinados ao Departamento dos Institutos Penais do Estado - DIPE, órgão pertencente à Secretaria da Justiça. Na década de 60 teve origem a Escola do Sistema Penitenciário que se propunha a formar os servidores penitenciários de 11 Unidades Prisionais ligadas ao DIPE.
Com a publicação do Decreto nº 13.412, em 13/03/1979, o DIPE foi transformado em Coordenadoria dos Estabelecimentos Penitenciários do Estado - COESPE, à época com 15 unidades prisionais.
Até março de 1991, as unidades prisionais ficaram sob responsabilidade da Secretaria da Justiça. Em seguida, a responsabilidade foi para a segurança pública e com ela ficou até dezembro de 1992.