Carlos Zilio estudou no Instituto de Belas Artes do Rio de Janeiro, onde foi aluno de Iberê Camargo. Formou-se em psicologia pela UFRJ. Sua produção artística dos anos 1960 e 1970 revela um amplo sentido de crítica social, como em Lute ou em Para um jovem de brilhante futuro. Exila-se em Paris, onde conclui doutorado em artes na Universidade de Paris VIII. A partir de então, dedica-se unicamente à pintura, sobretudo abstrata. Torna-se professor da PUC-Rio.
Orientado por Hubert Damisch, torna-se pós-doutor pela Escola de Altos Estudos em Ciências Sociais de Paris. Torna-se professor da UFRJ.
Escreveu A querela do Brasil: a questão de identidade na arte brasileira.
Participou da coletânea Artepensamento.