Poeta e ensaísta polêmico, aprofundou as técnicas de escrita dos modernistas de 1922, em especial as de Oswald de Andrade. Desenvolveu inovações sintáticas antecipadas na poesia de Mário Faustino e negou o sentimentalismo confessional, produzido pela geração que o antecedeu, a de 45, da qual destacava como exceção o poeta João Cabral de Melo Neto. Com Augusto de Campos e Décio Pignatari, fundou em 1952 o Grupo Noigandres de Poesia Concreta.
Em 1958, publicou o Plano-piloto para poesia concreta, lançando as diretrizes do movimento e valorizando a visualidade da palavra escrita e a especificidade da palavra poética. A busca de novas formas de estruturação, em curtos poemas-objeto ou em longos poemas em prosa, marcou sua produção literária, também caracterizada por traduções notáveis, como a do Eclesiastes. Gerações vanguardistas receberam influências da sua pesquisa estética, reconhecida em diferentes movimentos dos anos 1960, como o da Tropicália, divulgado por Caetano Veloso, e a Geração do Mimeógrafo, da qual participava Chacal.
Desenvolveu intensa atividade intelectual, foi professor e tradutor de diversas línguas. Em 1992, recebeu o Prêmio Jabuti de Personalidade Literária do Ano. Outra obra: Crisantempo: no espaço curvo nasce um (1998).