Dès son enfance Carlos Zimmermánn avait vécu à Jerez de la Frontera (Cadix), où il allait commencer à militer très vite dans le mouvement libertaire. Il fut à plusieurs reprises membre du comité régional andalou de la CNT et collabora au journal La Voz del Campesino. Au congrès national de 1931 de la CNT il avait été le délégué de San Roque et avait participé très activement au plenum régional andalou d’octobre 1931.
Secrétaire de la CNT de Séville en 1932 il était un remarquable orateur, et avait été déporté en Afrique suite à la grève des transports et le soulèvement de Figols. Il polémiqua avec Pedro Vallina et Miguel Mendiola Osuna qui le rendirent responsable de l’échec de la grève paysanne. Il avait été à nouveau emprisonné en 1933.
Pendant la guerre civile Carlos Zimmerman, qui avait été l’un des organisateurs des milices confédérales, fut le responsable de la Fédération provinciale de Jaén et s’opposa à la ligne marxisante qu’Antonio Rosado López tentât d’imposer aux collectivités de la région. En septembre 1938, au plenum régional de Baeza, il s’affronta à Francisco Maroto Del Ojo qui l’accusait de vouloir dominer le Comité régional et de ne pas accepter le nouveau secrétaire, Manuel Pérez.
Fait prisonnier à la fin de la guerre il fut interné à Jaén, Séville et Grenade. Á l’hiver 1941 il participait au plenum clandestin de la CNT tenu dans la cellule n°67 de la prison de Puerto de Santa Maria avec entre autres Antonio Ramos Palomares El Carbonero, Carlos Soriano, Cristobal Palacin Rodríguez, Salvador Reina, Primo Miguel Cebrian Escarpan, Diego Rangel Valenzuela, Rafael Cuesta Pastor, Sebastian Pino Panar, Antonio Cruz De Los Santos, Antonio Santos et d’autres. Au cours de ce plenum avaient été adoptés des accords pour favoriser la lutte clandestine contre la tyranie et la réorganisation de l’organisation.
Remis en liberté provisoire en 1945, il fut élu secrétaire de la région andalouse de la CNT lors du plénum clandestin tenu en décembre 1945.
A la fin des années 1940, il était évacué à Tanger puis au Maroc, et gagnait ensuite la France où il allait militer à Clermond Ferrand puis à Lyon.
Partisan de la tendance minoritaire de la CNT, il participait en 1977 à la Conférence de Narbonne autour du groupe Frente Libertario.
Carlos Zimmerman qui avait collaboré à de nombreux titres de la presse de l’exil - en particulier à Mujeres Libres, Ruta (Caracas) et Tierra Y Libertad (Mexico) - est mort à Lyon le 28 mai 1979.