Rocco, hizo sus primeros pasos como boxeador en la armada, pasando la mayoría de su servicia en Gran Bretaña, y solo se tomo en serio el hecho de boxear después de fallar numerosas veces en sus pruebas para convertirse en jugador de baseball, su sueño de la infancia. Su amigo Allie Colombo, que formo parte del equipo de Marciano, persuadió a Al Weill, manager de Nueva York, para que lo cogiese, cosa que hizo después de recibir el consejo del veterano entrenador Charley Goldman, de 60 años, que tenía alrededor de 300 peleas profesionales y supo del potencial de Marciano en cuanto lo vio. Marciano trabajo duro con el rango de peso pesado y bajo la batuta del paciente Goldman, aprendió a canalizar su extraordinario poder de pegado en la corta distancia, con golpes destructivos.