Dès son jeune âge, il joue avec le guitariste Wes Montgomery. Celui-ci devient son modèle, il s’en inspirera tout au long de sa vie. En 1958, il déménage à New York où il joue avec Ornette Coleman, Eric Dolphy, Slide Hampton, J. J. Johnson, Philly Jones, Quincy Jones, Oliver Nelson et Sonny Rollins. Il s’est ensuite mis à jouer du hard bop dans le groupe Art Blakey and the Jazz Messengers ce qui l’a rendu célèbre. Avec ce groupe, il a créé plusieurs albums dont Mosaic, Buhaina’s Delight et Free For All.
Dans les années 1960, il enregistre 36 albums. La plupart sont aujourd’hui des classiques. Il se lance aussi dans le free jazz.
Dans les années 1970, Freddie entre dans le groupe VSOP dirigé par Herbie Hancock. Ce groupe innove dans un nouveau genre de jazz : le free bop (mélange de be bop des années 1940, de modalité des années 1950 et de free jazz des années 1960). Freddie connait quelques-uns de ses plus grands succès avec cette formation.
Les années 1970 sont vraiment le point culminant de la célébrité de Freddie Hubbard. C’est dans ces années qu’il enregistre, au Palladium, son plus grand album : California Concert, incluant le célèbre « Red Clay ». Il effectue des improvisations sensationnelles et d’excellentes performances musicales. Il est considéré comme un des plus grand trompettiste de l’époque.
Il se lance ensuite dans le smooth jazz, où il a de mauvaises critiques. Des problèmes de santé l’obligent à arrêter la trompette, mais il recommence à enregistrer des albums une fois guéri.
Sur ses vieux jours, on se souvient toujours d’Hubbard en tant qu’excellent trompettiste grâce à ses compositions phénoménales faisant preuve de beaucoup d’Homo Faber.