Sammy tocaba el saxofón y el clarinete en la banda de la Universidad de Ohio, donde estudiaba para ingeniero. Tras graduarse fundó su propia banda en los años treinta, que poco a poco se fue haciendo conocida en el país y, entre 1941 y 1950, obtuvo 23 hits que fueron Top10, entre ellos los nº1 'Daddy' (1941), 'Chickery chick' (con Nancy Norman, 1945), 'I'm a big girl now' (con Betty Barclay) y 'The old lamplighter' (con Billy Williams, 1946).
Realizó numerosas actuaciones en la radio, medio en el que con su lema 'Swing and sway with Sammy Kaye' y el programa 'Sunday Serenade' fue una auténtica estrella en los tiempos de guerra y postguerra y más tarde en TV. Grabó su último éxito en 1950 con 'Harbor lights' (con Tony Alamo y los Three Kaydets). Por su orquesta pasaron cantantes como Don Cornell y Nancy Norman y músicos como Ralph Flanagan, Dale Cornell y Marty Oscard. Murió en 1987 a los 76 años, no sin antes pasarle la batuta a Roger Thorpe quien, el año 2010, seguía dirigiendo la Sammy Kaye Orchestra.