Durante ocho temporadas cosecharon más de cien victorias y menos de diez derrotas. Cuando en 1904 se organizaron unos Juegos Olímpicos en St. Louis para dar mayor realce a la Feria Mundial y se montó un torneo de exhibición de baloncesto, el capitán de los Germans, Alfred (Allie) Heerdt, inscribió al equipo, que sería el vencedor de la que bien puede considerarse la primera competición nacional de este deporte, con seis formaciones que jugaron cada una cinco partidos en dos días. En el último se enfrentaban dos equipos imbatidos y los Germans superaron al YMCA Central de Chicago por 39-28 (este fue al menos el resultado que publicó el "Buffalo Express", pero no todos coincidieron), tras lo cual se autoproclamó sencillamente campeón del mundo.

Esta primera aparición se repitió en los JJ.OO. de 1924 en Londres, también como deporte de exhibición. Fue el 19 de octubre de 1933 cuando el comité organizador de los de Berlín'36 decidió que el baloncesto entrara a formar parte del programa oficial de aquellos Juegos. Donde, por cierto, todos los partidos se jugaron al aire libre, en pistas de tierra y arena. La edición siguiente, que tardaría doce años en celebrarse a causa de la II Guerra Mundial, fue la primera en pista cubierta.

Aquella primera final olímpica, con el terreno convertido en un barrizal por la lluvia, la ganó EE.UU. a Canadá por 19-8 ante 2.000 espectadores. Todo el podio fue norteamericano, pues en el partido por el tercer puesto México derrotó a Polonia por 26-12. El equipo estadounidense lo formaban siete jugadores pertenecientes al de la Universal Pictures (Hollywood, California), seis al del McPherson Globe Refiners (Kansas), que habían sido los dos finalistas del campeonato de la AAU, y un universitario. 

Al llegar a Alemania, la representación estadounidense se enteró de que habían cambiado algunas normas y una de las novedades era que sólo podían figurar siete jugadores en cada equipo, por lo cual dividieron el suyo en dos, que jugaban alternativamente los encuentros. El primero lo ganaron sin jugar, porque su rival había de ser España, al que la Guerra Civil impidió participar.  Lo que sí consiguieron fue abolir la prohibición de alinear jugadores de más de 1,88 m.