Leonid Kogan war in seiner Jugend ein leidenschaftlicher Bewunderer von Jascha Heifetz und trachtete danach, dessen Perfektionismus zu erreichen. Mit dem Brahms-Violinkonzert gewann er 1947 den Moskauer Jugendwettbewerb und siegte 1951 beim Reine Elisabeth Wettbewerb in Brüssel.
Kogan war mit der Schwester von Emil Gilels verheiratet und gab etliche Konzerte mit seiner Pianisten-Tochter Nina. Er war auf der Zugreise mit seinem Sohn Pawel, als er an einem Herzinfarkt starb.
Als Lehrer war Kogan gesucht, unter anderem zählen Viktoria Mullova und Oleg Kagan zu seinen Schülern.
Leonid Kogan