Né en 1881 à Dijon, l'historien de l'art est le fils du graveur à l'eau-forte Victor Focillon. Normalien, puis agrégé de Lettres, il publie en 1918 une thèse sur Piranèse. Après avoir dirigé le musée des Beaux-Arts de Lyon entre 1913 et l'immédiat après-guerre, il enseignera l'histoire de l'art du Moyen-Age à la Sorbonne. Intellectuel engagé, membre de la Société des Nations, il donnera de nombreuses conférences en Europe et en Amérique.
Nommé professeur au Collège de France en 1938, installé définitivement aux Etats-Unis dès l'entrée en guerre de la France, il sera déchu de son titre par le gouvernement de Pétain après son ralliement au général De Gaulle. Il s'éteint en mars 1943, à New Haven.