Abstract: Depuis une dizaine d'années, la taille des données croit plus vite que la puissance des processeurs. Lorsque les données disponibles sont pratiquement infinies, c'est le temps de calcul qui limite les possibilités de l'apprentissage statistique. Ce document montre que ce changement d'échelle nous conduit vers un compromis qualitativement différent dont les conséquences ne sont pas évidentes. En particulier, bien que la descente de gradient stochastique soit un algorithme d'optimisation médiocre, on montrera, en théorie et en pratique, que sa performance est excellente pour l'apprentissage statistique à grande échelle.

@article{bottou-bousquet-2010,
  author = {Bottou, L\'{e}on and Bousquet, Olivier},
  title = {L'apprentissage statistique \`{a} grande \'{e}chelle},
  journal = {Revue Modulad},
  year = {2010},
  volume = {42},
  pages = {61--73},
  url = {http://leon.bottou.org/papers/bottou-bousquet-2010},
}

This is essentially a french version of the 2008 MMDSS paper.