Home

About

Advanced Search

Browse by Discipline

Scientific Societies

E-print Alerts

Add E-prints

E-print Network
FAQHELPSITE MAPCONTACT US


  Advanced Search  

 
Apprentissage statistique 1 Exercice 1 (sur l'algorithme des k plus proches voisins)
 

Summary: Apprentissage statistique 1
Exercice 1 (sur l'algorithme des k plus proches voisins)
Nous considérons le problème de classification binaire où l'espace des entrées est X = [0; 1]
et l'espace des sorties est {0; 1}. La fonction de perte est (y, y ) = 1y=y .
1. La base d'apprentissage est
(X1 = 0, 8 ; Y1 = 1), (X2 = 0, 4 ; Y2 = 0), (X3 = 0, 7 ; Y3 = 1).
Donner la valeur prédite pour toute nouvelle entrée x X
(a) par l'algorithme de classification des 3-p.p.v. (pour une entrée x, cet algorithme
renvoie 0 ou 1 suivant la classe la plus populaire parmi les 3 p.p.v. de l'entrée x).
(b) par l'algorithme de classification du p.p.v. (pour une entrée x, cet algorithme
renvoie 0 ou 1 suivant la classe du point le plus proche de l'entrée x).
2. Dans cette question, nous supposons que la loi P générant le couple entrée-sortie
(X, Y ) est la suivante : X suit une loi uniforme sur [0; 1] et Y = 1 si X 0.5, et
Y = 0 sinon.
(a) Donner P(Y = 1|X = x) pour tout x X.
(b) En déduire le prédicteur cible. Quel est son risque ?
(c) Soit (X1, Y1), . . . , (Xn, Yn) une base d'apprentissage. (Elle est constituée de n
réalisations i.i.d. de la loi P.) Soit E l'événement : "tous les Yi sont égaux à 0 ou
tous les Yi sont égaux à 1". Calculer P(E). Sur le complémentaire de E, comment
se comporte l'algorithme du plus proche voisin ? Deviner (pas de démonstration

  

Source: Audibert, Jean-Yves - Département d'Informatique, École Normale Supérieure

 

Collections: Computer Technologies and Information Sciences