Qu'est - ce qu'une violation de données

Voici un concept pour tout le monde：

data leakage（Violation des données）

.Ici, la divulgation de données ne signifie pas la divulgation de données privées,Mais surtout les données dans l'apprentissage automatique（Données de formation et de validation）Il y a une exception.

1.Qu'est - ce quedata leakage

KaggleIl y aura des joueurs dans le jeu parce qu'ils ont trouvé une caractéristique magique（magic feature）Et gagner le championnat,magic featureL'existence d'un indice de participation peut indiquer l'existence d'un indice de participationdata leakage.

data leakageLa représentation extérieure de： Le modèle que vous avez formé est exceptionnellement précis,Par exemple, atteindre100%.Mais les résultats réels en ligne sont médiocres.

Donc quand votre modèle a dépassé vos attentes,Ne soyez pas heureux trop tôt,Veuillez analyser attentivement vos données

.

data leakageClassification de：

• Prévisionsdata leakage
   

•  
  Validation des donnéesdata leakage
  .

2. Prévisionsdata leakage

La prédiction du modèle est le processus de construction d'une cartographie de la cause à l'effet,Ce genre deleakageEn général, les données du modèle sont utilisées par【Résultats】Certaines des caractéristiques qui sont apparues après l'événement,Ces caractéristiques et【Résultats】Il y a une forte corrélation,Le modèle prédit devient

【Résultats】À【Résultats】

Cartographie de.Par exemple,Il faut prévoir【Si c'est un diabétique】C'est【Résultats】,Degré d'obésité、Niveau d'activité physique、Régime alimentaire、 Les infections virales, etc., peuvent être normales. 【Cause】. Mais si vous utilisez 【 Avez - vous déjà reçu de l’insuline? 】C'est comme ça.【Cause】,Et ça arriveleakage,  Parce que les diabétiques prennent de l'insuline quand ils sont diagnostiqués. ,Existe

C'est la cause.

Phénomène. Au fur et à mesure que le modèle est déployé, vous trouverez ces caractéristiques que vous n'avez pas du tout. .

3.Validation des donnéesdata leakage

Ce genre deleakage En général, c'est parce que vous divisez les ensembles d'entraînement et les tests （Validation） Mauvais traitement de l'ensemble

.

Par exemple, vous effectuez une opération de prétraitement （Comme la normalisation, Supplément de valeur manquante, etc. ） Diviser les données plus tard , À ce stade, l'ensemble d'entraînement et l'ensemble de validation peuvent avoir une certaine Association , L'ensemble de validation manque dans une certaine mesure d'hypothèses complètement indépendantes , Les modèles formés peuvent obtenir de bons résultats dans l'ensemble de validation , Mais pas en ligne .

4.Comment éviterdata leakage

Si votre modèle fonctionne étonnamment bien , Arrêtez - vous et Analysez les données pour voir si elles existent. data leakage

• Analyser soigneusement les caractéristiques qui sont fortement liées à l'objectif prévu

• Assurer l'indépendance de l'ensemble de validation et de la formation au modèle autant que possible , En particulier lors de la validation croisée .

RÉFÉRENCES：https://www.kaggle.com/dansbecker/data-leakage