Au - delà du PARM! La maîtrise de l'Université de Pékin propose diverse pour actualiser complètement le classement du raisonnement du NLP

Récemment,Une nouvelle approche auto - cohérente pour les chercheurs de l'Université de Pékin et de MicrosoftDiVeRSe,Contient trois innovations majeures,Améliorer encore la capacité de raisonnement du modèle.

Liens vers les articles：https://arxiv.org/abs/2206.02336

Liens de code：https://github.com/microsoft/DiVeRSe

 

Premièrement,Recevoir une approche auto - cohérente「Les idées sont différentes.,La réponse est la même.」Inspiré par,C'est - à - dire échantillonner différents chemins d'inférence à partir de modèles linguistiques,DiVeRSeAller plus loin dans la diversité,Selon「Toutes les routes mènent à Rome」La philosophie,Utiliser plusieurspromptGénérer des réponses,Peut produire plus complet、Réponses complémentaires.

 

Deuxièmement,Lors de la génération du chemin d'inférence,Il n'existe pas de mécanisme dans le Modèle linguistique pour corriger les erreurs des étapes précédentes.,Risque de confusion quant au résultat final prévu.DiVeRSeApprendre deverifierDes idées,Vérifier l'exactitude de chaque chemin de raisonnement pour guider le mécanisme de vote.C'est - à - dire,Tous les mécanismes de raisonnement ne sont pas aussi importants ou bons.

 

Troisièmement,Parce que les réponses sont basées sur un raisonnement en plusieurs étapes,Quand un chemin génère la bonne réponse,Toutes les étapes peuvent être considérées comme contribuant à l'exactitude finale.Et pourtant, Quand une mauvaise réponse est générée , Cela ne signifie pas que toutes les étapes sont mauvaises ou contribuent à l'erreur .