Algorithme C4.5

Pour les articles homonymes, voir C4.

Algorithme C4.5
Extrait allemand de l'arbre de décision C4.5 pour l'exemple : Sarah fait de la voile

En apprentissage automatique, l’algorithme C4.5 est un algorithme de classification supervisé, publié par Ross Quinlan[1]. Il est basé sur l'algorithme ID3 auquel il apporte plusieurs améliorations. L'algorithme produit un arbre de décision.

L'algorithme est classé au premier rang du papier Top 10 Algorithms in Data Mining publié dans Lecture Notes in Computer Science (en) (LNCS) en 2008[2].

Principe

À partir d'un échantillon d'apprentissage composé d'une variable objectif ou variable prédite et d'au moins une variable d'apprentissage ou variable prédictive , C4.5 produit un modèle de type arbre de décision. Ce modèle permet de prédire pour un individu la valeur estimée de la variable objectif en fonction des valeurs prise par les variables prédictives . L'algorithme C4.5 se base sur une mesure de l'entropie dans l'échantillon d'apprentissage pour produire le modèle (graphe d'induction). L'avantage du recours à l'entropie est que l'algorithme opère sur des données symboliques que ce soient des variables catégorielles (comme des couleurs) ou numériques discrètes (par exemple ). Le désavantage de la méthode est que pour préserver l'efficacité de l'apprentissage et la pertinence du modèle produit, les variables continues doivent être discrétisées avant la mise en œuvre de l'algorithme.

Pseudo-code

C5.0 et See5

Quinlan continue son travail avec les versions C5.0 et See5 (C5.0 pour les systèmes UNIX et See5 pour Windows) qu'il commercialise. C5.0 améliore C4.5 sur plusieurs points dont :

  • la rapidité
  • l'utilisation de la mémoire
  • des arbres de décision plus petits

C5.0 est un produit commercial dont le code source est disponible gratuitement pour l'interprétation et l'utilisation des arbres de décision et l'ensemble des règles qu'il produit.

Notes et références

  1. Quinlan, J. R. C4.5: Programs for Machine Learning. Morgan Kaufmann Publishers, 1993.
  2. Umd.edu - Top 10 Algorithms in Data Mining

Content Disclaimer

Informasi ini disarikan dari Wikipedia dan disajikan kembali untuk tujuan edukasi. Konten tersedia di bawah lisensi CC BY-SA 3.0. Kami tidak bertanggung jawab atas ketidakakuratan data yang bersumber dari kontribusi publik tersebut.

  1. The information displayed on this website is sourced in part or in whole from Wikipedia and has been adapted for the purpose of restating it. We strive to provide accurate and relevant information, however:
  2. There is no guarantee of absolute accuracy. Wikipedia is an open, collaborative project that can be edited by anyone, so information is subject to change.
  3. It is not intended to constitute professional advice. The content displayed is for informational and educational purposes only. For important decisions (e.g., medical, legal, or financial), please consult a professional.
  4. Content copyright. Wikipedia is licensed under the Creative Commons Attribution-ShareAlike License (CC BY-SA). This means that content may be reused with appropriate attribution and shared under a similar license.
  5. Responsible use. Any risk arising from the use of information from this website is entirely the responsibility of the user.