Le Deep Learning

Le Big Data Analytics et le Deep Learning sont deux domaines intéressants de la science des données. Le Big Data est devenu important parce que de nombreuses organisations publiques et privées ont collecté des quantités massives d’informations spécifiques à un domaine, qui peut contenir des informations utiles sur des problèmes tels que l’intelligence nationale, la cyber-sécurité, la détection des fraudes, le marketing et l’informatique médicale. Des sociétés telles que Google et Microsoft analysent de grands volumes de données, affectant les technologies existantes et futures. Des algorithmes de Deep Learning extrait des abstractions complexes de haut niveau comme des représentations de données à travers un processus d’apprentissage hiérarchique. Les abstractions complexes sont apprises à un niveau donné en fonction des abstractions relativement simples formulées dans le niveau précédent de la hiérarchie.

Un des principaux avantages du Deep Learning est l’analyse et l’apprentissage des quantités massives de données sans surveillance, ce qui représente un outil précieux pour le Big Data Analytics où les données brutes sont en grande partie non marquées et non-classées.

Découvrez les avantages du Deep Learning. Vous avez un projet ? Contactez-nous.

Dans cette série d’article sur le Deep Learning, je vais explorer la façon dont le Deep Learning peut être utilisé pour traiter certains problèmes importants dans les Big Data Analytics, y compris l’extraction de motifs complexes à partir de volumes massifs de données, l’indexation sémantique, le marquage de données, la récupération rapide de l’information, et la simplification des tâches discriminantes. J’étudierai également certains aspects de la recherche en Deep Learning qui ont besoin d’une exploration plus poussée pour intégrer des défis spécifiques introduits par le Big Data Analytics, y compris les données de transmission en continue, des données de grande dimension, l’évolutivité des modèles, et l’informatique distribuée. J’aborderai également un aperçu des travaux futurs en posant quelques questions comme la définition des critères d’échantillonnage de données, la modélisation du domaine de l’adaptation, la définition des critères pour l’obtention d’abstractions de données utiles, l’amélioration de l’indexation sémantique, l’apprentissage semi-supervisée, et l’apprentissage actif.

L’objectif général du machine learning est la représentation des données d’entrée et la généralisation des modèles tirés pour une utilisation sur les futures données invisibles.

La qualité de la représentation des données a un impact important sur la performance du Machine learning : une représentation pauvre des données est susceptible de réduire les performances même pour un machine learner complexe et avancé, alors qu’une bonne représentation des données peut conduire à une haute performance pour un machine learner relativement simple. Ainsi, le Feature engineering, qui met l’accent sur la construction des caractéristiques et des représentations de données à partir des données brutes, est un élément important de machine learning. Le Feature engineering consomme une grande partie de l’effort dans une tâche de Machine Learning, et il est généralement un domaine assez spécifique et implique une intervention humaine considérable.

Par exemple, le Histogram of Oriented Gradients (HOG) et le Scale Invariant Feature Transform (SIFT) sont des algorithmes de Feature engineering populaires développés spécifiquement pour le domaine de la vision par ordinateur.

La mise en oeuvre du Feature Engineering d’une manière plus automatisée et générale serait une percée majeure dans le machine learning car cela permettrait à des praticiens d’extraire automatiquement ces caractéristiques sans intervention humaine directe.

Les algorithmes de Deep Learning sont une voie de recherche prometteuse dans l’extraction automatisée des représentations de données complexes (caractéristiques) à des niveaux élevés de l’abstraction. Ces algorithmes développent une architecture hiérarchique en couches de l’apprentissage et la représentation des données, où des caractéristiques de plus haut niveau (plus abstraite) sont définies en termes de caractéristiques du niveau inférieur (moins abstrait). L’architecture hiérarchique de l’apprentissage des algorithmes de Deep Learning est motivée par l’Intelligence Artificielle imitant le processus d’apprentissage en couches profondes des zones sensorielles primaires du néocortex dans le cerveau humain, qui extrait automatiquement les caractéristiques et les abstractions à partir des données sous-jacentes. Les algorithmes de Deep Learning sont très utiles pour faire face à l’apprentissage à partir de grandes quantités de données sans surveillance, et apprennent généralement les représentations de données dans un mode de couches. Des études empiriques ont démontré que les représentations de données obtenues à partir de l’empilage de longs extracteurs non-linéaires (comme dans le Deep Learning) donnent souvent de meilleurs résultats de machine learning, par exemple, l’amélioration de la modélisation de classification, une meilleure qualité des échantillons générés par les modèles probabilistes génératifs, et la propriété invariante des représentations de données. Les solutions de Deep Learning ont donné des résultats remarquables dans différentes applications de machine learning, y compris la reconnaissance de la parole, la vision par ordinateur, et le traitement du langage naturel. Dans le prochain article, je présenterai plus en détails ce concept de deep learning.

Le Big Data représente le domaine général des problèmes et des techniques utilisées dans les domaines d’applications qui collectent et conservent des volumes massifs de données brutes pour l’analyse de données spécifiques à un domaine. Les technologies modernes gourmandes en données, ainsi que l’augmentation des ressources de stockage et de calcul des données ont fortement contribué au développement de la science Big Data. Les entreprises IT telles que Google, Yahoo, Microsoft et Amazon ont collecté et conservé des données qui sont mesurées dans des proportions exabyte ou plus. En outre, les organisations de médias sociaux tels que Facebook, YouTube et Twitter ont des milliards d’utilisateurs qui génèrent en permanence une très grande quantité de données. Diverses organisations ont investi dans le développement de produits utilisant le Big Data Analytics pour traiter leur suivi, leur expérimentation, leur analyse des données, leur simulations, et d’autres connaissances et besoins métier.

Le Data Mining et l’extraction de modèles significatifs à partir des données d’entrées massives pour la prise de décision, la prédiction, et d’autres inférences est au cœur du Big Data Analytics. En plus d’analyser des volumes massifs de données, le Big Data Analytics pose d’autres défis uniques pour l’apprentissage automatique et l’analyse des données. Un stockage adéquat de données, l’indexation de données / marquage, et la récupération rapide de l’information sont d’autres problèmes clés dans le Big Data Analytics. Par conséquent, l’analyse des données et les solutions innovantes de gestion des données sont garantis lorsque vous travaillez avec le Big Data. Par exemple des travaux récents ont examiné la haute-dimensionnalité des données de domaines bioinformatiques et étudié les techniques de sélection de fonctionnalités pour résoudre le problème.

Un aperçu plus détaillé du Big Data Analytics est présentée dans mon livre blanc BIG DATA.

Les connaissances tirées des algorithmes de Deep Learning ont été largement inexploitées dans le contexte de Big Data Analytics. Certains domaines du Big Data, tels que la vision par ordinateur et la reconnaissance vocale, ont appliqué le Deep Learning pour améliorer les résultats de la modélisation de classification. La capacité de Deep Learning à extraire, des abstractions complexes de haut niveau et des représentations de données à partir de grands volumes de données, en particulier les données sans surveillance, le rend attrayant comme un outil précieux pour le Big Data Analytics. Plus précisément, les problèmes Big Data tels que l’indexation sémantique, le marquage de données, la récupération rapide de l’information, et la modélisation discriminative peuvent être mieux traités à l’aide du Deep Learning. Les algorithmes d’apprentissage automatique classiques et les fonctions d’ingénierie traditionnelles ne sont pas suffisamment efficaces pour extraire les motifs complexes et non-linéaires généralement observés dans les Big Data. En extrayant ces caractéristiques, le Deep Learning permet l’utilisation de modèles linéaires relativement simples pour les tâches de Big Data Analytics, comme la classification et la prédiction, ce qui est important lors de l’élaboration de modèles pour faire face à l’échelle de Big Data. Le point important de cette série d’article est que je vais essayer d’explorer l’application d’algorithmes de Deep Learning dans des problèmatiques clés du Big Data Analytics, motivant la recherche plus ciblée par des experts dans ces domaines.

Dans le prochain livre blanc qui s’intitule « Impact du deep learning sur le Big Data Analytics », je vais essayer de répondre aux questions suivantes :

(1) Comment le Deep Learning peut aider à résoudre des problèmes spécifiques dans le Big Data Analytics ?
(2) Comment des domaines spécifiques de l’apprentissage en profondeur peuvent être améliorés afin de refléter certains défis associés au Big Data Analytics ?

En ce qui concerne le premier sujet, j’explore l’application de Deep Learning pour le Big Data Analytics, y compris l’apprentissage à partir de volumes massifs de données, l’indexation sémantique, les tâches discriminantes, et le marquage de données.
Mon enquête sur le deuxième thème met l’accent sur les défis du Deep Learning dus aux problèmes existants dans le Big Data Analytics, y compris l’apprentissage de flux de données, le traitement à haute dimensionnalité des données, l’évolutivité des modèles, et l’informatique parallèle distribuée.

Je vous invite également à visionner mes derniers webinaires sur ces thématiques :