Une récente innovation réalisée par un groupe de scientifiques offre un potentiel prometteur pour améliorer l'apprentissage de l'intelligence artificielle sur des gadgets plus petits comme les smartphones en ajustant les modèles d'IA avec moins de ressources, tout en maintenant la précision. L'équipe de recherche du Massachusetts Institute of Technology a développé une nouvelle technique de formation qui pourrait faciliter l'apprentissage ininterrompu pour l'IA sur les dispositifs informatiques de bord. Les chercheurs du MIT indiquent que les méthodes d'apprentissage en profondeur peuvent aider les chatbots IA à comprendre les accents des utilisateurs ou à prévoir le mot suivant qu'un utilisateur pourrait taper en fonction de son historique de frappe. Cependant, de telles caractéristiques nécessitent l'ajustement fin du modèle d'IA avec de nouvelles données.

Selon l'équipe du MIT, cela pose un défi pour les petits appareils de bord et les smartphones qui peuvent manquer de mémoire et de puissance de calcul nécessaires pour cet ajustement fin. Il existe des alternatives comme l'utilisation de serveurs cloud, mais cela introduit des préoccupations en matière d'énergie et de sécurité, en particulier lors de la manipulation de données sensibles. Pour atténuer ce problème, les chercheurs prétendent avoir mis au point une technique qui permet aux modèles d'apprentissage en profondeur de s'adapter efficacement à de nouvelles données sensorielles directement sur l'appareil de bord. Cette nouvelle approche de formation que l'équipe a créée peut déterminer quelles parties du modèle d'apprentissage machine ont besoin d'être modifiées pour améliorer la précision.

La méthode ne traite alors que ces aspects particuliers, à la fois en termes de stockage et de calcul. Les modèles d'apprentissage en profondeur, selon les chercheurs, sont basés sur des réseaux neuronaux. Ces réseaux sont composés de nombreuses couches de nœuds interconnectés qui traitent les données pour produire une prédiction. Cependant, toutes les couches d'un réseau neuronal ne sont pas essentielles pour améliorer la précision. L'équipe affirme que pour les couches essentielles, il peut ne pas être nécessaire de mettre à jour toute la couche.

Cette méthode de pointe appelée PockEngine a été conçue pour affiner chaque couche pour des tâches spécifiques et mesurer l'amélioration de la précision après chaque couche individuelle. PockEngine détermine alors la contribution de chaque couche, et l'équilibre entre la précision et le coût de l'ajustement fin, pour établir la proportion de chaque couche qui nécessite un ajustement fin. Cette méthode de formation a la capacité d'effectuer des tâches avant le temps d'exécution afin de minimiser la puissance de calcul nécessaire et d'accélérer le processus d'ajustement fin.

Les chercheurs affirment que PockEngine a démontré une performance 15 fois plus rapide que d'autres méthodes sur certaines plateformes matérielles, sans sacrifier la précision. Ce réglage fin sur l'appareil pourrait conduire à une meilleure confidentialité, à des coûts réduits, à une personnalisation et à un apprentissage continu, mais c'est une tâche difficile, selon le professeur associé du MIT. Pour réaliser ce processus, les ressources disponibles sont limitées.

Les chercheurs aspirent à exécuter non seulement l'inférence mais aussi la formation sur un appareil de bord, et ils croient que PockEngine offre cette possibilité. La semaine dernière, une entreprise créée par d'anciens designers d'Apple appelée Humane a partagé des informations sur son nouvel appareil alimenté par l'IA qui cherche à inaugurer une nouvelle phase pour les gadgets portables. Cet appareil de petite taille est accompagné d'un prix considérable et ses capacités vagues risquent de susciter des inquiétudes.