0Investigadores argumentan que su técnica de aprendizaje automático pudo afinar los modelos de IA utilizando menos recursos mientras se mantiene la precisión, lo que podría ser usado para mejorar la IA en dispositivos más pequeños como los teléfonos inteligentes. La afinación de los modelos de inteligencia artificial puede ser extrañamente pesada en términos de recursos informáticos, y en dispositivos más pequeños como teléfonos inteligentes, este desafío se magnifica.
Un nuevo método de entrenamiento de investigadores del Instituto de Tecnología de Massachusetts (MIT) podría utilizarse para permitir un aprendizaje continuo de IA en dispositivos de computación de borde. Los investigadores sostienen que las técnicas de aprendizaje profundo pueden ayudar a los chatbots de IA a entender los acentos del usuario o a predecir la próxima palabra que alguien escribirá basado en su historial de escritura.
Sin embargo, estas características requieren un ajuste fino del modelo de IA con nuevos datos. El equipo afirmó que esto se convierte en un problema en los teléfonos inteligentes y los pequeños dispositivos de borde, ya que pueden carecer de la memoria y la capacidad de cómputo necesarias para este proceso de ajuste fino. Un camino para resolver esto es a través de servidores en la nube, pero esto presenta tanto preocupaciones energéticas como riesgos de seguridad cuando se trata de datos sensibles.
Para solucionar esto, el equipo afirma haber desarrollado una técnica que permite a los modelos de aprendizaje profundo adaptarse eficientemente a los nuevos datos del sensor, directamente en un dispositivo de borde. Este método de entrenamiento, que los investigadores han bautizado, puede determinar que partes del modelo de aprendizaje automático necesitan ser actualizadas para mejorar la precisión. Este método luego solo almacena y calcula con esas piezas específicas.
El equipo dijo que los modelos de aprendizaje profundo están basados en redes neuronales, que comprenden muchas capas interconectadas de nodos que procesan datos para hacer una predicción. Pero no todas las capas en la red neuronal son importantes para mejorar la precisión. El equipo dijo que para las capas que son importantes, la capa entera puede no necesitar ser actualizada.
El método PockEngine esta diseñado para afinar cada capa en una tarea en concreto y mide la mejora de la precisión después de cada capa individual. PockEngine identifica entonces la contribución de cada capa y los compromisos entre precisión y coste de ajuste fino, con el objetivo de determinar el porcentaje de cada capa que necesita ser ajustado con precisión.
El equipo dijo que este método de entrenamiento puede desempeñar sus tareas antes de la ejecución para minimizar la necesidad de potencia computacional y aumentar la velocidad del proceso de afinado. Se reivindica que PockEngine fue capaz de desempeñar 15 veces más rápido que otros métodos en algunas plataformas de hardware sin una caída en la precisión.
