Meta ha anunciado una colaboración estratégica con MediaTek y Qualcomm para optimizar la implementación de su modelo de lenguaje Llama 2 en dispositivos edge y móviles. Este avance permitirá ejecutar aplicaciones de inteligencia artificial generativa directamente en dispositivos como smartphones, ordenadores personales, auriculares de realidad virtual y aumentada, y vehículos, sin necesidad de depender exclusivamente de la nube (Neurona Digital Mag) (TeleSemana.com) (Notasbit, noticias de tecnología).
La revolución de la ia generativa en dispositivos edge
El procesamiento de inteligencia artificial generativa ha dependido históricamente de la computación en la nube, lo que implica ciertas limitaciones como la latencia y la necesidad constante de conectividad. Sin embargo, la colaboración entre Meta, MediaTek y Qualcomm busca cambiar este paradigma al llevar la capacidad de procesamiento directamente a los dispositivos edge. Utilizando el modelo de lenguaje Llama 2, las aplicaciones podrán ofrecer un rendimiento más fluido, mayor privacidad y mejor seguridad, todo ello con una reducción significativa en los costes operativos.
MediaTek, conocido por su liderazgo en el desarrollo de sistemas en chip (SoC) para dispositivos móviles y IoT, está integrando sus avanzadas unidades de procesamiento de IA (APU) para optimizar la ejecución de Llama 2. Esto no solo mejora la capacidad de cómputo y reduce el consumo de energía, sino que también permite a los dispositivos funcionar eficientemente en áreas con poca o ninguna conectividad (Techie Brekkie).
Las ventajas de ejecutar IA localmente
Qualcomm, por su parte, está enfocando sus esfuerzos en integrar el modelo Llama 2 en su gama de procesadores Snapdragon. Esto permitirá a los desarrolladores crear aplicaciones que puedan operar independientemente de la nube, proporcionando experiencias de usuario más personalizadas y confiables. Entre las aplicaciones posibles se incluyen asistentes virtuales inteligentes, herramientas de creación de contenido y aplicaciones de productividad, que podrán funcionar incluso en modo avión.
La colaboración entre estas gigantes tecnológicas también incluye un enfoque en la mejora de la seguridad y la privacidad. Al ejecutar los modelos de IA directamente en los dispositivos, se minimiza la transferencia de datos sensibles a través de internet, protegiendo así mejor la información del usuario. Esta innovación también supone una reducción en la latencia, lo que se traduce en una experiencia de usuario más fluida y rápida (TeleSemana.com).
El futuro de la ia generativa en el borde
Meta, MediaTek y Qualcomm están convencidos de que esta alianza abrirá nuevas oportunidades en el campo de la inteligencia artificial. Al proporcionar herramientas avanzadas y optimizadas para el desarrollo de aplicaciones de IA en el borde, esperan estimular la innovación y acelerar la adopción de tecnologías de IA generativa en una variedad de dispositivos.
La próxima generación de chipsets insignia de MediaTek, prevista para finales de este año, contará con mejoras significativas en su APU y software optimizado para ejecutar Llama 2. Estos avances permitirán a los desarrolladores crear casos de uso innovadores y expandir las capacidades de los dispositivos edge en diversos sectores, desde el entretenimiento hasta la automoción y el hogar inteligente (Neurona Digital Mag) (Techie Brekkie).
Esta colaboración no solo representa un avance tecnológico, sino también un cambio significativo en cómo se desplegará la inteligencia artificial en el futuro, potenciando dispositivos más inteligentes y autónomos que mejoren la vida de los usuarios en múltiples aspectos.
Para más información, puedes leer los artículos completos en Neurona Magazine, TeleSemana, y Techie Brekkie.