Apple habla de la compresión de modelos de IA con PrismML; modelos de 27 mil millones de parámetros para ejecutar en el iPhone

Apple está en conversaciones iniciales con la startup de IA PrismML para integrar su tecnología de compresión de modelos en el iPhone, según el CEO de PrismML. La colaboración podría permitir que los modelos de IA de 27 mil millones de parámetros se ejecuten directamente en el dispositivo, mejorando las capacidades de Siri y reforzando la postura de privacidad de Apple.

El 14 de julio, PrismML anunció su avance en compresión: reducir el modelo de código abierto Qwen de Alibaba de 54 GB a menos de 4 GB, manteniendo la escala de 27 mil millones de parámetros para un funcionamiento fluido en el iPhone 15 y en dispositivos más recientes. La tecnología reduce el uso de memoria en 10–15 veces y acelera la respuesta en 6–8 veces, aunque el CEO reconoció compensaciones en la memoria de hechos frente a las capacidades de razonamiento y de codificación.