Mensaje de Gate News, 20 de abril — La (IMDA) de la Autoridad de Desarrollo de Medios de Comunicación e Informática de Singapur y Enterprise Singapore han propuesto un nuevo estándar internacional para probar sistemas de IA generativa. La propuesta se presentará en una reunión de la ISO en Singapur, la primera de este tipo celebrada en ASEAN, reuniendo a más de 35 organismos nacionales y 250 expertos en IA.

La iniciativa se basa en los esfuerzos anteriores de Singapur en materia de pruebas de IA, incluido el kit de herramientas AI Verify y un kit inicial para aplicaciones de modelos de lenguaje a gran escala. La AI Verify Foundation, una organización respaldada por Singapur con miembros principales que incluyen IMDA, Google, Microsoft e IBM, ha desarrollado herramientas de código abierto para pruebas y gobernanza de IA. Sus ofertas incluyen el kit de herramientas AI Verify para pruebas de gobernanza y Project Moonshot, que combina la evaluación comparativa con metodologías de red teaming.

El estándar propuesto está diseñado para complementar la ISO/IEC 42001, el estándar internacional para sistemas de gestión de IA. Podría ayudar a definir requisitos técnicos para el cumplimiento de regulaciones como la Ley de IA (AI Act) de la Unión Europea y la propuesta SB-53 de California sobre seguridad y supervisión de la IA. El marco abarca características de calidad como la seguridad y emplea métodos como el red teaming para sistemas generativos de texto a texto basados en prompts. Este desarrollo podría ampliar el mercado de servicios de aseguramiento de la IA, permitiendo que firmas especializadas ayuden a las organizaciones a cumplir con los nuevos puntos de referencia globales.

Ver fuente

Aviso legal: La información de esta página puede proceder de terceros y no representa los puntos de vista ni las opiniones de Gate. El contenido que aparece en esta página es solo para fines informativos y no constituye ningún tipo de asesoramiento financiero, de inversión o legal. Gate no garantiza la exactitud ni la integridad de la información y no se hace responsable de ninguna pérdida derivada del uso de esta información. Las inversiones en activos virtuales conllevan riesgos elevados y están sujetas a una volatilidad significativa de los precios. Podrías perder todo el capital invertido. Asegúrate de entender completamente los riesgos asociados y toma decisiones prudentes de acuerdo con tu situación financiera y tu tolerancia al riesgo. Para obtener más información, consulta el Aviso legal.