Las decisiones de IA de vida o muerte deben seguir siendo lideradas por humanos, según el panel de la WAIC 2026

En la Conferencia Mundial de Inteligencia Artificial de 2026, los ponentes, entre ellos Xue Lan (directora del Instituto de Gobernanza de la IA de la Universidad Tsinghua), Nicholas B. Dirks (presidente y CEO de la New York Academy of Sciences) y Mark Nitzberg (director ejecutivo del Center for Human-Compatible Artificial Intelligence de la UC Berkeley), debatieron la gobernanza de los agentes de IA. Según los ponentes, la IA está pasando de «asistir el juicio» a «actuar de forma autónoma», lo que exige ampliar las cadenas de rendición de cuentas entre desarrolladores, implementadores y reguladores.

Los ponentes llegaron a un consenso: las decisiones con consecuencias de vida o muerte, los escenarios que no pueden corregirse una vez que salen mal y todos los asuntos que impliquen juicios éticos y de valor nunca deben estar liderados por IA. Los humanos pueden autorizar acciones de IA, pero no pueden delegar la responsabilidad. Cada autorización debe poder revocarse, cada acción debe poder rastrearse y el ritmo de concesión de capacidad de actuación nunca debe superar el ritmo de verificación de la capacidad de la IA.