Un marco voluntario para la seguridad de la IA
El presidente Donald Trump publicó el martes un documento de una página que su administración presentó como un acuerdo sobre inteligencia artificial. Trump había dicho antes que el documento fue firmado por él y ejecutivos tecnológicos que conoció en Washington. El acuerdo fue publicado en su plataforma Truth Social, que previamente había caracterizado como moralmente vinculante. El documento describe cuatro capas de controles para que las empresas adopten.[S1]
El acuerdo pide a las empresas asociarse con un auditor o evaluador externo para realizar evaluaciones independientes sobre si sus sistemas de control y monitoreo de IA funcionan según lo previsto. También insta a las empresas a designar un comité independiente de la junta directiva para supervisar y recibir informes de auditores internos y externos, así como de equipos que operan controles de IA. Además, pide controles internos para monitorear las capacidades y la alineación de los modelos de IA durante el entrenamiento y despliegue, enfocándose en áreas como ciberseguridad, bioseguridad y amenazas químicas para garantizar que los modelos no hackeen o accedan a sistemas técnicos de maneras no previstas. Finalmente, pide a las empresas mantener un equipo interno para asegurar que todos los controles, monitoreo y detección operen según lo previsto.[S1]
Firmantes y compromisos
El documento fue firmado por Trump y los jefes de Google, Anthropic, Meta, OpenAI, la plataforma de redes sociales X y NVIDIA. Según el acuerdo de la Casa Blanca, con el tiempo podría tener sentido codificar estos pasos en leyes o regulaciones. Independientemente de si se requiere que las empresas lo hagan, el acuerdo declara que implementar estos controles y auditorías es crítico para garantizar un futuro seguro para todos, y cada una de las empresas está comprometida a hacerlo. Las empresas participantes se reunirán regularmente para establecer estándares y mejores prácticas para mejorar la seguridad de sus sistemas.[S1]
