roobrief

IA

Google, OpenAI y Anthropic planean sus propias reglas de seguridad para la IA: qué puede cambiar para los desarrolladores

La seguridad de los modelos de IA está en revisión y, antes de que exista una ley, los términos de servicio de las empresas de IA pueden cambiar primero y aplicarse a los desarrolladores.

Google, OpenAI y Anthropic preparan, según informes, una organización que fijaría por sí misma las reglas de seguridad de la IA. Se llamaría SAFA (Standards Authority for Frontier AI). Decidiría cosas como qué pruebas debe superar una IA nueva antes de lanzarse, cómo se notifican los incidentes y quién puede auditar.

Los datos proceden de The Information, que cita fuentes no identificadas. Las tres empresas no han anunciado nada oficialmente. Se habla de un lanzamiento a finales de 2026 o principios de 2027.

Por qué las empresas toman la iniciativa

Estados Unidos aún no tiene una ley federal que regule directamente la IA de vanguardia. Según los informes, estas empresas querían primero una supervisión del gobierno, pero un borrador de orden ejecutiva no logró suficiente apoyo dentro de la administración, así que van hacia una organización privada.

Se dice que SAFA seguiría el modelo de FINRA, el organismo de autorregulación de las firmas de corretaje de EE. UU. Aún no se ha decidido cómo se sancionaría a quien incumpla ni si SAFA haría las pruebas de los modelos o las dejaría en manos de evaluadores externos.

En qué punto están el gobierno y el Congreso

  • Orden ejecutiva (2 de junio): una orden que el presidente puede emitir sin pasar por el Congreso. Esta es voluntaria: se pide a las empresas que den al gobierno hasta 30 días de acceso anticipado a un modelo antes de su lanzamiento. No exige obtener un permiso antes de lanzar.
  • FRONTIER Act en la Cámara (23 de julio): un proyecto de ley que obligaría a los grandes desarrolladores de IA a someterse a auditorías cada año y protegería a los empleados que denuncien problemas dentro de su empresa.
  • Senado: Maria Cantwell publicó el 7 de octubre un conjunto de principios, no un proyecto de ley. Plantea que los modelos superen una auditoría independiente antes de lanzarse.

Qué podría cambiar para los desarrolladores

Hoy no hay ninguna obligación para los desarrolladores. SAFA aún no existe, la orden ejecutiva es voluntaria y los proyectos de ley no se han aprobado. Pero cuando las reglas se asienten, es probable que lleguen a los desarrolladores a través de los términos de las API y los procesos de lanzamiento de las empresas de IA. Lo que sigue es nuestra estimación a partir de los informes.

  • Los términos de servicio podrían cambiar. Si se espera que se notifiquen incidentes o que haya auditorías externas, es probable que las empresas de IA ajusten sus condiciones de API. Las funciones de agente, en las que una IA opera un ordenador por el usuario, podrían ser de las primeras afectadas.
  • Los modelos nuevos podrían tardar más. Participar en la revisión anticipada del gobierno añade un paso antes del lanzamiento.
  • Los resultados de seguridad podrían ser más fáciles de comparar. Si las pruebas se estandarizan, los documentos de evaluación de distintos modelos podrán leerse lado a lado.
  • Los equipos pequeños podrían salir perjudicados. Los críticos dicen que, si las grandes empresas fijan los estándares de auditoría, cumplirlos costará más a los equipos pequeños y a los proyectos de código abierto. Un borrador de discusión en la Cámara incluye además una congelación de tres años de las nuevas leyes estatales de IA.

Si dependes mucho de un solo modelo, agrupa tus llamadas a la IA en un solo lugar del código y mantén tu propio conjunto de pruebas, para poder cambiar de proveedor más adelante sin reescribir todo.

Qué vigilar

Un anuncio oficial de SAFA con su borrador de estándares, si la congelación de las leyes estatales sobrevive en un proyecto final y los cambios en los términos de servicio de las empresas de IA.

Fuentes

Fuente: thenextweb.com

← Volver