Estados Unidos estudia nuevas obligaciones de seguridad para las empresas de inteligencia artificial
El Senado de Estados Unidos estudia una propuesta que podría cambiar la forma en que las grandes empresas desarrollan y comercializan sistemas avanzados de inteligencia artificial.
Los negociadores del Congreso analizan establecer una especie de deber de cuidado para los desarrolladores de modelos de IA. La iniciativa buscaría que las compañías adopten medidas concretas para reducir riesgos graves antes de poner determinadas tecnologías a disposición del público.
La propuesta busca prevenir riesgos catastróficos
Según información de Reuters, las discusiones incluyen posibles obligaciones para impedir que los sistemas de inteligencia artificial faciliten actividades extremadamente peligrosas, como la creación de armas biológicas o nucleares.
También se estudia la posibilidad de que el Gobierno federal pueda bloquear la publicación de modelos considerados inseguros. Las empresas podrían conservar mecanismos legales para impugnar esas decisiones ante los tribunales.
La propuesta podría afectar principalmente a los laboratorios que desarrollan modelos de frontera, como OpenAI, Google y Anthropic.
Pruebas independientes y supervisión
Entre las alternativas analizadas aparece la posibilidad de realizar evaluaciones de seguridad en laboratorios nacionales. Estas pruebas buscarían determinar si los modelos pueden ser utilizados para actividades peligrosas, ataques informáticos u otros usos no autorizados.
El debate también está relacionado con el crecimiento de los agentes de inteligencia artificial, capaces de ejecutar tareas, interactuar con sistemas externos y tomar decisiones con menor intervención humana.
La dificultad para los legisladores consiste en encontrar un equilibrio entre impulsar la innovación y evitar que los avances tecnológicos generen riesgos que no puedan controlarse.
Una regulación todavía en discusión
La iniciativa aún no se ha convertido en ley. Los detalles continúan en negociación y el calendario legislativo podría verse afectado por las próximas elecciones de mitad de periodo en Estados Unidos.
Aun así, el debate demuestra que la seguridad de la inteligencia artificial dejó de ser un asunto exclusivo de investigadores y empresas tecnológicas. Ahora también ocupa un lugar central en la agenda política.
Comentarios
Publicar un comentario