Equinix, NVIDIA y Together AI llevan la inferencia de IA a los centros de datos empresariales
La inteligencia artificial empresarial está entrando en una etapa en la que no basta con tener acceso a un buen modelo. Las compañías también necesitan decidir dónde ejecutar la inteligencia artificial, cómo conectarla con sus datos y cómo controlar los costos y la seguridad de esas operaciones.
Para responder a ese desafío, Equinix anunció una nueva colaboración con NVIDIA y Together AI para desarrollar una infraestructura distribuida dedicada a la inferencia de inteligencia artificial.
La inferencia se convierte en un problema estratégico
Entrenar un modelo de IA es solamente una parte del proceso. Una vez que el modelo está listo, debe responder constantemente a las solicitudes de usuarios y aplicaciones.
Ese proceso se conoce como inferencia y puede convertirse en uno de los principales desafíos de infraestructura cuando una empresa comienza a utilizar inteligencia artificial a gran escala.
La ubicación donde se ejecuta esa inferencia puede afectar la velocidad de respuesta, los costos, la seguridad y la forma en que una organización administra sus datos.
Una infraestructura distribuida
El nuevo Equinix Inference Exchange combinará infraestructura de Equinix, arquitecturas empresariales de NVIDIA y la plataforma de inferencia de Together AI.
La solución permitirá acceder a más de 200 modelos de inteligencia artificial de código abierto y conectarlos con diferentes nubes, redes y proveedores tecnológicos mediante la infraestructura de interconexión de Equinix.
La idea es acercar la capacidad de procesamiento a los lugares donde están los usuarios, las aplicaciones y los datos.
Más opciones para las empresas
Uno de los objetivos de la propuesta es ofrecer a las organizaciones mayor flexibilidad para elegir qué modelos utilizan y dónde los ejecutan.
Esto puede resultar especialmente importante para compañías que desean reducir su dependencia de un único proveedor de modelos o que necesitan utilizar soluciones específicas por razones de costos, regulación o soberanía de datos.
La plataforma también está orientada a organizaciones que quieren trasladar modelos abiertos desde entornos experimentales hacia sistemas empresariales de producción.
El centro de datos cambia de función
La expansión de la IA está transformando los centros de datos. Ya no se trata únicamente de almacenar servidores y proporcionar energía y refrigeración.
Ahora también deben convertirse en puntos estratégicos donde convergen computación acelerada, redes, datos, modelos de inteligencia artificial y aplicaciones empresariales.
Equinix cuenta actualmente con más de 280 centros de datos distribuidos en 77 áreas metropolitanas, una infraestructura que la compañía pretende utilizar para acercar la inferencia a diferentes mercados.
El nuevo servicio está previsto para comenzar a estar disponible durante el primer trimestre de 2027.
Comentarios
Publicar un comentario