OpenAI estudiaría comprar chips TPU de Google para ampliar su infraestructura de inteligencia artificial, según informaciones publicadas el 27 de octubre que citan a una persona familiarizada con el asunto. La operación no está confirmada. OpenAI y Google declinaron comentar las informaciones.
El antecedente conocido es el alquiler de TPU mediante Google Cloud para ejecutar productos de OpenAI y reducir el coste de inferencia. Tras publicarse aquella información, OpenAI declaró que estaba probando los chips, pero que en ese momento no tenía planes de implantarlos a gran escala. Una compra supondría una modalidad distinta de alquilar capacidad en la nube.
Las TPU, o unidades de procesamiento tensorial, son procesadores de Google especializados en tareas de inteligencia artificial. Google ya había anunciado que entregaría estos chips a determinados clientes para instalarlos en sus propios centros de datos. La compañía no identificó a OpenAI entre los destinatarios de ese programa.
OpenAI trabaja en la inferencia con TPU
Una oferta de empleo de OpenAI busca un ingeniero de compiladores TPU para su equipo de inferencia. Esa es la fase en la que un modelo ya entrenado procesa peticiones y genera respuestas. La vacante describe trabajo técnico con esta arquitectura, pero no acredita la posible adquisición.
El puesto abarca la optimización de toda la ejecución del modelo, desde su código y los kernels hasta el hardware. Incluye localizar cuellos de botella, reducir el tiempo de respuesta, aumentar el rendimiento y aprovechar mejor los chips. También contempla estudiar la cuantización, una técnica que reduce la precisión numérica de los cálculos para mejorar la eficiencia sin perder calidad en los resultados.
OpenAI pide experiencia práctica con TPU en entrenamiento, inferencia o ambos. El trabajo incluye colaborar con investigadores para adaptar nuevas arquitecturas de modelos, crear pruebas de rendimiento y herramientas de validación, y llevar las mejoras a producción.
