La mayoría de las guías de GPU te dicen que elijas la H100 más barata.
Pregunta equivocada.
La pregunta correcta es qué configuración de cómputo se adapta a tu carga de trabajo, tu horizonte financiero y tu equipo, y no te dejará atrapado dentro de seis meses.
Creamos un marco para ayudarte a decidir.
Cinco variables de decisión. Tres etapas. De pre-seed a Serie A.
La IA está a punto de competir con todos por la capacidad de cómputo.
Jack Collier, nuestro director de crecimiento, estará en Hong Kong FinTech Week el 3 de noviembre para hablar sobre lo que esto significa para las finanzas, los desarrolladores y la infraestructura.
«Cuando la IA se extiende por la infraestructura» 13:35 - Sala 5FG
40.000 millones de dólares de deuda para comprar GPU.
Viene con una advertencia de @elonmusk. Los prestamistas prácticamente han cerrado por completo las puertas a cualquiera cuyo negocio dependa de los centros de datos.
Endeudarse, construir y esperar que llegue la demanda antes que los intereses. Ese modelo empieza a resquebrajarse.
Pero hay otra manera.
Agrupar la capacidad que ya existe, ponerla a trabajar y crecer al ritmo de la demanda, no de la deuda.
La otra mitad consiste en lograr que los números cuadren.
No basta con tener horas de GPU baratas si la capacidad queda inactiva, los costos de inferencia destruyen los márgenes o cambiar de proveedor resulta prohibitivamente caro.
Quienes desarrollan necesitan capacidad de cómputo que se adapte a la demanda y la libertad de irse cuando deje de hacerlo.
El acceso te permite empezar. La orquestación te mantiene competitivo.
Anthropic promete donar el 5 % de sus acciones. Musk promete una acción de SpaceX para cada niño de Estados Unidos.
Ahora hagamos los cálculos.
La promesa de Musk equivale a unos 150 dólares por niño. La de Anthropic, según la valoración prevista para su salida a bolsa, representa menos del 1 % de los 10 billones de dólares que se espera invertir en el desarrollo de la IA.
Bueno para sus marcas, sí. Bueno para el mundo, no está tan claro.
En lugar de regalar dinero después de los hechos, evitemos que se concentre desde el principio.
El acceso abre oportunidades. Para eso se creó @ionet.