Alexander Doria on the technique Chinese labs are using to train 3 trillion-parameter models without access to Blackwells:
Este tweet es valioso porque describe una técnica innovadora llamada Latent MoE que permite entrenar modelos de IA extremadamente grandes con menos recursos. Esto podría revolucionar el campo de la investigación en IA al hacer más accesible el desarrollo de modelos de alta capacidad, lo que es especialmente relevante para equipos de desarrollo avanzado e investigación de IA.