Mistral发布Mixtral 8x7B开放权重模型,采用稀疏混合专家架构,每层为每个token选择两个专家。支持32K上下文,许可证为Apache 2.0。