速递|击败DALL-E和Midjourney,Recraft完成3000万美元B轮融资,ARR超500万美元,用户数达400万

Recraft,一家神秘图像模型背后的初创公司,在一个备受尊敬的行业基准测试中击败了OpenAI的DALL-E和Midjourney。近日完成3000万美元B轮融资,ARR超过500万美元,用户数达到400万。

TGI v3 横空出世:性能碾压vLLM 13倍!

HuggingFace发布文本生成推理引擎TGI v3版本,性能大幅提升:在单个L4显卡上处理30k token lama 3.1-8B模型输入成为可能。与vLLM相比,在超长文本处理方面快了13倍。通过优化内存管理、改进前缀缓存结构和开发新的推理内核,TGI v3实现了零配置的极致性能。