一、项目概述
OOTDiffusion是由Xiao-I Research的Yuhao Xu、Tao Gu、Weifeng Chen、Cheng Cai Chen等人提出并开源的项目。该项目旨在解决线上购物中消费者无法真实感受衣物试穿效果的难题,通过先进的技术和创新的算法,为用户提供了一个高度可控的虚拟服装试穿平台。
1、高度可控的试穿体验:用户可以上传自己的照片或选择系统提供的模特照片,然后选择想要试穿的服装款式,OOTDiffusion会自动将服装合成到模特身上,并根据模特的身材和姿态进行自适应调整,以达到最真实的试穿效果。此外,用户还可以手动调节服装的尺寸、色彩和纹理等属性,实现个性化的试穿需求。
2、双模型支持:提供半身和全身两种模型选项,以适应不同的展示需求。半身模型专注于展示服装的上半部分,适合对上衣、外套等进行细节展示;全身模型则提供了服装整体的视觉呈现,适合全面审视服装搭配效果。
3、服装叠加自定义:用户可以自主调整服装的叠加效果,实现个性化的视觉效果,满足不同用户的时尚创意和搭配需求。
4、多样化的输出格式:支持将最终效果保存为静态图片或动态视频,增加了应用的灵活性。用户可以根据自己的需求选择合适的输出格式,方便分享和展示试穿成果。
三、技术原理
1、预训练的潜在扩散模型:OOTDiffusion充分利用预训练的潜在扩散模型的优势,确保生成图像的高保真度和自然试穿效果。该模型通过学习大量的服装和人体图像数据,能够在潜在空间中准确地表示服装和人体的特征,从而生成逼真的试穿图像。
2、Outfitting UNet:设计了Outfitting UNet来学习服装在潜在空间中的细节特征,在去噪UNet的自注意力层中通过Outfitting Fusion过程将服装特征与目标人体精确对齐,无需独立的变形过程,有效提高了试穿效果的准确性和自然度。
3、Outfitting Dropout:在训练过程中引入Outfitting Dropout,随机丢弃一些服装潜在表示,实现无分类器的指导,增强对服装特征的控制力,可通过指导尺度简单地调整服装对生成结果的控制强度,使生成的试穿图像更加多样化和个性化。
四、应用场景
1、时尚电商领域:为消费者提供了试穿不同服饰的便利,使他们能够在购买前就能感知服饰的效果,从而减少退换货行为,提高购物的满意度和转化率,同时也为商家降低了运营成本。
2、个性化定制服务:服装设计师和制造商可以利用OOTDiffusion展示服装的设计效果,根据用户的体型和偏好进行个性化定制,提升设计的灵活性和用户体验,使消费者能够获得更加贴合自身需求的产品。
3、社交媒体互动:满足了用户对展示“outfitoftheday”的需求,时尚爱好者可以快速生成不同服装的试穿效果并分享到社交平台上,与朋友或粉丝互动,增加互动性和时尚展示的多样性,提升社交平台的活跃度。
4、虚拟试衣间体验:在实体零售店中,OOTDiffusion可以作为虚拟试衣间的技术支持,顾客无需脱衣,只需站在屏幕前,即可看到自己穿上不同服装的效果,这种创新的购物体验不仅提升了顾客的满意度,还减少了试衣间的使用频率,降低了店铺的运营成本。
五、在线体验
在线地址:https://huggingface.co/spaces/levihsu/OOTDiffusion
六、本地部署
1、安装配置
l)克隆仓库代码
git clone https://github.com/levihsu/OOTDiffusion
2)创建conda环境并安装所需的软件包
conda create -n ootd python==3.10
conda activate ootd
pip install torch==2.0.1 torchvision==0.15.2 torchaudio==2.0.2
pip install -r requirements.txt
2、推理测试
1)半身模型
cd OOTDiffusion/run
python run_ootd.py --model_path <model-image-path> --cloth_path <cloth-image-path> --scale 2.0 --sample 4
2)全身型
服装类别必须配对:0 = 上半身;1 = 下半身;2 = 连衣裙
cd OOTDiffusion/run
python run_ootd.py --model_path <model-image-path> --cloth_path <cloth-image-path> --model_type dc --category 2 --scale 2.0 --sample 4
七、结语
OOTDiffusion作为一款先进的虚拟试穿工具,以其高度可控、逼真的试穿效果和广泛的应用场景,为时尚行业带来了革命性的变化。它不仅提升了用户的购物体验和时尚互动性,还为企业降低了运营成本,提高了效率。随着技术的不断发展和优化,相信OOTDiffusion在未来会发挥更大的作用,为我们带来更加便捷、真实和个性化的虚拟试穿体验。如果你对OOTDiffusion感兴趣,可以访问开源地址获取更多详细信息并进行尝试。
八、项目相关资料
-
仓库地址:https://github.com/levihsu/OOTDiffusion
-
在线地址:https://huggingface.co/spaces/levihsu/OOTDiffusion
-
论文地址:https://arxiv.org/abs/2403.01779
(文:小兵的AI视界)