五、AI性能测试:进步显著 OpenVINO未来可期
在本地侧端体验部分,我们使用UL Procyon作为基准测试,它支持对多种AI推理引擎和Stable Diffusion图像生成模型进行测试,并给出非常直观的结果,包含总分、总耗时、图片生成速度等数据、CPU和GPU型号以及跑分设置等信息。
其中AI Image Generation Benchmark套件,包含了2个不同版本的Stable Diffusion模型构建的测试,分别为SD1.5和SDXL,在兼容性上支持TensorRT、OpenVINO、ONNX Runtime,也就是说支持主流的NVIDIA、Intel、AMD三大平台。
首先测试的是基于SD1.5(FP16)的AI Image Generation Benchmark,在这个过程中每批次会创建4幅图像,共16幅,分辨率为512×512,干预步骤为100。
铭瑄Intel锐炫B580 iCraft 12G显卡得分为1496,Stable Diffusion 1.5的UNET(神经网络架构)速度最高可达24.318it/s,平均只需4.176秒就能生成一张图像。
之后进行基于SDXL(FP16)的AI Image Generation Benchmark测试,在这个过程中每批次会生成1张图像,总共会创建16幅图像,分辨率提升到1024×1024,干预步骤为100。
铭瑄Intel锐炫B580 iCraft 12G显卡得分为1605,Stable Diffusion XL的UNET(神经网络架构)速度最高可达4.339it/s,平均只需23.363秒就能生成一张图像。
之后使用AI Computer Vision Benchmark中的Intel OpenVINO测试项目来测试AI推力性能,精度设置为float32。
铭瑄Intel 锐炫B580 iCraft 12G显卡得分为858。
AI Text Generation Benchmark是一个简化本地 LLM AI 性能测试,提供了PHI 3.5、MISREAL 7B、LLAMA 3.1和LLAMA 2四个不同参数大小的行业标准 AI 模型轻松快速地进行测试。
铭瑄Intel 锐炫B580 iCraft 12G显卡在测试中四个模型的得分分别是2855、2901、2632和3053。