Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

在M1 Ultra 芯片上,GPU的利用率很低的问题。 #49

Open
xdcgh opened this issue Oct 12, 2024 · 3 comments
Open

在M1 Ultra 芯片上,GPU的利用率很低的问题。 #49

xdcgh opened this issue Oct 12, 2024 · 3 comments

Comments

@xdcgh
Copy link

xdcgh commented Oct 12, 2024

image image 用的是1.20版本,Large-v3模型,做中文字幕的提取工作。

但是发现一个问题,虽然GPU的使用率是几乎100%,但是GPU的负载却平均只有12W,负载非常低,感觉应该是一个异常问题。
因为正常在跑一个GPU使用100%的时候,GPU的功耗应该平均在60W到80W才对的。

不过相比于1.20之前的版本,这个版本的whisper可以调用ANE单元了,只是调用的负载也很低,并且只是短时负载一下。


感谢大佬的成果,大佬有捐赠的渠道嘛,想请大佬喝杯小咖啡☕️,以示感谢🙏

@buxuku
Copy link
Owner

buxuku commented Oct 15, 2024

感谢反馈,我在尝试使用 medium 模型时,它基本是一直在调用 ANE,我稍后将尝试下载 Large-V3 模型测试。

@buxuku
Copy link
Owner

buxuku commented Oct 15, 2024

我在 M1 pro 上面测试,Large-v3模型, GPU的功率也差不多只能达到 12W 左右,这有可能是模型方面的一些限制,我将持续关注一下。

@xdcgh
Copy link
Author

xdcgh commented Oct 16, 2024

哦哦哦,可以的,感谢大佬🙏

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants