人工智能大数据,工作效率生产力
Ctrl + D 收藏本站,更多好用AI工具
当前位置:首页 » AI资讯

“自制”显存监控小程序(GPT4编程实践)

2023-12-03 115

一、前言

随着ChatGPT的爆火,许许多多的深度学习算法像雨后春笋一样,不断出现在大众视野,除了带动这股热潮的大语言模型之外,还有前段时间爆火的AI绘画,近期较火的AI翻唱等等。深度学习算法离普通大众似乎已经没那么遥远了,它渐渐走进了人们的生活。

目前越来越多拥有高端英伟达显卡的朋友,开始在本地自己搭建环境,跑别人的深度学习算法,或者训练自己的代码,提前涌入到这股AI浪潮中。up也是其中一位,不仅自己的研究方向和深度学习有关,而且自己在本地也跑一些Stable diffusion、SoVITS4.0、CUGAN、Topaz等用到深度学习算法的软件程序。这些AI模型的使用在B站很多up都出过详细的食用教程,这里就不过多赘述了。

需要程序的朋友可直接跳转置顶评论区

二、做该软件的原因

up在跑AI模型的时候,发现很麻烦的一点,就是显存的监控,每次都要打开任务管理器,大部分人都知道任务管理器有时候是真的坑,特别是本来就运行这种很吃系统资源的AI模型时,任务管理器更是一言难尽。

于是up首先想到的是各种游戏测评中出现的微星小飞机MSI Afterburner。该软件通过配置,不仅可以实时监控显存使用量,还可以实时监控游戏帧数、GPU占用、CPU占用、功耗等,并通过设置快捷键显示和隐藏。up也下载了这款软件,但是使用时发现一个问题:在该软件运行时,需要侦测到你的电脑在运行游戏,或者一些3D软件时,才会显示这些信息,up如果仅仅是在跑深度学习算法的时候,打开网页看看一些学习资料啥的,它并不会显示监控数据。但up不可能后台在跑深度学习,还要打开一个大型3A游戏玩吧,这样的话,游戏帧数也低,模型也跑得慢。(可能小飞机通过设置可以常驻显示,知道的小伙伴可以在评论区分享一下设置方法)

综上所述,up于是萌生出了写一个专门实时监控显存使用量的小程序的想法,并且用上了GPT-4,亲身体验一下GPT-4在网络上被吹爆的编程能力。

三、成品展示

经过菜逼up与“愚蠢”的GPT-4近俩小时的周旋,该程序终于被写出来了,全程up所做就是三件事:用自然语言和GPT-4交流并提出自己的需求、在本地搭建GPT-4所要求的程序环境、以及不停地来回复制粘贴。

中间走了不少弯路,这也和up自身的GPT4使用经验有关,有时候因为提出的需求不明确,GPT-4就很难写出你想要的代码,并且就算需求写得很明确,GPT-4也很难一下写出能使用的代码,需要不断地修bug,也就是不断地把报错信息复制反馈给GPT-4,让它自己改。这样做的目的主要也可以模拟一下GPT-4能否帮助一个毫无代码基础的人写出满足自己需求的代码。

接下来展示程序的效果与使用。该程序目前经up实测,适用于RTX40系30系等,更早的型号就没有试验了,可能会不兼容,并且只适用于N卡,A卡是不支持的

“自制”显存监控小程序(GPT4编程实践)插图

双击打开程序后,按F12,它就会在桌面右下角显示当前的显存占用,并且在最上层,也就是说就算在全屏游戏下,也可以显示。实时监控数据更新时间间隔为一秒。当按了F12后,经过0.5秒后再按一次F12就会隐藏(之所以要间隔0.5秒,是GPT-4判断这么做可以防止长按导致程序崩溃)。在显存占用超过12G时显存数字会变黄超过20G则会变。比较适合3090、3090ti、4090等显存为24G的用户。如果想修改的话,up到时候把源码发出来,可以自己按需求改。

“自制”显存监控小程序(GPT4编程实践)插图1

再按F9就会多显示三个选项,相信中间俩项不用过多赘述,第一项是视频解码器的占用监控,懂得自然懂。这三项也是实时监控,数据更新间隔也为一秒,如果只想监控显存占用,可以按F9关闭。这三项的百分比也有颜色变化,规则为:50%以下为绿色、50%~90%之间为黄色、90%以上为红色

“自制”显存监控小程序(GPT4编程实践)插图2

上图为该程序的系统资源占用,在up利用GPT-4写完程序后还特地返回让GPT-4优化了整个程序的资源消耗。从上图可以看到该程序占用非常低,CPU只占用了0.1%内存仅使用50~80M之间。几乎对日常使用是没有影响的,up目前也是设置了该程序的开机自启。

四、用GPT-4写程序的感想

经过该程序的编写,up确实真正身体会到了AI正在慢慢走进普通大众的生活,相信点开这篇帖子的朋友,也多多少少了解了近期AI的发展势头,它能做的远远不只有写文案,写代码,它能画图,能模仿人说话,能生成视频,还有一些正在发展的,比如智能AI管家,像电影里贾维斯那种的;文字生成3D模型的AI目前也在训练。可以预见的是,未来AI将进入各行各业,极大地解放生产力,成为人们日常使用的工具,就像现在的智能手机。不过每次科技革命,在给人们带来便利的同时也会伴随一些问题,这次ChatGPT的爆火也同样带来了像安全、伦理、道德以及版权等问题,需要人类认真思考和面对。

原文链接:https://www.bilibili.com/read/cv23122373/

相关推荐

阅读榜

点击榜

hellenandjeckett@outlook.com

加入QQ群:849112589

回顶部