本次和大家分享一个英伟达联合其他大学开发的一款应用describe-anything,该应用可以通过AI识别分析并详细描述图片视频中指定区域物体内容,我基于最新版制作了免安装一键启动整合包,下载链接在文章末尾。
describe-anything介绍
Describe Anything Model(DAM)是由英伟达联合加州大学伯克利分校等机构开发的开源多模态大语言模型(3B参数),专注于为图像或视频中的任意指定区域生成高精度、细节丰富的自然语言描述。其核心创新在于结合局部细节与全局上下文,实现人类级的视觉理解能力。
核心功能与特点
- 精细化区域描述
- 用户可通过点选、涂鸦或掩码指定图像/视频中的任意区域,DAM 自动生成包含纹理、动作、材质等细节的描述(例:“奶牛深棕色皮毛中臀部有一块浅色斑块,行走时尾部簇毛有节奏摆动”)。
- 支持多粒度输出:关键词(物体类别)、短语(属性摘要)、多句详细描述。
- 视频动态追踪
仅需在单帧标注区域,即可跨帧追踪目标并描述其状态变化(例:“猴子用右手取食物后双手操作,面部表情专注,眼睛半闭”)。
- 零样本问答与指令控制
- 无需训练即可回答区域相关问题(如“这是什么材质?”)。
- 通过指令调整描述风格(简洁总结或专业长文本)。
典型应用场景
下表概括了 DAM 在各领域的实际应用价值:
describe-anything整合包软件使用说明
首先将网盘内的软件压缩包下载到本地电脑上并解压,双击【启动软件.exe】
软件有两种启动模式,一个是图片处理模式,另一个是视频处理模式,按需启动即可。
第一次启动的时候会自动下载模型文件,一般下载速度都比较快。
软件成功启动后会自动打开webui界面。
【图片模式】
上传图片,prompt里输入想要获取的信息,如描述一下图片中选中内容。
点击按钮等待结果。
勾选上方SAM复选框,可以只识别画笔选中区域。
prompt中支持中文输入,如果输出识别文本为英文,可以在prompt中加入“用中文回答”,描述结果即可用中文显示。
【视频模式】
上传mp4视频,点击load first frame,提取视频第一帧画面,右侧图片中用画笔画出想要识别的内容,点击下方按钮描述即可。
视频教程及效果演示:https://nuowa.net/1923
注意事项
支持英伟达50系列显卡
英伟达显卡显存6G以上
使用前请将英伟达显卡驱动更新到最新版本
只支持Windows 10或11
软件运行路径中不要有非英文字符和空格,待处理文件素材也要注意
