比Gemini Pro1.5强!可解读视频的多模态模型Pegasus-1公测
划重点:
🌟 Pegasus-1是视频语言基础模型,迎来升级!
🌟 模型性能在多个任务中取得显著成就。
🌟 通过数据优化、视频处理和训练技术提升,刷新视频理解标准。
站长之家(ChinaZ.com)4月25日 消息:Twelve Labs 最新发布了 Pegasus-1的公测版本,这款视频 - 语言基础模型在视频理解领域取得了新突破。
Pegasus-1是一款具有约17亿参数的视频 - 语言模型,能够以卓越的准确性和细节处理能力从视频输入中生成语言描述。据称,Pegasus-1视频解读能力比Gemini Pro1.5还要强,通过优质数据、优化视频处理和精细训练等升级,提供卓越的视频理解和生成文本能力。在视频总结、问题回答和对话方面表现卓越。
产品特色功能包括:
- 数据优化:高质量数据驱动模型表现,100,000个高质量视频 - 文本对训练带来强大基础视频理解能力。
- 视频处理提升:优化空间和时间分辨率,使 Pegasus-1能更好地捕捉视频信息。
- 训练技术改进:多阶段训练避免灾难性遗忘,使模型在细节、世界知识和时间理解等方面大幅提升。
在基准测试中,Pegasus-1在视频问答、对话和摘要等任务中胜过谷歌 Gemini Pro 等现有模型,展现出卓越的性能。无论是零样本表现还是广泛泛化能力,Pegasus-1都站在行业前沿,为视频理解任务设立新标杆。
然而,仍需关注模型安全性、视频长度限制和偶发幻觉等方面的改进空间。Pegasus-1的不断进化与创新,为视频理解技术开辟新的可能性。值得一提的是,Pegasus-1未开源,通过API使用
产品入口:https://top.aibase.com/tool/pegasus-1
API文档:https://docs.twelvelabs.io/docs/generate-text-from-video