minimind-v

by jingyaogong · AI

👀 Train a 65M-parameter VLM from scratch in just 2h!

New0 ratings8,580 starsActive
AIDeveloper ToolPythonartificial-intelligence
Open project ↗↓ Download v2GitHub⚑ Report
minimind-v preview

About this project

"大道至简" 中文 English 此项目旨在从0开始,仅用3块钱成本 + 2小时!即可训练出65M参数的超小多模态视觉语言模型MiniMind-V。 MiniMind-V最小版本体积仅为 GPT3 的约 $\frac{1}{2600}$,力求做到个人GPU也可快速推理甚至训练。 MiniMind-V是MiniMind纯语言模型的视觉能力额外拓展,同系列多模态Omni模型详见MiniMind-O。 项目同时包含了VLM大模型的极简结构、数据集清洗、Pretrain、SFT等全过程代码。 这不仅是一个开源VLM模型的最小实现,也是入门视觉语言模型的简明教程。 希望此项目能为所有人提供一个抛砖引玉的示例,一起感受创造的乐趣!推动更广泛AI社区的进步! 注:本项目基于 Apache 2.0 协议开源,完全免费。“2 小时” 指 SFT 阶段在单张 NVIDIA 3090 上跑完 1 epoch 的实测耗时,“3 块钱” 指对应时段的 GPU 租用成本。 🔗🤖在线体验 🔗🎞️视频介绍 📌 项目介绍 “用乐高拼出一架飞机,远比坐在头等舱里飞行更让人兴奋!” 构建VLM范式的多模态大模型是否真的如想象中那样复杂?它的代码实现到底如何? 训练过程究竟难不难?那么现在,探索它们的答案,一起感受创造的乐趣吧! [!TIP] (截至2026-04-20)MiniMind-V 系列已完成了以下型号模型训练,最小仅需65M (0.065B),即可具备识图和对话的能力! 模型 参数量 Release…

Technologies

Pythonartificial-intelligencechatgptvision-language-model

Project health

Recently updated
Last updatelast month
Contributors5
Latest releasev2
Open issues & PRs21
LicenseApache-2.0
On GitHubsince 2024

GitHub

8,580
stars
954
forks
5
contributors
21
open issues & PRs
Python
language
last month
last commit
View on GitHub ↗All releases ↗

Reviews

out of 5 · 0 ratings
★★★★★
0%
★★★★
0%
★★★
0%
★★
0%
0%
Sign in to write a review
No reviews yet
Be the first to review minimind-v.

Built by

jingyaogong
Imported from GitHub · not yet claimed on GitPalace
View developer pageSign in with GitHub to claim

Maintain jingyaogong/minimind-v? Claiming verifies admin access through your GitHub account and gives you control of this listing.

You might also like