400 128 6709

行业新闻

致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑

发布时间:2023-10-07点击次数:
不得不说,Llama 2 的「二创」项目越来越硬核、有趣了。

自 Meta 发布开源大模型 Llama 2 以来,围绕着该模型的「二创」项目便多了起来。

此前 7 月,特斯拉前 AI 总监、重回 OpenAI 的 Andrej Karpathy 利用周末时间,做了一个关于 Llama 2 的有趣项目 llama2.c,让用户在 PyTorch 中训练一个 baby Llama 2 模型,然后使用近 500 行纯 C、无任何依赖性的文件进行推理。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

致敬templeos,有开发者创建了启动llama 2的操作系统,网友:8g内存老电脑就能跑

今天,在 Karpathy llama2.c 项目的基础上,又有开发者创建了一个启动 Llama 2 的演示操作系统,以及一个调用用户模式助手进行 Llama 2 推理的内核模块。该项目名为 Llama 2 Everywhere(简称为 L2E)。

不过,作者也表示,当前的系统要求是 512MB RAM 和 x86_64(64 位)PC,可用性有待提升。

同时,这个项目还藏有一些彩蛋,比如《毁灭战士》游戏,不过必须解答谜题才能找到它。

致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑项目地址:https://github.com/trholding/llama2.c

Andrej Karpathy 也转发了这个新项目,表示它具备了「独立运行、二进制、便携和可启动」等特性。他预计自己的 llama2.c 项目将走向成功,这个新项目扩展了想象力。

致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑

L2E 得到了各路网友的认可,有人表示,这真是太棒了。基本上可以在任何旧笔记本上启动,并且可以仅在 CPU 上运行,8G 内存就够了,16G 更好。

致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑

也有人觉得该项目非常像为上帝开发的操作系统 TempleOS(它由已故天才程序员 Terry D*is 独自开发),但项目作者表示自己只是对 Terry 和 TempleOS 的致敬。

L2E 仅仅使用 Linux 内核和一些知识构建了一个操作系统,与 Terry 从头开始构建的操作系统存在天壤之别。

致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑

接下来了解一下 L2E 项目的初衷、Demo 和特性。

L2E 项目介绍

项目作者表示,L2E 旨在确保其在各种设备上的兼容性,比如在 chromebook 上启动、在企业高密度 unikernel 上部署。

未来,通过利用大量具备适度硬件要求的网络化、分布式和自协调的小规模专业 LLM,该项目有潜力释放超越单个大规模 LLM 的群体智慧。

目前,L2E 显著的用例是在不同文本源上训练小规模模型,包括教科书、开放书籍和 SlimPajama 语料库等。这些经过训练的模型使用 L2E 进行部署,从而作为可启动实例在老旧过时的学校计算机上运行。这种部署方案可在互联网连接有限或网络不可用的学校图书馆或教室中发挥重要价值。

项目的最终目标是创建一个包容性的 AI 生态系统,能够适应多样化的环境,并在全球范围内为个人和社区赋能。

此外通过使用各种硬件遥测数据训练,希望模型能够学会解释传感器输入并根据从传感器输入中收集的 insight 来控制执行器。这一研究方向可能会在自动化、太空、机器人和物联网等领域发挥作用,而 L2E 将对弥合 AI 和物理系统之间的差距发挥关键作用。

L2E Demo 展示

项目作者展示了启动 Llama 2 的一些示例。

如下为 Linux 内核的 L2E 操作系统,现在可以在计算机上真正启动并推理 Llama 2 模型了。

致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑

Narration Box Narration Box

Narration Box是一种语音生成服务,用户可以创建画外音、旁白、有声读物、音频页面、播客等

Narration Box 68 查看详情 Narration Box

致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑

此外可以做 cat /dev/llama 并回显 "Sudo make me a sandwich!" > /dev/llama 等命令,或者传递一个内核参数 l2e.quest="What is the meaning of life?"。

致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑

最后还可以在大型企业服务器上启动并推理一组 1000 个 Virtural Baby Llama 2 模型。

致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑

L2E 具备很强的便携性,可以在任何 x86_64 操作系统上运行单个可执行文件,比如 Windows、GNU Linux、GNU/Systemd、NetBSD、OpenBSD 等。独立性则表现在可以通过 ZipOS (cosmocc)、INCBIN、strliteral 嵌入模型和 tokenizer。L2E 可以在 CPU/GPU 上运行。

致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑

更多细节内容请参阅原项目。

以上就是致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑的详细内容,更多请关注其它相关文章!


# 卖得  # 网站优化兼职  # 音乐课教案网站建设  # 淄博seo优化服务  # 营销编辑如何推广文案  # 黄山网站排名优化哪里好  # 中大型网站怎么优化  # 网站建设推广葳欣hfqjwl  # 网站推广不可少seo优化是关键  # 优化与推广网站  # 实体店用什么网站推广  # 这一  # 自己的  # 产业  # 中国  # 机上  # 丰田  # 本田  # 该项目  # 操作系统  # 就能  # llama  # andrej karpathy  # llama2.c  # llama 2 everywhere  # llama 2 


相关栏目: 【 行业新闻62819 】 【 科技资讯67470


相关推荐: “苏南 vs 苏北” AI 分胜负,娱乐性比较工具 EitherChoice 上线  OpenAI限制网络爬虫访问以保护数据免被用于AI模型训练  腾讯企点客服接待与营销分析能力升级!企业操作更高效、人机交互更智能  美图公司影像节或发布AI设计新品  软银、淡马锡、沙特阿美突击入股,“协作机器人第一股”节卡股份:强敌环伺,持续失血是常态  朝鲜出现国产大型察打一体无人机,实力世界第二,太意外了  好莱坞面临全面停摆 好莱坞大罢工抵制“AI入侵”  讯飞听见会写“会议摘要”功能全面升级,AI更懂你的关注点  时间、空间可控的视频生成走进现实,阿里大模型新作VideoComposer火了  城市在采用人工智能方面进展如何?  优化系统韧性:故障恢复与监控在RabbitMQ中的应用  探索人工智能在居家养老方面的应用  朱民:普通人炒股炒不过机器人是很正常的 AI已经能理解市场情绪  测试框架-安全和自动驾驶  商业智能决策技术助力降本增效,世界人工智能大会举办商业AI高峰论坛  马斯克反讽人工智能AI炒作:“机器学习”本质就是统计  微盟宣布联合腾讯云共建行业大模型:加快激活AI大模型智能应用  以分布式网络串联闲置GPU,这家创企称可将AI模型训练成本降低90%  日新月异,脑机接口技术都有哪些新应用?  中科院自研新一代 AI 大模型“紫东太初 2.0”问世  Meta开源文本生成音乐大模型,我们用《七里香》歌词试了下  曝光HarmonyOS 4的重要新能力:全面升级AI大模型,小艺实现全面进化  VR健身应用《FitXR》将取消Quest 1端会员服务  360发布认知型通用大模型“360智脑4.0” 全面接入360全家桶  人工智能在交通领域的革新:智能解决方案彻底改变交通方式  DreamAvatar数字人在哪里下载  亚马逊CEO:人工智能将成为公司未来战略的重中之重  意大利警察拟用AI预测犯罪 该算法被指种族歧视严重  郭帆导演成功利用AI技术制作的《流浪地球3》预告片在央视热播,引发巨大反响  大厂出品!这个AI网站太顶了,所有功能免费用  微幼科技推出全自动晨检机器人,助力幼儿园校园健康检测  世界上第一个完全由人工智能驱动的图像编辑器!  QQ音乐业内率先推出「AI一起听」功能,领取你的AI听歌助手  鸿蒙智能座舱的AI大模型革新,引领智能座舱领域的变革吗?  特斯拉人形机器人将于 7 月亮相上海 2025 世界人工智能大会  热点 | 人工智能黄金时代开启  苹果CEO库克:持续研究生成式人工智能技术  常见的五个人工智能误解  AI 程序 Text With Jesus 在海外迅速受到关注:与耶稣和撒旦进行对话  走进首家“元宇宙”未来工厂,卡奥斯探知工业之旅出发!  一公司推出喷火机器狗,可喷出 9 米长火焰  V社回应拒绝上架含 AI 生成内容的游戏:审核政策正在调整中  全新升级的广州麦当劳:面积最大餐厅正式引入智慧机器人  机器人加速!稀土永磁也被带火,持续性如何?  西班牙小鲜肉*视频在网上疯传,本人发文澄清:是AI换脸的假视频!  业内领先 四川大学华西第四医院甲状腺乳腺外科成功进入手术机器人时代  李开复:未来几年,人工智能会革了所有人的命,除非你这么做  ChatGPT 可以设计机器人吗?  2025WRC世界机器人大赛锦标赛(烟台)收官!斯坦星球勇夺VEX赛项冠亚军!  海柔创新携手SAP,以机器人技术助力全球客户升级数智化竞争力 

400 128 6709
E-mail

contact@tlftec.cn

扫一扫,添加微信

©  云南淘乐房科技有限公司 版权所有  滇ICP备2025071560号  

云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司