自动驾驶GPT
大家好!今天让创意岭的小编来大家介绍下关于自动驾驶GPT的问题,以下是小编对此问题的归纳整理,让我们一起来看看吧。
开始之前先推荐一个非常厉害的Ai人工智能工具,一键生成原创文章、方案、文案、工作计划、工作报告、论文、代码、作文、做题和对话答疑等等
只需要输入关键词,就能返回你想要的内容,有小程序、在线网页版、PC客户端和批量生成器
本文目录:
毫末DriveGPT雪湖·海若,让自动驾驶更早到来
ChatGPT的火爆,让AI大模型成为各大科技巨头争相布局的重点。
无论是国外的微软、谷歌、Meta,还是国内的百度、华为、阿里、商汤等企业,都已经涉足AI大模型的研究与探索。
如同2016年AlphaGo的横空出世一般,AI大模型的爆发也是引发AI变革的划时代里程碑。阿里巴巴集团董事会主席兼CEO张勇甚至认为,所有行业、所有应用、所有软件、所有服务都值得基于新型人工智能技术以及大模型支撑重做一遍。
英伟达CEO黄仁勋也曾表达过同样的观点,他认为AI产业迎来“iPhone”时刻,AI技术爆炸、产业爆发的趋势已经势不可挡,甚至将撬动涵盖交通医疗、运输、零售及物流在内的百万亿美金的市场。
正如毫末智行董事长张凯在4月11日举办的第八届HAOMO AI DAY的演讲中所形容的,“距离上一届HAOMO AI DAY刚刚过去三个月,却仿佛跨入了一个新周期”,一系列AI大模型的陆续发布,让更多人相信人工智能技术迎来从量变到质变的重大节点。
在第八届HAOMO AI DAY上,毫末智行也发布了业内首个自动驾驶生成式大模型DriveGPT,中文名“雪湖·海若”。
△毫末智行董事长张凯、CEO顾维灏、COO侯军、CIO甄龙豹在HAOMO AI DAY现场
对于大模型,毫末并不陌生。此次发布自动驾驶生成式大模型DriveGPT雪湖·海若,既不是毫末的跟风之举,也不是为了蹭GPT的热点。
早在两年前,毫末就已经开始关注并投入到AI大模型技术的研发之中。在AI自动驾驶领域,毫末可以说是大模型研发和应用的先行者。
毫末为什么要研发DriveGPT雪湖·海若?
毫末智行CEO顾维灏说,他在这段时间经常会被问到这个问题。在毫末看来,DriveGPT雪湖·海若将会重塑汽车智能化技术路线,让辅助驾驶进化更快,让自动驾驶更早到来。
张凯判断,2023年智驾产品将进入全线爆发期,“生成式大模型将成为自动驾驶系统进化的关键”。
接下来,基于 Transformer 大模型训练的感知、认知算法会逐步在车端进行落地部署,而随着大模型开启在车端的落地应用,车主的使用频率和满意度成为产品竞争力的重要衡量标准。张凯表示,“毫末不断进步的数据驱动的六大闭环能力,将进一步加速毫末进入自动驾驶3.0时代的步伐,并形成相应的护城河”。
01
业内首个自动驾驶生成式大模型
最近一段时间,关于自动驾驶的未来,行业内出现了截然不同的观点。
乐观派认为到2030年之前L3级自动驾驶将会批量落地;悲观派断定,“十年内L3自动驾驶技术都不会到来”;唱衰派则称自动驾驶“都是扯淡...都是忽悠,就是一场皇帝的新装……最终就是一个高级辅助驾驶而已”。
无论哪一派观点,一个不容忽视的现实是,自动驾驶技术的变革才刚刚开始。特别是AI大模型引发的产业应用和变革,更是为自动驾驶技术发展注入全新的动力。
同济大学教授、汽车安全技术研究所所长朱西产也在第八届HAOMO AI DAY上分享了自己的观点:自动驾驶不能长期停留在L2+,还是要去做到L3、L4,最终走向终局的无人驾驶。
毫末也一直相信,AI大模型已成为自动驾驶技术进化的核心动力之一。在今年1月的第七届HAOMO AI DAY上,顾维灏就分享了其智算中心,以及从感知到认知以及仿真的五大大模型,包括视觉自监督大模型、3D重建大模型、多模态互监督大模型、动态环境大模型、人驾自监督认知大模型。
毫末这五大大模型,与如今爆火的AI大模型有很多共同之处。
据顾维灏介绍,DriveGPT雪湖·海若通过引入驾驶数据建立RLHF(人类反馈强化学习)技术,对自动驾驶认知决策模型进行持续优化。
现阶段,DriveGPT雪湖·海若主要用于解决自动驾驶的认知决策问题,后续持续会将毫末多个大模型的能力整合到DriveGPT,但最终目标是实现端到端自动驾驶。
目前,毫末DriveGPT雪湖·海若实现了模型架构与参数规模的升级,参数规模达到1200亿,预训练阶段引入4000万公里量产车驾驶数据,RLHF阶段引入 5万段人工精选的困难场景接管Clips。
DriveGPT雪湖·海若的底层模型采用GPT(Generative Pre-trained Transformer)生成式预训练大模型,不过与ChatGPT使用自然语言进行输入与输出不同,DriveGPT输入是感知融合后的文本序列,输出是自动驾驶场景文本序列,即将自动驾驶场景Token化,形成“Drive Language”,最终完成自车的决策规控、障碍物预测以及决策逻辑链的输出等任务。
在实现过程上,DriveGPT雪湖·海若首先在预训练阶段通过引入量产驾驶数据,训练初始模型,再通过引入驾驶接管Clips数据完成反馈模型(Reward Model)的训练,然后再通过强化学习的方式,使用反馈模型去不断优化迭代初始模型,形成对自动驾驶认知决策模型的持续优化。
同时,DriveGPT雪湖·海若还会根据输入端的提示语以及毫末CSS自动驾驶场景库的决策样本去训练模型,让模型学习推理关系,从而将完整驾驶策略拆分为自动驾驶场景的动态识别过程,完成可理解、可解释的推理逻辑链生成。
随着技术不断优化,DriveGPT雪湖·海若将逐步应用到城市NOH、捷径推荐、智能陪练以及脱困场景中。
从用户可感知的角度来看,有了DriveGPT雪湖·海若的加持,车辆行驶会更安全;动作更人性、更丝滑,并有合理的逻辑告诉驾驶者,车辆为何选择这样的决策动作。也就是说车辆的智能驾驶系统会越来越像老司机,从而加强用户对智能产品的信任感。
顾维灏透露,DriveGPT雪湖·海若的首发车型是新摩卡DHT-PHEV,即将量产上市。
值得一提的是,毫末DriveGPT雪湖·海若已正式对外开放,开启对限量首批客户的合作,除了魏牌新能源,北京交通大学计算机与信息技术学院、高通、火山引擎、华为云、京东科技、四维图新、英特尔等已经加入。
毫末DriveGPT雪湖·海若将携手生态伙伴率先探索四大应用能力,包括智能驾驶、驾驶场景识别、驾驶行为验证、困难场景脱困。
这将有效促进自动驾驶从业者和研究机构快速构建基础能力。
02
数据驱动技术升级
毫末一直坚信数据是人工智能最大的驱动力,并一直以数据驱动的方式来推动自动驾驶产品的升级。
截止到2023月4月,毫末辅助驾驶用户行驶里程已经突破4000万公里,小魔驼的配送量也超过了16万单,MANA的学习时长超过56万小时,虚拟驾龄相当于人类司机6.8万年。
顾维灏表示,这些数据每时每刻都在增长变化,2023年将迎来指数级增长。
在对数据的大量应用过程中,毫末已经逐步建立起一套基于4D Clips驾驶场景识别方案,并将逐步向行业开放使用。
毫末这套场景识别方案具备极高性价比。比如,给出正确的场景识别标注结果,行业内普遍的价格是一张图片约5元;而使用DriveGPT雪湖·海若的场景识别服务,一张图片的价格将下降到0.5元。
此前有业内人士提到,自动驾驶一年要做大概1000万帧图像人工标定,如果单帧图片整体标注成本降低到行业的1/10,这将极大地降低自动驾驶使用数据的成本,并且提高数据质量和效率,从而加速自动驾驶技术的快速发展。
毫末打造的中国首个自动驾驶数据智能体系MANA,在经过一年多的应用迭代后,本次AI DAY也迎来了全面的升级,并正式对外开放赋能。
顾维灏介绍,MANA计算基础服务针对大模型训练在参数规模、稳定性和效率方面做了专项优化,并集成到OASIS中;其次,MANA感知和认知相关大模型能力统一整合到DriveGPT雪湖·海若中;第三,增加了使用NeRF技术的数据合成服务,降低Corner Case数据的获取成本。
与此同时,针对多种芯片和多种车型的快速交付难题,MANA优化了异构部署工具和车型适配工具。
此外,MANA的视觉感知能力持续提升,一方面可同时学习三维空间结构和图片纹理,并将纯视觉测距精度超过了超声波雷达,BEV方案也拥有了更强的通用性和适配性;另一方面可实现单趟和多趟纯视觉NeRF三维重建,道路场景更逼真,肉眼几乎看不出差异。
通过NeRF进行场景重建后,可以编辑合成真实环境难以收集到的Corner Case。在原有的全局视角修改、添加光照/天气效果的基础上,新增合成虚拟动态物体的能力,可以在原有设定的运动轨迹上,合成各种Hard Case,模拟城市复杂交通环境,用更低成本测试提升城市NOH能力边界,更好提升应对城市复杂交通环境。
值得一提的是,面对目前行业里最难的视觉任务之一——单目视觉测量,继特斯拉后,毫末也在中国率先开始验证能否使用鱼眼相机代替超声波雷达进行测距,以满足泊车要求。
毫末把视觉BEV感知框架引入到了车端鱼眼相机,做到了在15米范围内达到30cm的测量精度,2米内精度高于10cm的视觉精度效果。泊车场景使用纯视觉测距来取代超声波雷达,将进一步降低整体智驾成本。
03
四大战役全面突围,拿下三大主机厂定点
作为中国唯一聚焦自动驾驶 AI 技术的盛宴,每届HAOMO AI DAY,毫末都会分享最前沿的自动驾驶行业趋势,发布最新的技术和产品进展。
这一次也不例外。
张凯以《HAOMO SPEED,AI SPEED》为题,分享了对于2023年自动驾驶发展宏观趋势的判断,以及毫末四大战役及商业化发展的最新进展。
张凯认为,智驾产品正在进入快速增长的全线爆发期,2023年将是智能驾驶冲刺之年、大考之年。
首先,城市导航辅助驾驶产品在2023年将围绕量产上车发力,主要玩家的城市导航辅助驾驶产品进入到真实用户覆盖和多城市落地的比拼。
其次,行泊一体和末端物流自动配送产业商业化将成为自动驾驶公司深耕的重点。
在乘用车领域,搭载行泊一体功能的智驾产品将迎来前装量产潮;在末端物流自动配送领域,末端物流自动配送车在商超、快递等场景迎来爆发,2023年将在这些场景实现可持续商业化闭环。
在第七届HAOMO AI DAY上,毫末提出要打响“2023 年四大战役”。如今这四大战役在短短三个多月时间内已经取得了快速进展。
首先,在“智能驾驶装机量王者之战”上,据张凯介绍,首款搭载HPilot3.0的新摩卡DHT-PHEV即将重磅上市,第二款搭载毫末HPilot3.0的车型魏牌蓝山也将在今年发布。
截至目前,毫末HPilot整体已搭载近20款车型。用户辅助驾驶行驶里程突破4000万公里,HPilot2.0辅助驾驶日均行驶里程使用率达到了12.6%,而且这一比例也在随着用户认可度的提高不断增加。
在海外布局方面,搭载毫末HPilot的车辆已运往欧盟、以色列等地区和国家,陆续交付到用户手中,接下来将在中东、南非、澳大利亚等市场陆续投放;同时,毫末HPilot即将量产墨西哥版本及俄罗斯版本。
今年3月,高工智能汽车研究院基于前装量产数据库及定点车型库数据进行的年度综合评估中,毫末凭借前装近20款车辆的优异表现,获颁年度高阶智能驾驶系统量产份额领军奖。第三方数据佐证毫末是中国量产自动驾驶绝对领军者,毫末持续引领中国自动驾驶第一名。
其次是“MANA大模型巅峰之战”,中国首个自动驾驶数据智能体系MANA架构已迎来全线升级。到2023年4月,MANA学习时长超56万小时,相当于人类司机6.8万年。毫末DriveGPT雪湖·海若,已经完成基于4000万公里驾驶数据的训练,参数规模达1200亿。
第三是“城市NOH百城大战”,中国首款可大规模量产落地、重感知城市NOH,已在北京、保定、<a class="baikekeyl" href="https://car.yiche.com/shanghai-
【本文来自易车号作者出行范儿,版权归作者所有,任何形式转载请联系作者。内容仅代表作者观点,与易车无关】
什么是gpt(人工智能)?
AI(人工智能)是一种计算机科学,旨在构建智能体,能够模拟人类的智能行为。而GPT(Generative Pre-trained Transformer)是一种深度学习模型,是自然语言处理(NLP)领域中的一种模型。以下是它们之间的区别:1. 范畴不同:AI是一个通用的概念,表示所有智能机器和系统的总称,包括自动驾驶汽车、机器人、语音助手、图像识别、智能家居等。而GPT是一种专业的自然语言处理模型,主要应用于机器翻译、摘要生成、自动问答等领域。
2. 技术不同:AI的技术是包括但不限于深度学习、神经网络、机器学习等。而GPT作为一种自然语言处理模型,主要采用自监督预训练、多层堆叠的Transformer结构等技术。
3. 应用领域不同:AI被应用于很多领域,包括医疗、金融、农业、交通等。GPT主要应用于自然语言处理领域,如机器翻译、摘要生成、自动问答等。
总之,AI是人工智能的总称,而GPT是自然语言处理的一种特定的应用模型,它们之间的联系是GPT是AI在自然语言处理领域的一种具体应用。
DriveGPT雪湖·海若诞生,将重塑汽车智能化技术路线
和 ChatGPT 在 AIGC(AI- Generated Content,人工智能生成内容)领域一样具备颠覆性的事情正在发生。
4 月 11 日,自动驾驶技术公司毫末智行在其第八届 HAOMO AI DAY 上,重磅发布行业首个自动驾驶生成式大模型 DriveGPT,中文名「雪湖·海若」,该模型参数规模达到 1200 亿,可用于解决自动驾驶研发过程中困扰已久的认知决策问题,并通过能力迭代,最终实现端到端自动驾驶。
此前,受制于传统模型「数据量小、基于规则」等局限性,智能驾驶技术进展一度较为缓慢,甚至不少从业者都对未来产生了自我怀疑,在这样的背景下,两年前,毫末率先投入到大模型技术的研发之中,旨在寻找新的突破。
经历了先行探索和反复验证,毫末成功找到了突破口——生成式大模型,通过在行业首个将 GPT 落地到自动驾驶领域,大大加速了更高阶智能驾驶的落地应用。
「生成式大模型将成为自动驾驶系统进化的关键,基于 Transformer 大模型训练的感知、认知算法会逐步在车端进行落地部署。」毫末董事长张凯在 HAOMO AI DAY 上对行业未来发展趋势作出论断。
毫末 CEO 顾维灏也表示:「DriveGPT 雪湖·海若将会重塑汽车智能化技术路线,让辅助驾驶进化更快,让自动驾驶更早到来。」
顾维灏在自动驾驶技术领域的眼光独到,布局非常领先。
事实上,毫末在 2021 年就已经开始了 Transformer 大模型技术的探索,并快速落地应用到 BEV 视觉感知算法当中,然后又以五大模型的方式来实现自动驾驶感知、认知算法的快速升级,现在这些大模型将统一到 DriveGPT 生成式大模型当中,目标将实现端到端自动驾驶。
毫末的探索始终走在行业技术探索的前列。
据了解,新摩卡 DHT-PHEV 即将首发搭载 DriveGPT 雪湖·海若量产上市,届时,用户市场还将迎来一轮新的震撼。
「毫末真正重塑了行业信心,」一位业内人士略微激动地说道,「这将是一场革命。」
01、DriveGPT 雪湖·海若,如何颠覆智能驾驶
在介绍 DriveGPT 雪湖·海若之前,先回顾一下 ChatGPT 的概念,其全称是 Chat Generative Pre-trained Transformer,字面意思是用于聊天的生成式预训练 Transformer 大模型。
其中 Transformer 是 ChatGPT 的重点,最早由谷歌在 2017 年提出,该模型基于注意力机制的设计,可以实现出色的算法并行性,因而迅速在自然语言处理(NLP) 领域流行起来,ChatGPT 就是其最新成果。
Transformer 大模型对于智能驾驶来说也不陌生,在 NLP 中奠定了核心地位之后,被逐渐被引入计算机视觉(CV)领域,后又被特斯拉、毫末智行等行业龙头先行引入自动驾驶系统中,用于提升感知端的模型效果。
如今,毫末在 Transformer 大模型的应用上更进一步,将其率先拓展到智能驾驶系统认知端,DriveGPT 雪湖·海若由此诞生。
从同样使用 Transformer 大模型的角度来说,ChatGPT 和 DriveGPT 雪湖·海若属于同宗同源。
其中,ChatGPT 是对话式的生成式自然语言模型,输入是自然语言的文本串,输出是自然语言的文本,可以完成通用的下游语言生成任务,比如多轮对话、代码生成、翻译、数学 运算等能力。
而毫末 DriveGPT 雪湖·海若是用于自动驾驶场景的生成式大模型,输入是感知融合后的文本序列,输出是自动驾驶场景文本序列,即将自动驾驶场景 Token 化,形成「Drive Language」,最终完成自车的决策规控、障碍物预测以及决策逻辑链的输出等任务。
DriveGPT 雪湖·海若首先在预训练阶段通过引入量产驾驶数据,训练初始模型,再通过引入驾驶接管 Clips 数据完成反馈模型 (Reward Model) 的训练,然后再通过强化学习的方式,使用反馈模型去不断优化迭代初始模型,形成对自动驾驶认知决策模型的持续优化。
具体来说,DriveGPT 雪湖·海若会通过人类反馈强化学习的方式进行迭代,用 DriveGPT 雪湖·海若最新模型 (Active Model) 对真实场景 Case 做生成,产出多种场景序列结果,再用反馈模型给这些结果进行打分排序,目标是把好的结果排上来,差的结果排下去,然后与初始模型 (Pretrain-Model) 的生成概率做比较,放大比分。最后通过强化学习的方式将参数再次更新到最新模型 (Active Model) 中,一直反复这个迭代过程。
其中,Reward Model(反馈模型) 的训练过程是独立的,使用带有偏序关系的 Pair 样本对来训练,这些样本对来自于接管 Case,毫末将与人类驾驶结果相似的模型结果作为正样本,与被接管轨迹相似的作为负样本,这样来构建偏序对集合,再利用 LTR(Learning To Rank) 的思路去训练 Reward Model,进而得到一个打分模型。
此外,DriveGPT 雪湖·海若还可以输出决策逻辑链:即在输入端提供 Prompts(提示语),根据提示输出含有决策逻辑链 (Chain of Thought) 的未来序列。
毫末 CSS 自动驾驶场景库是 CoT 的重要输入,拥有超过几十万个细颗粒度场景,将 Prompt 提示语和完整决策过程的样本交给模型去学习,学到推理关系,从而将完整驾驶策略拆分为自动驾驶场景的动态识别过程,完成可理解、可解释的推理逻辑链生成。
除了用作认知决策,DriveGPT 雪湖·海若还可以逐步应用到城市 NOH、捷径推荐、智能陪练以及脱困场景中。
有了 DriveGPT 雪湖·海若的加持,车辆行驶会更安全;动作更人性、更丝滑,并有合理的逻辑告诉驾驶者,车辆为何选择这样的决策动作。
对于普通用户来说,车辆越来越像老司机,用户对智能产品的信任感会更强,理解到车辆的行为都是可预期、可理解的。
尽管 DriveGPT 雪湖·海若刚出世就拥有强大的功能,但这还不是它的「终局」,毫末对于 DriveGPT 雪湖·海若的目标是实现端到端自动驾驶,后续毫末会持续将多个大模型的能力整合到 DriveGPT 雪湖·海若中。
与此同时,毫末也对外构建 DriveGPT 雪湖·海若生态,通过对行业提供开放服务,促进自动驾驶的从业者和研究机构,快速构建基础能力,释放创新。
汽车之心获知,毫末 DriveGPT 雪湖·海若首批定向邀请了北京交通大学计算机与信息技术学院、高通、火山引擎、华为云、京东科技、四维图新、魏牌新能源、英特尔等加入。
事实上,毫末对于大模型的开放从 DriveGPT 雪湖·海若的中文名「雪湖·海若」即可窥见。
据了解,「海若」一词出自《庄子·秋水》中的神话人物北海若,在该书中,另一神话人物河伯请教北海若,何谓大小之分,北海若教导河伯说,不因天地而觉大,不因毫末而觉小。
毫末据此把 DriveGPT 中文名命名为「海若」,寓意着智慧包容、海纳百川,为行业发展贡献力量。
02、自动驾驶生成式大模型「第一枪」,为何由毫末打响
自动驾驶领域顶级玩家众多,毫末凭何在全球首个推出了自动驾驶生成式大模型 DriveGPT 雪湖·海若?
要回答这个问题,首先要理清楚毫末 DriveGPT 雪湖·海若的本质,它是应用在智能驾驶上的人工智能,就必然离不开人工智能三要素:算法、数据和算力,而这三者恰恰是毫末具备领先性优势的地方。
首先在算法的技术路线上,毫末早早就坚定选择走渐进式发展路线,比「跃进式」玩家的量产时间更早,更快形成规模化,从用户真实使用场景中积累足够多的数据。
毫末还清晰地提出了从自动驾驶 1.0 时代到自动驾驶 3.0 时代的演进路径,并率先进入以数据驱动为核心的新时代。
从这时开始,自动驾驶获取的数据量与数据多样性将呈现指数级膨胀,在深度学习主导中,与大模型相辅相成,真正去解决自动驾驶最后的长尾难题。
在 2021 年 12 月第四届 HAOMO AI DAY 上,毫末发布中国首个数据智能体系 MANA,其由四大板块组成,分别是 TARS、LUCAS、VENUS 和 BASE。
其中,BASE 是整个系统架构的底层,包括数据底座、数据融合、PoseidonOS 等。
其他三大板块置于上层:
- TARS 代表毫末智行的开发的原型算法,包括感知、规划决策、地图定位、仿真引擎;LUCAS 是提取数据价值,以数据驱动系统能力持续迭代的核心子系统,解决场景泛化,评测和部署的问题;VENUS 则是数据看板,以参考标准评价算法的好坏。
<span style
【本文来自易车号作者汽车之心,版权归作者所有,任何形式转载请联系作者。内容仅代表作者观点,与易车无关】
当GPT遇到自动驾驶,毫末首发DriveGPT
GPT之于自动驾驶意味着什么?
文丨智驾网 黄华丹
ChatGPT带火了AI,那么,当GPT遇到自动驾驶,又会发生怎样的化学反应?
GPT全称Generative Pre-trained Transformer,即生成式预训练Transformer。简单概括即是一种基于互联网可用数据训练的文本生成深度学习模型。
4月11日,在第八届毫末AI DAY上,毫末CEO顾维灏正式发布了基于GPT技术的DriveGPT,中文名雪湖·海若。
DriveGPT能做到什么?又是如何构建的?顾维灏在AI DAY上都做了详细解读。此外,AI DAY还展示了毫末自动驾驶数据体系MANA的升级情况,主要是其在视觉感知能力上的进展。
01.
什么是DriveGPT?能实现什么?
顾维灏首先讲解了GPT的原理,生成式预训练Transformer模型本质上是在求解下一个词出现的概率,每一次调用都是从概率分布中抽样并生成一个词,这样不断地循环,就能生成一连串的字符,用于各种下游任务。
以中文自然语言为例,单字或单词就是Token,中文的Token词表有5万个左右。把Token输入到模型,输出就是下一个字词的概率,这种概率分布体现的是语言中的知识和逻辑,大模型在输出下一个字词时就是根据语言知识和逻辑进行推理的结果,就像根据一部侦探小说的复杂线索来推理凶手是谁。
而作为适用于自动驾驶训练的大模型,DriveGPT雪湖·海若三个能力:
1.可以按概率生成很多个这样的场景序列,每个场景都是一个全局的场景,每个场景序列都是未来有可能发生的一种实际情况。
2.是在所有场景序列都产生的情况下,能把场景中最关注的自车行为轨迹给量化出来,也就是生成场景的同时,便会产生自车未来的轨迹信息。
3.有了这段轨迹之后,DriveGPT雪湖·海若还能在生成场景序列、轨迹的同时,输出整个决策逻辑链。
也就是说,利用DriveGPT雪湖·海若,在一个统一的生成式框架下,就能做到将规划、决策与推理等多个任务全部完成。
具体来看,DriveGPT雪湖·海若的设计是将场景Token化,毫末将其称为Drive Language。
Drive Language将驾驶空间进行离散化处理,每一个Token都表征场景的一小部分。目前毫末拥有50万个左右的Token词表空间。如果输入一连串过去已经发生的场景Token序列,模型就可以根据历史,生成未来所有可能的场景。
也就是说,DriveGPT雪湖·海若同样像是一部推理机器,告诉它过去发生了什么,它就能按概率推理出未来的多个可能。
一连串Token拼在一起就是一个完整的驾驶场景时间序列,包括了未来某个时刻整个交通环境的状态以及自车的状态。
有了Drive Language,就可以对DriveGPT进行训练了。
毫末对DriveGPT的训练过程首先是根据驾驶数据以及之前定义的驾驶尝试做一个大规模的预训练。
然后,通过在使用过程中接管或者不接管的场景,对预训练的结果进行打分和排序,训练反馈模型。也就是说利用正确的人类开法来替代错误的自动驾驶开法。
后续就是用强化学习的思路不断优化迭代模型。
在预训练模型上,毫末采用Decode-only结构的GPT模型,每一个Token用于描述某时刻的场景状态,包括障碍物的状态、自车状态、车道线情况等等。
目前,毫末的预训练模型拥有1200亿个参数,使用4000万量产车的驾驶数据,本身就能够对各种场景做生成式任务。
这些生成结果会按照人类偏好进行调优,在安全、高效、舒适等维度上做出取舍。同时,毫末会用部分经过筛选的人类接管数据,大概5万个Clips去做反馈模型的训练,不断优化预训练模型。
在输出决策逻辑链时,DriveGPT雪湖·海若利用了prompt提示语技术。输入端给到模型一个提示,告诉它“要去哪、慢一点还是快一点、并且让它一步步推理”,经过这种提示后,它就会朝着期望的方向去生成结果,并且每个结果都带有决策逻辑链。每个结果也会有未来出现的可能性。这样我们就可以选择未来出现可能性最大,最有逻辑的链条驾驶策略。
可以用一个形象的示例来解释DriveGPT雪湖·海若的推理能力。假设提示模型要“抵达某个目标点”,DriveGPT雪湖·海若会生成很多个可能的开法,有的激进,会连续变道超车,快速抵达目标点,有的稳重,跟车行驶到终点。这时如果提示语里没有其他额外指示,DriveGPT雪湖·海若就会按照反馈训练时的调优效果,最终给到一个更符合大部分人驾驶偏好的效果。
02.
实现DriveGPT毫末做了什么?
首先,DriveGPT雪湖·海若的训练和落地,离不开算力的支持。
今年1月,毫末就和火山引擎共同发布了其自建智算中心,毫末雪湖·绿洲MANA OASIS。OASIS的算力高达67亿亿次/秒,存储带宽2T/秒,通信带宽达到800G/秒。
当然,光有算力还不够,还需要训练和推理框架的支持。因此,毫末也做了以下三方面的升级。
一是训练稳定性的保障和升级。
大模型训练是一个十分艰巨的任务,随着数据规模、集群规模、训练时间的数量级增长,系统稳定性方面微小的问题也会被无限放大,如果不加处理,训练任务就会经常出错导致非正常中断,浪费前期投入的大量资源。
毫末在大模型训练框架的基础上,与火山引擎共同建立了全套训练保障框架,通过训练保障框架,毫末实现了异常任务分钟级捕获和恢复能力,可以保证千卡任务连续训练数月没有任何非正常中断,有效地保障了DriveGPT雪湖·海若大模型训练的稳定性。
二是弹性调度资源的升级。
毫末拥有量产车带来的海量真实数据,可自动化的利用回传数据不断的学习真实世界。由于每天不同时段回传的数据量差异巨大,需要训练平台具备弹性调度能力,自适应数据规模大小。
毫末将增量学习技术推广到大模型训练,构建了一个大模型持续学习系统,研发了任务级弹性伸缩调度器,分钟级调度资源,集群计算资源利用率达到95%。
三是吞吐效率的升级。
在训练效率上,毫末在Transformer的大矩阵计算上,通过对内外循环的数据拆分、尽量保持数据在SRAM中来提升计算的效率。在传统的训练框架中,算子流程很长,毫末通过引入火山引擎提供的Lego算之库实现算子融合,使端到端吞吐提升84%。
有了算力和这三方面的升级,毫末可对DriveGPT雪湖·海若进行更好的训练迭代升级。
03.
MANA大升级,摄像头代替超声波雷达
毫末在2021年12月的第四届AI DAY上发布自动驾驶数据智能体系MANA,经过一年多时间的应用迭代,现在MANA迎来了全面的升级。
据顾维灏介绍,本次升级主要包括:
1.感知和认知相关大模型能力统一整合到DriveGPT。
2.计算基础服务针对大模型训练在参数规模、稳定性和效率方面做了专项优化,并集成到OASIS当中。
3.增加了使用NeRF技术的数据合成服务,降低Corner Case数据的获取成本。
4.针对多种芯片和多种车型的快速交付难题,优化了异构部署工具和车型适配工具。
前文我们已经详细介绍了DriveGPT相关的内容,以下主要来看MANA在视觉感知上的进展。
顾维灏表示,视觉感知任务的核心目的都是恢复真实世界的动静态信息和纹理分布。因此毫末对视觉自监督大模型做了一次架构升级,将预测环境的三维结构,速度场和纹理分布融合到一个训练目标里面,使其能从容应对各种具体任务。目前毫末视觉自监督大模型的数据集超过400万Clips,感知性能提升20%。
在泊车场景下,毫末做到了用鱼眼相机纯视觉测距达到泊车要求,可做到在15米范围内达测量精度30cm,2米内精度高于10cm。用纯视觉代替超声波雷达,进一步降低整体方案的成本。
此外,在纯视觉三维重建方面,通过视觉自监督大模型技术,毫末不依赖激光雷达,就能将收集的大量量产回传视频转化为可用于BEV模型训练的带3D标注的真值数据。
通过对NeRF的升级,毫末表示可以做到重建误差小于10
【本文来自易车号作者智驾网,版权归作者所有,任何形式转载请联系作者。内容仅代表作者观点,与易车无关】
以上就是关于自动驾驶GPT相关问题的回答。希望能帮到你,如有更多相关问题,您也可以联系我们的客服进行咨询,客服也会为您讲解更多精彩的知识和内容。
推荐阅读: