前Meta FAIR团队研究总监田渊栋:龙虾存在一些安全性隐患,还有很多漏洞

专题:对话奥马哈·第十一届中美投资人酒会

前Meta FAIR团队研究总监田渊栋:龙虾存在一些安全性隐患,还有很多漏洞-第1张图片

  由新浪财经主办的“对话奥马哈·第十一届中美投资人酒会”于当地时间5月2日在美国内布拉斯加·奥马哈市举办。 

  前Meta FAIR团队研究总监田渊栋在演讲中对DeepSeek V4给予高度评价:“DeepSeek V4现在我也是用过了,我今天看过他们的文章 ,基本上开始用DeepSeek来做一些事情,我觉得V4跟V3差很远,有很大的突破 ,有很多有意思的结果。 ”

  他进一步介绍,DeepSeek V4已能满足部分实际需求:“你用V4,再加上一些现在开源的工具 ,应该可以做一些简单的任务了,基本上很多简单的代码任务V4是可以完成的,而且完成得还不错 。”

  田渊栋指出:“其实很多基础的代码任务并不需要一个非常强的模型 ,这个模型足够好,可以解决我想要的问题,其实就已经很不错了 ,就像平时在学习的时候并不需要一个爱因斯坦来教你 ,你需要一个比较厉害的老师能够把任务完成其实也就可以了,所以我觉得V4一定程度上达到这个目标。”

  谈及DeepSeek V4对行业的影响,田渊栋表示:“V4是免费的 ,首先它的API很便宜,远远便宜于现在的OpenAI和Anthropic的价格。 ”他认为,这将推动技术平权:“如果V4很厉害的话 ,或者说开源模型能很快追上这种任务,其实可以用现在的一些开源模型来代替闭源解决方案,这样的话大家可能会更倾向于用开源和私有的模型去做他们想做的事情 ,技术就会非常快地平权化 。大家只需要一个够用的,而不是需要最强的模型来做这个事情,整个生态应该会有一些比较有意思的变化。”

  关于大模型的护城河 ,田渊栋给出了明确答案:“在这种情况下,算力、数据、人才,应该说最重要的还是数据 ,特别是特殊领域的数据 ,其实是比较困难获取。”他进一步补充:“我以前也讲过,对AI来说最重要的是数据,然后是Infra ,然后是算力和人才,这个路线还是在那儿 。在数据之前还有一个地方,就是制造这些数据的人更重要 ,因为这个人往往是专家,他们在某个垂直领域有自己独到的见解,这个见解很难被模仿 ,这些人制造出来的数据非常重要,有这些数据才能获得更好的结果。它的护城河在这儿。 ”同时他也强调,“当然其它的护城河也很重要 ,不然大模型是搞不起来的 。”

  针对“AI现在的记忆方式是否发生了本质的变化”这一问题,田渊栋提出了独特观点:“它既不是背书,也不是建立知识图谱 ,应该说背书和知识图谱都是一些比较过时的描述。 ”他解释道 ,“为什么背书的方式(数据库的方式)和知识图谱的方式,这两个都没有完全解决AI的问题,都没有像现在大模型那样深刻地去改变人类的进程 ,这是因为大模型在一定程度上来说学到了数据的一些高级的概念,这是非常重要的。”

  田渊栋进一步阐释:“大模型现在的能力应该说是超越了背书和知识图谱,它内部获得了一些比较深刻的表征 ,这个表征可以用来解决一些比较难的问题,这是我现在对它的一个认知,这是一个非常重要的步骤 。”他对未来充满期待:“接下来人类应该会对这个表征的理解会更深入 ,最终能发现媲美甚至超过人对事物认知的程度,现在我们还在处于一个比较初级的阶段 。我们现在只是刚刚开始,也许以后会有更多的让人不可思议的发现。总有一天模型的能力应该会达到或超过人类 ,这个时候整个故事就完全不一样。 ”

  对于“AI记忆的下一个瓶颈在哪里?如何放心让AI处理精密商业任务 ”的疑问,田渊栋直言这是当前AI发展的一大瓶颈 。他给出了现阶段的解决方案:“目前能做的方式就是说让它先生成一些初稿,然后让人最后把关 ,人是最终的决策者和执行者 ,AI给他的东西是初步的,能减轻大量人类的重复劳动的负担,但是人类最终还是保留承担责任的角色 ,所以这种情况下应该说是一个比较好的 、不改变现在的运行规律的一个方案,这个方案应该会维持很久。”

  他补充道,这种人机协作模式与现有行业模式相融:“首先 ,很多人愿意在工作岗位上继续工作,同时AI能够提高他们的效率。”对于未来的突破方向,他表示:“如果真的AI有一天能够解决这些问题 ,或者说我们有一些别的方法,比如说用一些基于数学证明的方法,或者说是一些保证它一定正确的方案的话 ,这整个过程可能会不一样 。比如说我出一个文件,这个文件能保证这个东西一定是对的,它有一些数学层面可以保证这个事情 ,整个流程可能会不同 ,这样的话可能之前的一些环节会完全被取代。 ”

  谈及今年热门的“龙虾热”及AI agent处理复杂任务的话题,田渊栋分享了自己的尝试体验:“我是尝试过了,当然了 ,我没有尝试多久,因为我觉得龙虾有一些安全性的隐患,有一些地方你是非常需要把各种各样的钥匙API都给交给他 ,让他去做想做的事情。”他用形象的比喻说明安全隐患:“这个安全性如果没做好的话,就相当于你有一个孩子,这个孩子掌握你所有的秘密 ,你让这个孩子上街去做一些任务,打酱油,但是这个孩子很容易被外面的一些坏叔叔给骗过去 ,坏叔叔给他一颗糖,让他把家里的秘密都交出来 。 ”

  田渊栋进一步分析:“现在就是龙虾也好,或者说其他agent也好 ,它其实处于这个状态 ,因为AI的能力现在还没有达到人的水平,还有很多的漏洞,那么这个漏洞一旦被人利用就会造成比较灾难性的影响 ,这是一个安全性的问题。”同时他也肯定了其便利性:“在便利性方向来说,应该说是完全跟以前是不一样的,我觉得现在有很多工作是可以自主完成的 ,这个跟AI coding tools给你的感觉是一样的,很多任务以前需要人盯着,现在不太需要人盯着了 ,很多事情可以放心交给它完成,极大加速了工作的速度和流程,我想之后变革应该会更加深化 ,让工作的速度和效率跟以前完全不同,这个是可以期待的。”

  针对“不处理复杂流程,不需要人工干预的瓶颈在哪里 ” ,田渊栋分析了两大核心原因 。其一 ,主观决策难以替代:“有些地方还是需要人工干预的,主要还是因为需要人的决策和判断,有些时候决策和判断是非常主观的 ,就不存在一个标准答案,完全取决于个人的爱好。这种情况下,你要让AI每次都能踩中你的关键点 ,这个是很困难的,这个部分就需要人的介入,应该说很难攻克 ,它本身就不是一个定义良好的问题。”

  其二,AI工作质量有待提升:“还有一类的问题是AI自己的工作质量不好,它需要做一些反复的决策 ,或者说AI陷入一个无限循环,需要人去干预,这部分应该说是AI工作的质量问题 。”但他对未来充满信心:“我相信随着时间的变化会变得越来越强 ,因为这一年的发展还是一个很大的变化 ,一年前所有人的agent都是不太行的,但是明显从现在开始,这些agent behavior的效果是完全不一样了 ,很多时候可以让它长时间运行,不用太多烦恼去干预它 。所以,这一方面我相信再过半年应该会有很多工作出来 ,把它做得更好。 ”

  新浪声明:所有会议实录均为现场速记整理,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的 ,并不意味着赞同其观点或证实其描述。

标签:

相关推荐

  • 【12月白糖的走势图,白糖走势图二十年】

    【12月白糖的走势图,白糖走势图二十年】

    日内交易的特点解析日内交易具有时间敏感性高、受开盘价影响显著、关键时段走势特征鲜明、依赖技术指标与市场形态研判等特点,具体分析如下:开盘价是日内行情的起始点,受多因素影响且分品种呈现差异期货开盘价在8:55—9:00集合竞价时段确定,是多空双方综合考量后以最大成交量原则形成的。短期性:所有交易头寸必须在当日交易时段结束前平仓,不持有过夜仓位。高流动性依赖:...

  • 和田地区于田县疫情/和田地区于田县地图

    和田地区于田县疫情/和田地区于田县地图

    和田哪个地区好和田地区都很好,但以下地区尤为出色:策勒县策勒县位于和田地区东部,地理位置优越,自然环境优美。该县经济发展迅速,尤以农业和畜牧业为主,产出的农产品和畜产品深受市场欢迎。此外,策勒县还注重文化和旅游业的发展,拥有许多历史文化遗产和自然景观,吸引了大量游客前来观光旅游。新疆和田地区新疆和田地区被誉为和田玉最正宗、历史最悠久的产地。这里产的和...

  • 上海最新期货公司/上海最新期货公司有哪些

    上海最新期货公司/上海最新期货公司有哪些

    上海中期期货排名上海中期期货公司在2024年的期货公司分类评级排名中位列第93名,且被列为B类BBB级期货公司。排名情况:根据最新的数据,上海中期期货公司在众多期货公司中脱颖而出,但并未进入前五十名,而是位列第93名。这一排名反映了该公司在期货行业的竞争地位和实力。上海中期期货在2025年的行业排名大概在15-20名左右,属于中游偏上的水平。具体要看你是关...

  • 【怎么看地区疫情人数分布,怎么看各地疫情数据】

    【怎么看地区疫情人数分布,怎么看各地疫情数据】

    疫情数据怎么看打开功能大全:启动360安全卫士软件,在主界面找到并点击“功能大全”栏。进入数据安全选项:在“功能大全”页面中,浏览选项列表,找到并点击进入“数据安全”分类。添加追踪工具:在“数据安全”页面内,查找并添加“追踪工具”(部分版本可能直接显示为疫情数据相关工具名称)。在支付宝查看本地疫情数据,可通过以下3个简单步骤实现:步骤一:点击疫情服务打开支...

  • 【河南最严重的地区疫情,河南哪最严重】

    【河南最严重的地区疫情,河南哪最严重】

    河南哪五个地区疫情严重〖壹〗、河南省内近来疫情最严重的五个城市为:郑州市、许昌市、漯河市、平顶山市、鹤壁市。〖贰〗、郑州市、许昌市、漯河市。根据河南疫情信息查询,截止到2022年12月13日,河南疫情最严重的几个城市是郑州市、许昌市、漯河市。河南省,简称“豫”,中华人民共和国省级行政区。省会郑州。〖叁〗、河南疫情发生在南阳,信阳,驻马店,周口,商丘。根据相...

  • 疫情专项排查地区有哪些(疫情防控专项排查情况报告)

    疫情专项排查地区有哪些(疫情防控专项排查情况报告)

    国内疫情涉及多少省市当前疫情已扩散至内地31省市,需采取动态、灵活的防控策略以应对今冬明春可能出现的疫情高峰,避免前三年努力付诸东流。以下从疫情现状、防控原则、具体措施及社会协同四个方面展开分析:当前疫情形势的严峻性扩散范围广:疫情已覆盖内地31个省市,表明病毒传播链复杂且隐蔽性强,传统区域性防控手段效果受限。传播范围扩大:本轮疫情已波及超20个省份,7月...

  • 无疫情地区怎么查询(无疫情地区证明怎么开)

    无疫情地区怎么查询(无疫情地区证明怎么开)

    如何查询所属地区防控级别〖壹〗、通过“国务院客户端”小程序,可查询所在地风险等级和全国风险等级地区信息。国务院客户端是国务院发布政务信息和提供在线服务的新媒体平台,由国务院办公厅主办,可查询核酸检测机构、核酸检测证明、疫情风险查询、防疫行程卡等几十项便民服务。〖贰〗、①打开全国疫情风险等级查询系统。②选取要查询的相应区域。③查看区域的风险级别。注意这个平台...

  • 【汤阴疫情低风险地区查询,汤阴属于什么风险】

    【汤阴疫情低风险地区查询,汤阴属于什么风险】

    河南疫情中高风险地区名单(河南疫情高中低风险地区名单)〖壹〗、截至近来,国内共有2个高风险地区,76个中风险地区,主要分布在陕西省、河南省、浙江省等地,以下为详细信息(数据不包括港澳台地区):高风险地区:具体地区名单会随疫情形势动态调整,可通过权威渠道实时查询。高风险地区通常意味着当地疫情较为严重,传播风险高,会采取更为严格的防控措施,如封控管理、全员核酸...

  • 广东惠州肺炎疫情地区(广东惠州肺炎疫情最新数据)

    广东惠州肺炎疫情地区(广东惠州肺炎疫情最新数据)

    广东惠州市大亚湾区发现1例确诊病例,近来当地疫情情况如何?广东惠州市大亚湾区发现1例确诊病例。9月6日,惠州市大亚湾区在黄码人员主动核酸检测中发现1例新冠病毒无症状感染者,为本起疫情发现的第7例阳性个案。通过查询相关资料显示,惠州疫情在大亚湾区,根据惠州防疫疾控中心发布的感染者行径路线了解到,2022年9月4日0—12时,广东惠州市大亚湾区在主动就诊人员中...

  • 太原哪个地区没疫情(太原有没有无症状感染者)

    太原哪个地区没疫情(太原有没有无症状感染者)

    刚刚发布!11月29日5时起,太原市小店区有序解除临时静默管理月29日5时起,太原市小店区有序解除临时静默管理,实施更加高效精准的管控措施,确保疫情不反弹。具体措施如下:严格出入区域管理对解除静默管控区域与未解除区域的边界加强管理,非必要不跨区流动,跨区流动需持有效证明或通行证。城区内除高风险区外的其他区域落实“个人防护,避免聚集”措施,减少人员聚集风...

返回顶部