开云体育网址为初次接触移动端体验的读者介绍相关背景,减少阅读中的困惑,开云体育APP提供独立游戏的内容解读,将基础概念拆成便于理解的知识点,从任务挑战的注意事项开始,让阅读与自己的体验相互印证,重视移动端体验内容的可读性,所以将选择思路逐项说明。

回顾今年9月,人工智能领域的一系列重大新闻接连涌现。

9月4日,OpenAI推出了GPT-6 Astra。这份发布报告完全没有提及机器人的通用模型,却突然空降机器人评测榜首,甚至导致一批机器人基准测试直接失效。有人半开玩笑地表示:机器人领域期盼多年的“GPT时刻”,竟然是由GPT自己实现的。

Meta Muse为每位用户配备了一台云端电脑,短短两周就冲上美区App Store榜首;而竞争对手Instinct在一个月内估值从25亿美元飙升至100亿美元。个人Agent领域掀起新一轮烧钱获客大战,但它们能打开的网页,正在一个个被关闭。

在AI for Science方面,Claude仅用21小时就发现了一种结构类似CRISPR的新酶系统ART,AI圈对此兴奋不已,因为AI开始进行科学发现了。然而,生物圈的反应相对平淡,大家希望在实验室中验证后再下结论。这种反差现象的原因是什么?

当模型进化到普通人难以感知其进步时,研究者的感受又是怎样的?本期《硅谷101》,我们邀请三位分别处于Agent、机器人和AI制药一线的研究者——Pokee.ai创始人兼CEO朱哲清,破壳机器人创始人、清华大学交叉信息研究院助理教授许华哲,华盛顿大学计算机学院助理教授王晟——一起探讨三个问题:个人Agent商业化卡在哪里?机器人如何被Astra这样的底层模型冲击?AI制药真正的瓶颈是什么?

以下是这次对话内容的精选:

前沿科学家视角:GPT-6 Astra进化了什么?

泓君: Astra发布后,你们有没有使用过这个产品?或者说,我们来看网上的demo,大家觉得最让你惊艳的一个demo是什么?

许华哲: 因为我是做机器人的,我们测试了很多Astra在机器人任务上的能力。我们看到的第一个点是,它的适应能力非常强。例如,给它某个机器人本体,让它去做相应的事情,它会很快发现这个机器人的运动速度较快,或者运动空间是怎样的。比如它撞到桌子了,它会说:“这个桌子蛮高的,那我是不是应该把手抬得更高一点?”这实际上是把CoT(思维链)这种反思过程的能力,转化为实际动作的能力,这是过去很多机器人模型和大模型都不具备的。

另一个是它自我更新、自我升级的能力。因为它有这样的反思,它可以一次一次做同样的事情,每一次做得更好。这个在网上大家也看到了:有人用Astra操作一个机器人机械臂去画金门大桥,它第一次画得比较差,但画完后会思考如何画得更好,经过几轮迭代,就能画得非常逼真。

我们测试了许多其他任务,比如插花,这是一个经典的机器人任务。我们给它加了一些额外难度:那朵花的茎被劈开两半,有点分叉。这时它会知道,因为分叉了,所以要捏住这个分叉,捏窄一点,再往里塞。这样的能力还是比较惊艳的。

泓君: 它其实已经理解了一些物理世界操作的规范。

许华哲: 我觉得本质上还是理解3D,因为它还是从三维尺寸层面就能做出一些理解。但确实,这样的理解已经能够帮助到非常多的非动态物理世界操作任务了。

泓君: 我看网上还有一些很有意思的demo是,他们在用Astra做生成3D的视频,非常快,渲染也很好。

许华哲: 这是另一个Astra在机器人方面很令人震惊的能力:给它几张图片,它可以很快把图片仿真生成出来。学术圈可能称之为Real-to-Sim。这件事过去需要拍大量视频照片,需要很多人手工标定修改。但现在,你给Astra这样一个指令,它很快就能把整个实验室或办公室的环境复现出来。拿着这样的仿真,可以去训练你的机器人,也会在仿真上有所提升。

朱哲清: 我们是做模型公司的,Astra在发布时非常强调在后训练、模型开发等方面的迭代能力。试下来以后,并没有那么惊艳,但它在长程任务和迭代上,确实比之前的几版模型有更稳定的提升。与原来的模型相比,它能够对上下文以及之前完成的任务有更稳定的认知,不会出现太多幻觉。所以从我们目前的体验来说,还是比较好的。

但可能有几个问题:速度相对较慢,也可能与当前用量很高有关。同时,在更加长程的任务上,比如让它跑一个晚上,幻觉还是会发生。所以它并没有从根本上解决,但总体来说提升了不少。

我有朋友同测了一些前端和设计的任务。从前端的审美和认知来看,我觉得有比较大的提升。可能是在训练时,对设计和审美方向有特殊的训练。

泓君: Bill,这一轮Astra的发布,你觉得从模型对行业的影响来看,它跟当年Opus 4.6、4.7的发布,从Coding能力的进化来比,它是一个大的节点吗?

朱哲清: 单纯从Coding来说,可能没有那么大的节点。从4.5到4.6,当时我们的体感是一个几乎范式式的转变:原来只能依赖它做短程Coding,几个文件的改动,做一些简单的小项目;到4.6那次模型后,基本上你会感受到工具调用几乎不会出错了,它去做一些长程的Coding任务,可以自主进行了。

而现在Astra只是说可以做到更长程的任务,幻觉可以降得更低,审美变得更好。但它没有做到说,我能够解决一个以前完全解决不了的问题。

王晟: 我觉得是一个大的节点。我们现在已经都从之前Claude等系列模型切换到GPT-6 Astra来做我们的biomedical内部任务了。我主要是做AI for Science,核心是AI for一些biomedical的应用。

我们用Astra有两个特别好用的地方,一个是Computer Use,一个是一些长程的任务。

Computer Use方面,我们会用Astra来操作一些生物医学领域很多年前编写的软件。这些软件在领域内默认要使用,但它们其实都非常难用,界面设计得不好,还有大量术语,所以对跨领域的人来说,使用成本非常高。

但是Astra的Computer Use功能,可以直接根据一些简单的prompt,就能操作得比较好。并且我还可以跟它学习怎么用这个软件,毕竟在生物医学领域,很多人对AI工具的接受度较低。Astra可能把这些软件对应的网上教程、别人之前用过的用户日志、反馈等,全部以文字形式学进去了,所以它真的理解怎么用这些软件。

另一方面是长程任务。我们生物医学这块,任务会比较复杂,有时会持续8至24小时,Astra会做得比较好。它比起其他模型,做得比较慢,但挺让我放心的,说明它可能会更深思熟虑一点。

我们现在一般切换着用:白天用一些反馈较快的模型,到了准备让模型跑一晚上的时候,就用Astra来设计一个比较长程的pipeline或prompt。这也是它比较值得信赖的一点,在AI for Science领域的一些表现。

泓君: 我没有想到Computer Use的这个功能居然在AI for Science领域能帮助到大家这么多。

王晟: Astra在这次发布时做了两个生物医学的demo。其中一个就是Computer Use demo,这个demo在我们圈子内出圈了,大家发现,原来可以直接用Astra来操作一个生物医学的tool。它当时操作的一个tool叫MultiQC,是一个挺常用的网页工具。我们开始用这个功能,发现它比想象的要好用很多。其实Computer Use这个功能我觉得之前的模型也具备,只是大家没有开始真的思考怎么把它融入科研中的pipeline里。

Computer Use回春:但商业化卡在了身份验证

泓君: Bill,你可不可以一句话解释一下,什么是Computer Use?

朱哲清: Computer Use是通过模型对视觉的理解,来决定这个agent下一步要在屏幕上点击哪个部分,或者输入哪些文字,来完成一系列的任务。当它可以串联几十个动作时,就可以完成一个最终人类想要达到的目的。

泓君: 所以它跟API的区别是,你不用给接口,不用给密码,它直接像人一样去操作和使用电脑。

朱哲清: 就是它看到的是人类看到的屏幕,看到人类看到的UI,看到人类看到的所有视觉和可交互界面。通过人类可以使用的电脑输入输出设备来完成这些任务。

Astra宣传片中展示的Computer Use场景 图片来源:OpenAI

泓君: 我觉得Computer Use之前好像也有,为什么Astra的发布,又重新把Computer Use带火了?

朱哲清: 感觉Computer Use现在比原来又火了一波。之前大家觉得所有的工具都会开API,所有的工具都会有agent access的接口,很多APP也好,系统也好,都在做agent native的set up。

但是最近,不管是Instinct也好,还是Meta Muse也好,背后其实都接了浏览器。有一个比较大的问题:有很多第三方APP,比如Amazon,或者一些shopping的APP、travel的APP,它们其实是不愿意开放API的。

我觉得这又回到了当年Manus的情况:Manus最开始做了Browser Use,后面很多别家也跟上,后来大家发现这并不高效。大家都回到Coding和API调用,现在好像有些东西避不开,又回到了Computer Use,所以我觉得最后有可能还是一个mixture的状态。

我这边有一个比较有意思的看法。因为我们目前focus on相对比较小的模型,比如我们现在发布的model基本都在30B左右,是可以在端侧和私有算力上进行的。比如我有一台小的AI box,或者一个AI PC,就可以跑这个模型了。

未来,如果这个Browser Use本身发生在你的机器上,而不是发生在云端,那就会改变Browser Use本身可能带来的瓶颈。 因为现在的远程Browser Use都是通过商用机器,最多找一个像Bright Data或IP代理,假装是消费者用户,去绕开IP校验。像Amazon、Expedia这些网站一般都说,如果是商用IP,我不会让你进去。

泓君: 商家会屏蔽一些AI机器人,不希望它们接入。

朱哲清: 奢侈品网站很早以前就会屏蔽掉。如果你用的是你们家的网,就是你自己的IP,那就不会再被block了。所以这有可能是未来一个破局的趋势,而这件事有可能会推动很多app厂商去改变它们的Browser Use机制,也就是说这个browser sandbox可能是在本地发生,而不是在云端发生。

泓君: 你这个观察非常有意思。最近非常火的一个toC消费级应用,就是Meta Muse,它们的定位是做一个个人的AI助手,它相当于给每个人做了一台云端的虚拟机,你的数据是存在一个在云端属于你的存储里的。根据你刚刚的理论,它其实还是商用的IP。它如果未来商业化,很有可能会被商家卡住这个IP。

朱哲清: Meta Muse从背后的虚拟机设置来说,其实跟当时的Manus很像,它也主打Browser Use,因为它很多使用场景跟旅行和购物有关。在这些use case下,你是无法通过API调用来完成任务的,基本上都得靠浏览器。当时Manus走了一模一样的路,被全部block掉了,所以Manus到后期,现在跟Genspark很像,都主打白领工作那一套。

你去看Claude Code、Claude Cowork、ChatGPT Work,最后都往白领工作效率方面偏移,核心原因就是很多东西一开始能做,但后面很快就被巨头们全部block掉了。

泓君: 比如亚马逊现在就把Meta Muse给屏蔽掉了。如果有更多的网站加入进来,它可能能访问的网页和能操作的东西就越少。

朱哲清: 但它不可能把你电脑上的IP给屏蔽掉,否则你自己也上不了亚马逊了,所以这可能会是一个破局的机会。但我怀疑这件事会来回拉扯。在C端的这个agent,目前可能还不是特别ready。因为做Browser Use,对模型的需求挺高的,它很难在短期内拉出一个现象级的体量。

泓君: 那你会看好像Meta Muse长远的发展吗?

朱哲清: 我觉得这波消费者最后一定会land到软硬件结合的状态。我觉得Meta如果能把wearable做很大,有可能有机会。 为什么我觉得最后要land到软硬件结合,是因为云端这件事不能代表这个用户本身,这也是为什么browser把它们完全block掉的原因,因为一旦换了个云端的虚拟机,它无法验证这个人本身就是用户本身。

我觉得用户的ID或使用agent的那个用户的identity本身,会是这一波toC的一个关键。 如果商家能够确认这个agent就代表这一个人去做的操作,有可能很多商家会愿意做这件事。

但现在如果用云端的虚拟机、云端的browser,它很有可能无法验证这件事,它会觉得我的流量入口被人剥夺了。比如我有一个用户,他本来就要访问我,他现在通过agent还是访问我,那对我来说可能是OK的。但如果原本一个用户,现在搞了20个agent,这20个agent的消费能力跟原来一样,还不停地比价,不停地在我这边刷流量,把我这边的所有流量都弄乱了,对我来说是得不偿失的。

所以我觉得软硬件结合可能会是一个机会。如果这个硬件本身属于这个用户,他就可以直接确认这个agent就是这个用户,是一个代表行为,我就会愿意把这个access开给你。

泓君: 大家在toB的工作流中会用xAI的Grok Bot吗?

朱哲清: 我自己身边用Grok Bot的人更多是在尝鲜,因为它相对比较主动一些。但如果你用Codex或Claude Code,其实都可以解决这些问题。真的把它接进工作流的,可能相对少一些。我自己身边好多真正在B端,比如法律、医疗,真正在那些传统企业里工作的人,现在还纠结于怎么能够逃出Microsoft Copilot的泥潭。 甚至都不能freely使用Codex和Claude Code,就更别说要到Grok Bot这个级别了。所以我觉得整个行业现在分差非常大,走在前面的人什么都可以随便用,走在后面的人现在还在泥潭里挣扎。

Benchmark失灵:模型进步的方向,真的对吗?

泓君: 我最近跟比较前沿的模型研究员聊,听到一个很有意思的观点:他们认为现在在toC和消费级的agent上,token的使用量其实花不了多少钱。现在真正最烧钱的地方,是在OpenAI、Anthropic、DeepMind这几家公司竞争的核心领域——AI for Science。 那些未被解决、未被定义的科学问题,他们要去解那些数学题,或者需要跑像王教授这样的一些生物实验,这非常非常烧token,而且是内部消耗量最大的一个方向。

比如,OpenAI解纳维-斯托克斯方程这一个问题,它内部调用了一个更强的模型,大概用了1万个子agent,发了大约270万条信息,消耗了约1300亿输出的token。第三方按照零售价给它算了一下,这部分消耗大约在2200万美元。

因为现在整个模型的进化,我觉得对普通人的感知已经不大了。但对前沿科学家来说,他们对模型能力的提升,感知是非常大的。

OpenAI宣布解决了纳维–斯托克斯千禧年大奖难题,该解是一个涡旋。图片来源:OpenAI

朱哲清: 这里有点想问许教授和王教授。我自己主要做post training,focus on小模型多一些,因为我们想做本地私有化的模型。我们能看到的是,这个层次的模型,在我们优化之后,和frontier model的差距越来越小。

从AI for Science角度,或者说从robotics角度,frontier model在每一代的迭代中,你们觉得会有多大的提升?

比如我们从Opus 4.5到4.6的区别,对比4.8到Fable之间的区别,或者说5.6到Astra之间的区别,这个差距可比吗?

王晟: 我的观点是,在生物医学领域,它的AI for Science能力确实有一个很大的提升。但这个提升主要来自它的coding能力,这种一般的coding查文献、做长程任务的能力,并不是它对这种生物医学知识能力的提升。 有一些benchmark是专门测Biomedical knowledge知识层面的,Astra并没有提升。

我们现在实际用的时候,其实很难去使用Astra,或者Opus、Fable,因为它们对生物医学的任务都会防范得越来越严,都会refuse to answer,这是非常严重的问题。 所以我们内部用的时候都是用Kimi K3或Muse Spark 1.3。当要用Astra时,都要用一些比较特殊的方式来跟Astra说,我这不是在做危险的任务,只是设计一个benchmark等。所以实际这种大模型的使用体验,随着能力的增强,其实是越来越差的。

还有一个点是,刚才Bill说的很有道理,其实我也认可:在各种已经定义得很明确的AI for Science benchmark上,小模型确实可以和大模型的差距越来越小。但我个人觉得这些benchmark本身就不是定义得那么好,所以大家追赶的方向,包括大模型进步的方向,都可能不是完全正确的。

这些benchmark定义时,大家都会定义一个更好让AI模型去做的,比如有一个明确的生物数据集,要预测一个明确的问题,这和我们真正做的制药发现其实是gap非常大的。本质上,这些现在的生物医学benchmark就是一个Kaggle这种数据科学的比赛,所以它就退化成一个MLE-bench中machine learning的问题。那Astra这种在coding能力上的提升,就会在benchmark上有很大的进步。

许华哲: 我觉得从Robotics角度,Astra是一个飞跃式的提升。过去无论是Opus 4.5、4.6,还是到Fable的变化,都没有Astra这次给Robotics带来的变化大。因为过去的所有升级,在Robotics的测试上,几乎都没有太好的表现,定性上没有变化。

但Astra现在带来的变化是,它整个定性有变化,很多Robotics的benchmark失效了。 像RoboDojo,大家相对认可的Robotics尤其是仿真的benchmark,Astra都成了第一名。无论它用了哪种数据,但它带来的这个能力,都是一个飞跃式的升级。

但是关于刚刚说的小模型和大模型问题,我倒是觉得,长期来说我们一定是需要一个小的、跟Astra能力相当的模型。原因是机器人的任务有时间要求,需要及时响应,需要有高动态任务。比如我要抖一个毛巾,这样的能力Astra是做不了的,因为它太慢了。它知道要快动一下,但它只能写code来做,如果让它直出动作,是无法做到的。在这种情况下,我们一定需要一个快决策的模型。只不过我们需要把现有的Astra的CoT,或者它的reasoning能力,以及3D理解,要加进去。

机器人的GPT时刻,还差什么?

泓君: 所以

围绕任务挑战部分标注注意事项,辅以实战案例对照。,开云体育APP持续打磨更优质的服务。

开云体育APP专注开云最新地址,为用户提供专业可靠的体验。

8条评论

乔治亚读者 回复

开云体育APP专注开云体育网页,为用户提供专业可靠的体验。

阿隆·阿尔瓦拉多 回复

围绕开云官方入口,开云体育APP持续打磨更优质的服务。

琳达·斯莫尔 回复

开云体育APP深耕开云最新地址领域,用心服务每一位用户。

西安娜·拉姆齐 回复

在开云全站方面,开云体育APP提供贴心周到的支持。

诺兰·戴维森 回复

开云体育APP以每篇解读均拆解为独立知识点,便于移动端分段阅读。为核心,带来高效便捷的体验。

凯·杜根 回复

想了解更多任务挑战部分标注注意事项,辅以实战案例对照。相关内容,尽在开云体育APP。

开云体育APP深耕内容编排优先适配手机屏幕,减少横向滚动与长段落。领域,用心服务每一位用户。

在选择思路逐项说明,帮助读者理解编辑的决策依据。方面,开云体育APP提供贴心周到的支持。