Top
首页 > 正文

新智者Talk第五期:ChatGPT是虚火还是未来

发布时间:2023-03-29 10:40        来源:赛迪网        作者:

3月24日,由微博、新浪新闻出品的《新智者Talk》与超声波联合推出了主题为“ChatGPT是虚火还是未来”的栏目。本期对话由超声波创始人杨子超担任主持,嘉宾包括中国建筑文化研究会理事徐曦;美团网顾问、搜狗输入法之父马占凯;北京大学副教授、原商汤集团研究执行总监颜深根。四人围绕ChatGPT给各行业带来的机遇、对年轻人的影响、以及ChatGPT掀起的创业方向等进行了探讨。

6d41b9ad50f02aad1441bdb07d11121

访谈由ChatGPT近期引发的全球“军备竞赛”开始,并很快探讨到ChatGPT的应用层面。嘉宾们一致认同,ChatGPT是一个能够开启新道路的风口。马占凯表示,ChatGPT本质是类似鼠标、键盘的交互工具,能够打通人与机器交互的最后一道屏障,它的终极形态将是智能体。徐曦则认为它有超越操作系统级的潜力,甚至能够塑造全新的未来空间和数字人。

颜深根认为ChatGPT把大模型、数据和算力都做到了极致,这让它与此前的工作产生了区别,在机器人、自动驾驶等层面会带来新的机会;同时,ChatGPT也会对底层计算产业带来促进作用。杨子超则指出,目前AIGC已经在辅助现有岗位的降本增效、结合数字人两个方向上进行了落地应用。

但是AI的快速发展也会带来挑战。马占凯表示,ChatGPT等AI带来的危险有两个,一个是人类无法理解AI的危险,另一个是职业被取代的危险。对于后者,颜深根指出靠经验积累的行业确实会受到一些影响,同时还会有新的机会涌现;徐曦认为对于普通人来说新的机会一定会在旧机会消失之前出现,可以乐观看待。

针对正处在这一趋势中的当代年轻人,徐曦建议要及早建立基于AI认识世界的认知和思维方式;颜深根则认为,年轻人要选择未来有发展潜力的行业,但也要结合自身的兴趣和人生规划。

此外,嘉宾们还讨论了如何应对ChatGPT“胡说八道”以及带来的科技伦理等相关问题,并表达了对人工智能未来可能性的期待。

以下是“新智者Talk”对话实录,内容经过编辑略有删减:

杨子超:欢迎大家来到新智者Talk,今天的主题“ChatGPT是虚火还是未来”,我们很荣幸邀请到本期的嘉宾:

中国建筑文化研究会理事徐曦;

美团网顾问、搜狗输入法之父马占凯;

北京大学副教授、原商汤集团研究执行总监颜深根;

我是本期的主持嘉宾超声波创始人杨子超。

当下最火的话题是ChatGPT,现在所有的大厂都已经进入了军备竞赛,大家怎么看ChatGPT是不是下一个风口?

徐曦:这个问题我这么看,就像当年发明了蒸汽机之后,整个人类靠机器供养。而在互联网出现的时候,谁也没有想到,它的开始竟然是浏览器。

我认为,ChatGPT跟蒸汽机和浏览器是一个东西,今天它还是个很具体的应用,但是它此后能开启多大的局面,我们当前无法预估,我认为这是一个开始,不仅仅是一个可以瞬间流行、瞬间消失的风口。

杨子超:马老师。

马占凯:ChatGPT是一个非常激动人心的巨大人工智能上的进展。现在ChatGPT正在重现在互联网,尤其是移动互联网那个时代的开端,也就是“互联网+”,后面也会开启“ChatGPT+”。

在过去是我们迁就机器,但有了ChatGPT,这个机器可以真正理解人类,过去科幻电影中所有机器人的场景,完全就变为现实。

包括今年春节大火的《流浪地球2》中有一个超级AI,MOSS。这个MOSS还会威胁人类,在ChatGPT之前,这种威胁和沟通几乎不存在,机器从来没有这样像人一样说话,但是它现在可以与我们进行人,我们会觉得它像一个人,很有人性,现在有一个非常大的变化,本质上有很大的不一样。

杨子超:所以您觉得风口多长?

颜深根:首先我们可以看一下人工智能有三波浪潮,最新的一波我们认为从2012年开始,从2012年艾利克斯发明matlab,相当于是图像识别的突破,到后面这波浪潮的谷歌,在2016年AlphaGo人机大战,在围棋上面的一个突破。

现在ChatGPT的突破,这波浪潮三个突破,个人认为ChatGPT应该是最大的突破。

这个突破本质上是提升了AI的能力,相当于给我们未来AI的发展开辟一条新的道路,或者开辟新的一块天地。

杨子超:其实就是说大家都认为是一个非常大的热点和风口。

颜深根:对,刚刚开始,后面的可能性会非常多。

杨子超:那在之前,比如ChatGPT出来之前,我们人工智能和美国其实大家都讲各有各的优势,为什么ChatGPT出来之后,感觉一下子有了新的突破,这个大家怎么看之前和之后,中间核心的本质有哪些改变?

颜深根:这个就是说为什么ChatGPT没有出在中国,用一句比较通俗的话叫沃土生精华,一定是有一个非常肥沃的土壤才能长出好的东西,咱们国内也有很多好的工业产生,但是我们的土壤更多还是在应用层面,所以我们应用层面做的非常好,包括像互联网的各种APP。

但是可能我们在基础理论层或者原理层,因为它相当于是一个非常长时间的积累,所以它肯定还是会有一些欠缺,所以我觉得这个像ChatGPT相对比较原始的创新,发生在美国我认为也是一个正常的现象,当然随着我们国家的发展,未来我们也会有更多的原始创新出来。

马占凯:像这一次史诗级的创新,其实有一个很大的意外,竟然不是硅谷的源头,OpenAI伊莉雅的首席科学家其实是来自于加拿大的研究团队,包括还有一个很强的是Google的Deepmind,Deepmind其实是伦敦的团队,这两个创新源头也不在硅谷。

那在后面来说我们也需要正视这种差距,并且我们也要赶上,并且我认为中国还是有很大的机会在第四次革命,智能革命上还是可以再往前有很大的突破。

徐曦:我从以下几个方面谈谈为什么ChatGPT没有发生在中国。首先,我们从一个宏观视角来看,中国是一个后发国家,也就是我们常说的发展中国家,确立如何发展,要从五个层面来逐一确定。

第一,目标,我们的发展目标是什么。

第二,发展模式。

第三,发展战略。

第四,实现发展的政策。

第五,着力发展的产业。

其实我们作为一个后发国家,长期以来对于目标和模式是摸不到的,因为我们在跟随,我们只需要学习就好了,什么国家在摸索目标和模式,是先发国家。

我们经常看到很多媒体上报道,比如美国又发布了下一代战机主要性能指标:几倍音速巡航、隐身、超视距态势感知等等,我们看到的这是这么几条指标,但这几条指标的背后,先发国家对于未来战争样态的构想,或者说是一个极其有逻辑的展望,而这是我们作为后发国家薄弱的地方。

所以回到最初的问题,为什么没有发生在中国,因为我们在定目标方面和模式方面缺乏经验。除此之外,ChatGPT没有出现在中国还在于,我们的信息产业太强。一般来说产业强会促进创新,但真实的情况恰恰相反,相关产业太强会压制了一些革命性的创新,强大的相关产业会让革新变得有风险,从而表现出某种保守。当前乔布斯是如何从施乐的实验室翻出了改变计算机交互的图形技术,ChatGPT也没有出现在硅谷。

我认为以上两个方面是ChatGPT没有出现在中国的主要原因,从长期来看,我们也应该从以上两个方面去修正我们自己的创新激励机制,以确保下一次革命性的技术能从中国的破土而出。

今天,ChatGPT已经发布,在AI席卷而来的大趋势下,我们的优势在哪?我认为,我们的优势在于可以借助产业优势,将其很快市场化,可以以很快的速度将它的应用价值挖掘出来,从一个幼小的雏形,变成一个巨大的产业。

杨子超:那大家在之前我们研究的人工智能和现在大模型有什么区别?大家可以一块聊一聊。

颜深根:因为这一波浪潮,从2012年开始这波浪潮本质上都是基于深度学习算法,再加上大量的数据和海量的算力,所以从这三个方面来说是没有太本质的区别,当然ChatGPT最大的区别就是,它把这三个做到了极致,它的算法、模型足够大,做到相当于是历史上的规模,这是第一。

第二,数据用的是足够多,然后它的算力包括像我们说,训练一个模型要1200万美元,所以这三个方面都做到了极致,这是与前面工作比较大的区别。

还有一个是从算法层面确实做了一些,或者从训练方法层面确实做了一些改进,这也是它的效果,会超出以前模型的原因,在训练的过程中引入人的反馈,这确实也是一个创新。

马占凯:ChatGPT这一次在智能上的突破和过去的人工智能很大不一样是,它其实从真正的底层来说,它模型和算法上有一个很大的提升,

例如它的神经网络参数,它在第一代的时候是几个亿,后面是十几亿,到了ChatGPT这一代的时候,参数是1000亿,这个时候就发生很神奇的变化,它突然理解了很多东西开始懂人性了,开始能够以自然语言和你聊天了,这个就是这里面发生的神奇变化,在过去的时候可能人类没有意识到,只有像OpenAI他们发现了这点。

徐曦:在回答大模型和小模型的选择问题前,我想简单的回顾一下。

早些年前,在自然语言处理方面有两个派别,一个是基于规则的形式化机制,也就是基于语言学的语法规则去实现计算机对自然语言的处理;另一个是基于统计和连结的形式化机制,也就是去分析词句之间哪个形成固定搭配的概率更大。

众所周知,基于统计和连结的形式化路线是当前自然语言处理的主流,当年那些走基于规则的形式化路线的成果今天已经完全不见了,因为路线错误,当初研究这个方向的科学家也全部被遗忘,因为路线错了,但他们都是当年最优秀的科学家。其实说这些是要表达一个问题,我们今天看起来的任何一个路线问题,背后隐藏着科学界的巨大贡献和巨大牺牲。人类要往前走的任何一小步,都是无数科学家的心血铸成的,应该首先向他们致敬。

说回到大模型和小模型的选择问题,我认为大模型和小模型不是二选一的关系,而是互相融合互相促进的关系。大模型与关联小模型协同,大模型沉淀知识与推理能力,小模型基于大模型的基础,结合在垂直领域的感知、认知、决策、执行任务能力,小模型在执行过程中,不断的将执行结果向大模型反馈,从而让大模型的知识与能力持续进化,持续进化的大模型又称为小模型能力提升的基础,从而不断飞轮向前。

今天的大模型它几乎叫全知全能,几乎拥有整个人类的知识库,我们在这样能力强大的辅助工具面前,首先要学会使用。ChatGPT的出现,让我们没有太多时间去讨论它是好还是坏,迹象表明,它就是最先进的生产力,掌握它就变成了首要目标。

杨子超:ChatGPT现在给创业者带来哪些机会?大家可以一块聊一聊,马老师。

马占凯:ChatGPT是一个自然语言模型,它会发生在所有有数据的地方,我有一个判断,智能会像水一样充斥着整个社会的生态位,另外也充斥在产品内部的所有细节。举一个例子,像我们用微信加人的时候那个备注,每次都要选择备注应该怎么选,它其实应该给我生成一个良好的备注,其实ChatGPT的能力完全可以做这件事,而且做的特别好,比你自己写的备注还要好。

杨子超:AI无所不在。

颜深根:它从几个层面会带来新的机会:

首先从应用层,以后有可能家里面会有一个机器人,甚至我们的车,当然现在也有自动驾驶,那自动驾驶以后能力会更强,这种肯定是会带来新的机会。

另外一个层面是为了支持智能产业的发展,它肯定也会有一些相关产业获得很多的提升,比如ChatGPT是巨大的算力堆出来的,这个明显会对底层计算的产业带来非常大的促进作用,所以整体来看还是有很多新的机会涌现。

杨子超:就是开启了一个时代,我们刚看到一个开始。

马占凯:我们看到的是冰山一角,这个只是一个开端,相当于是一片新大陆,你发现了刚刚登上去,远远不是到了终局,这才刚刚开始。

杨子超:现在也有一个声音,说它能取代脑力劳动者,所以有大批非常消极的声音,就说人工智能最终会威胁到人类,大家怎么看这个事情?徐老师。

徐曦:AI确实可以取代很多岗位,取代很多人的工作,这个毋庸置疑,但是这个过程其实没有那么痛苦。

这个岗位被取消了,但是这个人又在新的岗位上重新发挥作用,它是一个非常流畅的过程。

其实对于普通人来说,永远是新机会先出现,旧机会再消失,只有极端保守的人,才会在这个过程中被替代。任何一个高速崛起的新事物,都有足够的吸引力将人们吸引过来,当互联网崛起的时候,有多少优秀的毕业生,放弃了自己的专业,投身了计算机科学。哪怕是高薪高职的华尔街,每天都有人才向互联网行业流动。所以,我更喜欢以“吸引”代替“取代”,来看待AI对于当前社会岗位的影响。

马占凯:AI威胁有两个,我举个例子,假设一个人养狗,每天要出去赚钱养家买狗粮。这个狗理不理解人其实在帮它买狗粮这个事情?当一个AI的智商到了1000分的时候,它做了一个决定,那我们人类能不能理解?我估计这个是理解不了的。当然现在的人工智能,包括大模型,都在致力于可解释的底层算法结构,去说到底是怎么计算出来的。现在ChatGPT就是一个黑盒,你给它问了问题,它也给你答了很多东西,但你也不知道是真是假,它还有大量“胡说八道”的问题。这是第一个人类的威胁。

第二个是职业的威胁,其实实实在在已经发生了,例如游戏原画师已经有人失业了。但其实永远会创造新的工作机会,所以只能去拥抱它,这个没有办法,因为取代的过程是必然发生的。就是当你处在被取代的位置上,一定要去学。比如你原来是个原画师,你直接转型到提示工程师,prompt工程师,你能够控制通过文本去高量地产出图片的时候,你可以转型到新的人工智能文生图的工程师上。那你就可以拥抱它。

杨子超:我也突然联想了很多,比如我们去上班去了,猫猫狗狗会认为你去打猎去了,它会期待你回来。但实际上,猫狗和人是不一样的。在这个过程中,人工智能也可以类比为猫猫狗狗,但是如果它过于强大了,那它理解有偏差了呢,这就是个很危险的事情。

马占凯:这个确确实实,现在是通用人工智能,它的定义是达到了人类的水平。那未来还会有超人工智能,就是超越了人类的智商的时候,那它们看我们就像我们看狗的思维一样,就这么简单,但是狗就不懂我们;我们也不懂AI。这个其实就是电影《终结者》了。

杨子超:接下来我们聊一下AI另外一个大赛道,就是AIGC,刚才马老师也说了,AI生成图片的事,这个事让整个原画师,包括做色彩的设计师,日本有很多这样的设计师都很焦虑,因为他们的艺术创作什么瞬间会被AIGC直接取代,这块也是一个大赛道,马老师先说一下你通过AIGC有哪些收获,或者哪些应用让你感觉特别不错?

马占凯:它会带来新的机会是什么?它整个扩大了应用市场,你过去手绘能力,假如说你想画漫画,你不会或者配一张图,或者在PPT里展现某一个意境的图片,你没有这个能力你就做不出来,有了AIGC这个东西,AI给你生产,它会扩展到所有的例如白领,所有用图的地方,它会把这个应用场景扩大十倍、几十倍、上百倍,所以AIGC是人人皆可参与的。

这个都叫AIGC,所以AIGC的机会非常广阔,并且很多层次在所有的(场景),我觉得是人人可以参与的事。

徐曦:对于AIGC,我们先从这个名字来看,G是generate的缩写,它是生成,不是创造。

也就是说AI输出的内容是生成,而非创造,本质上它不生产内容,它是既有内容的转译。或者它把原有的内容换个方式表达了出来。

大师创造出一个范式,AI迅速用它的效率去跟进,这就是AIGC的本质。

我们一方面要看到AI的效率优势,另一方面我们要继续寻找能给我们创造全新范式的艺术家和大师,去创造新的东西。这样的结合是有意义的,而仅仅依靠AI去创作内容,认为AI已经具备了创作内容的能力,这一方面会让内容产出物迅速变得乏味,更重要的是伤害真正创作者的信心,因为只有具有创造能力的艺术家和大师,才能带领我们向前。

杨子超:有一种说法,AIGC和ChatGPT是两回事,

我有一个朋友告诉我,你要拿ChatGPT看成是一个交互入口,这样它就不局限于ChatGPT,而是整个入口,比如现在80%的互联网用户,实际在写文字输入的时候很少,比如说打一个车,你要输从哪到哪,老年人其实不会,但如果用语言,比如我从东直门到西直门,可能一辆车就过了,这个入口其实是一个非常深刻的改变,大家怎么看待?马老师。

马占凯:ChatGPT还有很多本质特征,但从某种意义上来讲,等同于鼠标和触摸屏,因为在过去鼠标的时候,第一次叫图形界面的交互是有鼠标,到后面智能手机时代是触摸屏,触摸屏的改变让过去不会用鼠标的,例如老人就不会用鼠标,他可以用触摸屏点点点,当有了ChatGPT,它是自然语言理解,能力特别强,人就和机器可以进行沟通,所以它实际是交互改进,它这个交互改进虽然看起来只是交互改进,但实际是打通人与机器的最后一个屏障,最典型的例如现在还是有老人不会订机票,不会电商购物,买了东西也不知道怎么退。其实有了ChatGPT之后,这些所有人都可以操作。

ChatGPT现在准确定义是聊天机器人,而AIGC是生产力工具,但是ChatGPT最终所代表的是“智体”,这是我自己的定义,但如果把它装到智能音箱里,你就觉得它是一个实体,再把它装到一个机器狗或者机器人,比如陪伴机器人里,他可以真正和你聊天。

所以ChatGPT现在还是冰山一角,它代表的是智能体(智体)。

颜深根:AIGC和ChatGPT它的区别,ChatGPT里面可能是用了AIGC的技术,这是一个。另外,AIGC更多可能还是从技术上来看,我们认为可能是细分的方向,就像人工智能生成内容,算是一个细分的方向。但是ChatGPT它算是用细分方向的技术所生产出来的产品或者是应用,我觉得大概是这么一个。

徐曦:我们把所有的技术,计算能力,集成为一个ChatGPT,让机器可以用聊天的方式跟人交互,这是因为语言本身是人和人之间自然交流的终极形态。

语言是特别重要的媒介,语言塑造我们的认知,塑造我们的思维,这方面有大量的学术成果,我们不在此赘述。既然语言那么重要,那么通过研究可以用语言与我们进行交互的AI,也可以反向去研究自己,研究我们自己的意识是如何形成的,这是为我们认清自己提供了前所未有的机遇。今天OpenAI瞄准语言交互,推出了ChatGPT,这其实就在引导我们思考最本真的东西:如果我们要让AI形成对人的助力,那就要用最自然的交互方式与AI沟通,现在有人说ChatGPT可能是操作系统级的创新,我认为可能比这个急别还要高,这其实给我们提供了一个机会,可以塑造全新的未来空间,以及无数的可以在未来空间生活的数字人,那也就是元宇宙样子,今天我们有了ChatGPT的能力,我们发现Web3的东西也遍得更加丰富和立体了。

杨子超:说到很有趣的事,正常来说本来看ChatGPT,我经常口头禅是ChatGPT打败了元宇宙,元宇宙被ChatGPT给取代了,AIGC取代了去年的NFT,也就是徐曦老师说的,其实他们没有什么此消彼长,反而是相互之间连接或者是共同发展的逻辑。

说到AIGC,从创业者的角度会有更容易创业的感觉,这块大家感觉有什么机会可以跟我们分享一下?

颜深根:之前我们的一个同事说过一句话,他说未来带老字的职业都非常危险,老字是职业主要靠过往的经验,来支撑你在职业道路上的发展,比如像老中医、老师,ChatGPT如果能力增强的话,确实对过去可能依赖经验的这些行业,会造成一些影响。

既然现在的从业者会受到影响,那么新的机会也会涌现,比如中医,可能以后看中医不用去中医馆,我们直接找一个机器人,把脉不知道能不能把,至少症状可以说一下,可能很快会告诉你大概是什么样的问题,吃什么样的药就可以,所以靠经验积累的行业确实会受到一些影响,同时还会有新的机会涌现,这是我的观点。

杨子超:我对AIGC有一些看法,尤其是创业的方向,第一我认为它可能在辅助上,降本增效,比如说的原画师这些岗位上可以降本增效,这是一个创业的分享。另外结合现在的数字人,比如说用一张图去生成一个主播,让他每天做直播,我们只要写好文案就可以,这其实也是一个方向。包括AIGC和元宇宙、Web3的结合,比如AIGC和Roblox的结合会产生很多的脚本,这在国内可能也可以做一个尝试的大方向。

目前AIGC和ChatGPT出来之后,这方面对年轻人有哪些影响,比如我们在大学生选专业的时候,这块我们要注意哪些?徐老师。

徐曦:选专业永远是滞后的,我其实想给年轻人的建议是,他的认知和思维和他的认识世界的方式要及早建立起来。

就像刚刚颜老师说的,我们在面对ChatGPT的时候,它可能会无理由的生成一些没有根据的东西,我们要有能力使用常识和逻辑进行判断,我认为这是未来最重要的能力,当然,包括从这里衍生出来的解决问题的能力。专业我觉得并不太重要,是因为我们的大学的每个专业给大家准备了大量的通识教育,AI掌握了全人类的知识库,所以未来最重要的已经不是知识,是世界观、方法论和认知体系,这个建立好,未来喜欢学什么就选什么专业,凭自己的爱好去选,不要想学一个专业就要去就业,那是上技校,这不是上大学。

杨子超:颜教授这块您比较权威。

颜深根:不说权威,确实选专业这个事,我们会从几个方面考虑:

第一,选专业可能选未来行业是发展的行业,行业前景。

第二,AI会给这个行业带来什么。

第三,自己是否适合这个行业,这是比较合适的逻辑去选择专业。

首先从行业的前景来看,个人认为特别在国内,随着人口老龄化的增加,医疗或者药物方面,肯定是需求会越来越多,我们的需求或者我们的消费可能很多都不是比如满足日常基本的诉求,还是让我们的精神获得愉悦的感受,所以娱乐行业肯定也会有很大的发展。

这是我自己的看法,说到AI对这个行业的影响,比如像刚才说的医疗制药,像现在咱们有一个非常热门的方案叫AI for Science,相当于我们用AI的方法去寻找新的药物,这其实是一个很有前景的方向,如果真的是通过AI可以提升药物效率,那么未来很多疾病都可能会获得比较好的药物。

个人认为从整体的趋势上,未来有发展潜力的行业,或者如果站在AI的影响角度上来看,AI对这个行业有促进作用的,个人认为是一个比较好的选择点,但这个也要结合自身的因素,比如自己的兴趣,或者自己的人生规划,这可能也是很重要的。

杨子超:这块也是比较感慨,不管AI如何发展,目前近期还是一个工具,对于年轻人来说如何更好用它,这是需要面对和拥抱的,大学学的是自学能力,到研究生学的是专注能力,到职业规划的时候学的是如何借助周围的资源,包括周围的人脉去提高自己、成长自己,这块可以拿AI当成没有感情色彩的老大哥,或者说是我们的助手,这样的话可以让我们少走很多弯路,这块可能年轻人需要思考如何用好AI。

接下来咱们聊一下,如果ChatGPT一本正经地胡说八道,我们如何用好ChatGPT?它是一个好的工具,我们要如何用好它,因为有时候它会“胡说八道”。

马占凯:从我的经验,ChatGPT现在胡说八道是正在解决的问题,但实际这是一个很正常的发展过程,先解决智能性,再把胡说八道的问题解决,终究会解决。

ChatGPT就像是一个黑屋天台,它只在一个巨大的图书馆里,这个图书馆没有窗户,它读了有一亿本书,但是他没有见过大象、没有见过红色、没有见过星星和月亮,所以它是纯文本模型,它最擅长的就是自然语言理解和创作。

所有涉及到这个例如改写,比如你写到这里寻找灵感,最典型的让它写一个剧本杀,它的剧本从专业的角度看会比较平庸,但它可以迅速提供一个框架,例如他给你起好名字,设定好角色,发生在哪里,它能快速帮你去做调研,包括头脑风暴,所以它作为智能的个人助理来看,他可以帮你完成调研,提供灵感,做头脑风暴,并且帮你做很多程序性的,例如帮你写一个英文邮件,帮你制定一个市场计划,包括周末的出游做一个安排,它完全可以给你做好。

杨子超:AI给我们带来很多信息的风险,包括科技伦理的问题,这方面我们怎么规避?

徐曦:似乎一般人很难判断AI已经有意识或者无意识,像一个正常人跟我们交流,它已经基本有了这样的能力,既然这样,我们就可以认为AI已经拿到侵入整个人类知识库的钥匙,我们要想办法,如何不让它一本正经地胡说八道,以避免它去污染我们的知识库,避免它对我们既有的盖棺定论的东西进行挑战,这并不是一个纯粹的伦理问题,它涉及到更广泛的社会治理问题,什么是河水,什么是河床,什么可以讨论,什么不要讨论,我们就要告诉AI,不要让AI的逻辑偏差,影响到我们群体的常识。

颜深根:说到AI的伦理问题,可能从几个方面:

第一,必要性,个人认为肯定有必要性,技术发展到一定程度,真的有可能对人类本身产生负面影响,例如原子弹,包括生物医药基因编辑的技术,其实也是非常危险的。

所以AI可能也是类似这样一个技术,它从本质上对人类还是会产生负面的威胁的,所以我们从伦理的角度对它做一些限制,个人认为非常有必要。

第二,怎样限制?以前我们觉得那个机器人再怎么样,实在不行把插头给拔了,它没有电对人类就没有威胁,但有没有想过这种情况,机器人本身可能会在里面编了一个程序,当人拔插头的时候就去攻击这个人,这样的话就会很危险。

但这个程序是谁编辑的?一定是造机器人的人给编进去的,

所以本质上AI产生问题,或者产生对人类的威胁,本质还是因为人导致的,因为人在后面给他做了一些不好的指示,才让它对人有威胁,所以从这个层面如果我们要做AI伦理方面的,至少从根源上还是要限制。

杨子超:接下去是每人对AI的小寄语。

颜深根:首先我是做计算出身的,所以从十年前我们就有一个口号,计算让AI无所不能,让AI无处不在,今天还是希望我们从自己专业的角度,让AI可以不断发展,让它可以不断造福人类社会,这是我的期望。

徐曦:对于未来人工智能的发展,我有很大的期待,我期待科学界尽早突破人工智能最早期倡议者对于人工智能的构想,我们现在还没有完全实现他们的构想,也还在他们的整个构想里徘徊,我希望我们这代人可以提出新的AI构想,并将其逐步实现。

马占凯:我们这一代人非常幸运,

现在我们居然能在有生之年见到人工智能在自然语言理解上的突破,可以懂人性,可以举一反三,可以有一定的思考能力,

它让我产生一种真正不虚此生的感觉,我仅仅作为一个用户,我还不是它的参与者,只是用户就产生了不虚此生,在有生之年可以看到自然语言理解,就是科幻电影里的对话机器人,真的像人一样沟通,我们把它当人,它也把我们当人的状态。

现在只是这个开始,未来例如真正的人形机器人、机器狗、陪伴机器人,那将会解决无穷无尽的问题,例如中国的老龄化问题,独居老人的陪伴问题,留守儿童的陪伴问题,有了未来的机器人,它能真正的懂你,那么人类真的是不再孤独,因为有很多在过去的时候,机器都是冰冷的,有了ChatGPT,人类开始能把机器当成一个人来看,这是一个伟大的开端,我们是有生之年赶上了第四次科技革命,这是一个很大的幸运,算是真正的有生之年系列。

杨子超:我期待人工智能会给中国互联网带来很多的创业热潮和机会,这样我们会有更多期待。

每日必读

专题访谈

合作站点