327. 大哲学家(合)(1 / 2)
“我们已经有阵子没见了吧?自从你的阿尔法Fold发布之后,差不多有小半年时间没怎么听到你的消息了。”
这一次负责主持对话的,仍旧是老熟人,美联社的马修。
孟繁岐刚到谷歌的时候,跟他一起聊霍尔姆斯事情的便是这位,由于其有少部分华国血统,孟繁岐觉得比较亲近,因而数次发布消息基本上都会断断续续联络他。
“也不至于吧,我看网络上有关我的八卦还是挺多的。”孟繁岐笑着否认,虽然他这段时间都在搞一些准备工作训练工作,的确没怎么露面。
但他脱离谷歌,搞自己的超算中心,这两件事都是大事件。
“四月份的时候,你结束了和谷歌的合同,正式地成为了独立的研究者。在当时,其实也有小部分质疑你的声音,认为你脱离了谷歌的环境和大量计算设备,难以独立产出高质量的研究成果。”马修与孟繁岐相识,还是因为谷歌的关系。
“不过事实胜于雄辩,你虽然一直没有针对这些声音做出任何回应,但现在AI小镇的出现,已经彻底粉碎了各种质疑的声音和流言蜚语。”
相比13年底和14年孟繁岐的高产,15年孟繁岐的确安静了太久。
此前的孟繁岐几乎每两三个月就有一个大新闻出来,大家已经习惯了这个速度。
可自从神经辐射场之后,孟繁岐在15年上半年再也没有新技术出来。
搞了个Ai.是不错,但里面都是现有技术的课程、宣传、讲解。
整理的代码库,也都是一些脏活累活。
这些东西放在其他人身上,可能是非常大的成就和成绩。
但放在孟繁岐身上,就显得贡献小了那么一点,有吃老本的嫌疑。
“大家有这种看法也是对我的一种督促嘛,不过现在的AI技术想要做出更好的效果,所需要的计算能力越来越多了。有时候也不是我不努力,而是客观条件不允许,需要时间。”孟繁岐经历了这两年,也逐渐有所成长。
最开始看到什么评论报道,心情都会随之牵动,恨不得马上澄明真相。
如今则淡定沉稳了许多,他心中知晓,其实大多数人也不在乎真相,自己又何必澄清呢?
等到新的成果做出来,这些莫名其妙的质疑和批评自然就会烟消云散。
唯有带着新成果出来的时候,解释和回应才有力度,才有人关注。
“所以这才是你组建自己超算中心的原因?”马修问道:“这一次的AI小镇,所需要的算力到了什么级别,可以透露一下吗?”
“没错,我在人工智能这个领域有许多想法,可能短期内并不一定能够盈利变现。如果待在大公司里,我的计算资源始终还是受到了很大的限制。这个限制不仅是来自于外部,我自己内心也会觉得,烧了别人几个亿美金,结果出来的东西无法回本。”
孟繁岐这也是首次在离开谷歌这个问题上有公开的表态:“总得来说,谷歌的两位创始人一直以来都给了我相当大的权限和自由度,非常感谢他们在我生涯早期的帮助。离开谷歌并不是因为和谷歌一方有什么矛盾,而是我个人的原因,自己组建超算中心才能够最大限度地发挥我的力量。”
“至于AI小镇的算力我只能说超乎大家的想象。这件事情我们最后再揭晓。”孟繁岐还没有揭露小镇背后的350亿参数chatGpt,直接谈算力为时过早了。
“那我们就直奔主题。欢迎大家收看美联社特别节目!我是马修,今天我们有一个令人兴奋的话题要和大家分享。就在最近,孟繁岐构建了一个AI小镇,这个虚拟世界中有三十多个Npc,模拟出了一个充满生活和互动的人工智能社会。”
“孟先生,您是如何成功地构建这样一个AI小镇的呢?有关这个小镇内的神奇种种,在过去的二十天里,我们已经看到了太多。借此机会,能否和我们分享一下技术方面的创新和突破?”
一上来,马修就直接问了最核心的问题。
这种神奇的社会模拟到底是怎么做到的?与前世基于chatGpt做的小镇不同,此时的世人完全不知道Gpt技术革新之后能够达到chatGpt这么恐怖的水平。
因而众人百思不得其解,完全不清楚孟繁岐到底是怎么做到的。
“其实主要的核心部分仍旧是之前已经开源的Gpt技术,关于模型本身的细节,最近几周内就会将论文开源出来。”
孟繁岐这句话说得好听,但实际上藏了半句话没有讲,那就是:“不过这部分内容,可能就不会如同此前一样那么详细了。”
从这个350亿参数的版本开始,就已经具备盈利的可能性了,它的性能和水平和前世1750亿的chatGpt差距并不大。
等到计算设备和性能进一步成熟,孟繁岐就会考虑使用Gpt4的一些集成技巧,推出2000亿参数级别的模型做收费服务。
因此从该版本开始,孟繁岐的论文将会对很多关键信息进行保密。
比如,对于350亿参数的模型,孟繁岐会公布具体的模型大小,结构,采用的算子,甚至于训练时候使用的一些参数设定。
可对于自己所采用的数据集,这些都是他两年多来一直斥资收集打造的,当然不可能公开出去。
至于那些核心的【指令微调】、【代码训练】和【RLhF】等技巧,他也不会在这个时间点就选择公布,至少也会延迟一年左右。
马修也是老江湖了,一听就知道这里有猫腻。
从AI小镇中Npc展现出的智能和交互水平来看,孟繁岐已经飞速地将这系列技术提升到了可以商用,可以盈利的水准。
不过他与孟繁岐私交不错,见孟繁岐似乎不打算细说稀疏部分,就不打算在这方面继续多问了。
节目上谈技术细节,观众本就不爱看,因而马修直接将话题回到小镇当中,先进行这个有趣现象本身的讨论。
“AI小镇看起来就像是一个真实的社会一样。但是,虚拟世界中的Npc是否拥有自己的文化和背景差异呢?”
不愧是老美的老牌主持人,一上来就搞了这方面的话题。
“这当然是会有的,我们做了许多努力让AI小镇反映多样的文化和背景。每个Npc都有自己的个性和背景,我们设定了许多不同的种族和国家背景,他们会根据自己的经历和价值观来互动。我们认为这可以帮助玩家更好地理解多元化的社会。”
“但是比较可惜的事情是,三十多人这样的规模,兼顾多样性就已经有一定的压力了。我也看到很多人盛赞这个小镇,说以后文化、经济乃至ZZ上的一些事情,都可以模拟一下看看。这种可能性是有的,不过需要特别庞大的规模,几万人,乃至几十万。目前的计算能力还是远远不够。”
孟繁岐不想掺和美国特色种族和文化方面的讨论,很快结束了这个话题。
马修的下一个问题,就非常哲学了。