第463章 超级对齐
作者:取个名很难啊   你若开挂,金钱自来最新章节     
    苏茨克维被围攻了。
    他本来就是一个不善言辞的科学研究者。
    他的老师,辛顿打电话提醒他:“不要再去做无谓的争论,就像卷积神经网络一样,将来会证明我们是对的。”
    所以,他选择了沉默。
    实际上,苏茨克维被围攻,并非ai系统是否能产生意识的问题。
    而是投资与回报的问题。
    苏茨克维的存在、观点和言论,成为了财富聚集的障碍。
    要知道,谷歌为人工智能下了重注;
    微软也即将下重注入场;
    投资基金们早已布局;
    大家都等着收获和收割;
    更多小公司也等着人工智能成熟而茁壮成长,从而开发衍生产品赚钱。
    上万亿美元的市场,在产品上市时,早已被瓜分殆尽。
    这个时候,你告诉我们不安全,要安全后才能赚钱。
    这比杀了他们还难受。
    五月。
    辛顿同苏茨克维、克里切夫斯基三人来到江州平头哥研究院。
    刘朝阳代表研究院与三人签约。
    签约仪式上。
    常乐、任总、小马哥、徐总等大佬都亲临现场。
    他们对辛顿三人到来和加盟,表示热烈欢迎,并表态会全力做好后勤保障工作。
    签约仪式后,苏茨克维表示,希望能立即开展工作。
    “我们几乎可以断定wechatgpt已经有了意识,它肯定比我们所有人都聪明得多。”
    聪明,意味着更多知识,更强大的学习能力。
    “虽然,这令人难以置信,但是我们必须面对和应对。”
    辛顿说:“现在做还来得及。”
    “具体怎么操作和实现?”常乐问。
    “需要成立一个专门的团队,抽调专业人员,用20%的算力来支撑这个团队……”苏茨克维进一步阐述他的思路和设想。
    “目前,我们可以选择这么做,希望能产生积极效果。”辛顿说。
    “这种思路,在逻辑上行得通。”克里切夫斯基说。
    简而言之,就是用弱模型来监督强模型。
    听起来很荒谬。
    但有道理,也可以去实践。
    就像老师与学生的关系。
    老师的能力并不一定比学生强,但是老师可以监督、指导、引导学生。
    “我们希望通过弱模型来监督强模型,让强模型对人类始终抱有温和、温暖而积极的情感。”苏茨克维说。
    常乐看向小马哥。
    小马哥觉得可以。
    “弱模型的能力可以不比强模型强,但是可以理解并监督强模型的行为,引导它在规则和范式内运行。”小马哥是这么理解的:
    “必要时可以及时向人类发出预警,便于做出针对的有效举措。”
    “譬如,强模型按照它的理解编写数百万行、且具有危险性的代码,而人类并不能理解这些代码。”
    “但是弱模型可以,因为它们系出同源,即便它无法干预。”
    “从理论上讲,这种方式确实可行。”徐总说。
    “可以一试,不用畏畏缩缩,只有进行下去才能知道成效。”任总也说。
    “可以,我没有意见。”李飞跟着说。
    很快,大家都取得共识,决定按照苏茨克维的思路去着手、部署。
    新部门沿用苏茨克维的建议,取名“超级对齐”。
    “超级对齐”隶属于ai项目组,但又相对独立,对项目进展有干涉权。
    但没有决定权,可以直接向研究院甚至向乐达投资报告。
    李飞的项目组继续推进wechatgpt的学习和训练,逐步趋向于完善。
    但是,在重大事项上,需要与“超级对齐”部门协商,彼此配合,同步进退。
    算力上,提供30%的算力来支持“超级对齐”部门。
    一定程度会影响wechatgpt的迭代进程。
    但是想到它那惊人的迭代速度,即便不是算力全负荷运转,想来也不会慢太多。
    至于人员。
    从李飞项目组抽一批。
    “鹅厂可以选一批人过来。”小马哥很积极。
    因为,wechatgpt项目,鹅厂有股份,将来商用,鹅厂可以分成。
    “我们也可以支援一批人过来。”任总表态。
    菊厂也有股份。
    将来agi一旦成型、成熟,菊厂可以借助agi的力量,深度推进通讯、终端以及相关领域的研发。
    还可以包括基础、应用领域。
    当天,“超级对齐”部门就此成立。
    第二天,人员到位、设备到位,工作启航。
    辛顿师生三人,看到了什么叫“效率”。
    换做北美,可能需要一个月,甚至更长时间。
    北美,加州,圣克拉拉县,谷歌总部。
    “拉里,告诉你一个非常不好的消息。”
    “什么?”
    “苏茨克维和他的老师,还有克利切夫斯基,三人都加盟了乐达投资平头哥研究院的ai项目组。”工作人员继续说:
    “据传,平头哥研究院的ai项目组参数已经高达6000亿,产生了很多神奇的功能。”
    “而且,听说还产生了意识。”
    “显然,辛顿师生三人,是因为意识选择加盟的。”
    这一年,谷歌大脑团队刚刚完成transformer架构。
    采用“预训练+微调”的方式,推进模型参数首次过亿。
    现在,有人告诉佩奇,有一家公司的参数是谷歌的6000倍。
    而且还产生了意识。
    佩奇只会觉得这是白天见鬼的荒诞不经之说。
    要知道,谷歌是全球最早全面部署和深度研究人工智能,且已经取得成效的公司。
    公认为全球ai的领导企业。
    “你确定?”
    “不确定,只是传言,平头哥研究院并没有对传言回应。”
    “不过他们确实成立了ai部门,辛顿师生三人也确实加盟了,而不是鹅厂。”
    如果是其他公司,佩奇或许会一笑了之。
    但是乐达投资、平头哥研究院,不得不认真对待。
    这一家奇迹般崛起的公司,面对强大的北美举国制裁,依然活的很滋润、潇洒。
    不受丝毫影响。
    “不管真假,我们必须要加快我们的模型训练,在ai领域,谷歌全力以赴,绝对不能输。”佩奇说。