黄仁勋圆桌论坛对话 Transformer 论文七大作者

在今年的GTC大会上,英伟达的黄仁勋以一种充满仪式感的方式邀请了Transformer的七位作者(Niki Parmar因故临时未能出席)参与圆桌论坛的讨论,这是七位作者首次在公开场合集体亮相。他们在对话中也表达了一些令人印象深刻的观点:

● 这个世界需要比Transformer更好的东西,我想我们在座的所有人都希望它能被某种东西所取代,将我们带到一个新的性能高原。

● 我们在最初的目标上并没有成功,我们开始Transformer的初衷是想要模拟Token的演化过程。它不仅仅是线性的生成过程,而是文本或代码的逐步演化。

● 像2+2这样的简单问题,它可能会使用大模型的万亿参数资源。我认为自适应计算是接下来必须出现的事情之一,我们知道在特定问题上应该花费多少计算资源。

● 我认为当前的模型太过经济实惠,规模也还太小,大概1美元百万toke的价格,比外出购买一本平装书要便宜100倍。

黄仁勋圆桌论坛对话 Transformer 论文七大作者

原文连接

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索
error: 您点击的内容受到保护~