手机浏览器扫描二维码访问
第109章 OpenAI最近有点儿跳得限制一下（第1页）
第109章OpenAI最近有点儿跳，得限制一下！
郝成请了一顿饭，何钢吃了满肚子的心事。
饭局刚刚一结束，他就立刻回到酒店，联系上了于东。
“老何，我咋发现你每次一去临州，都会变得这么慌慌张张的呢？”
于东甚至调侃上了。
“你先别忙，听我说。”
何钢仔细的将郝成在车上的话简单跟于东复述了一遍，而后总结道：“可不要看这东西是郝成在扯闲篇，是在泛泛而谈大路的概念，是没有透露任何AI训练方法的。
“但实际上，他这个泛泛而谈，跟我们一大群人去聊天，他不一样！”
“我知道，他已经训练出小沙了，他的大路概念那是正确的概念。”
于东长长的呼了口气：“从这泛泛而谈中或许能找到方向。
“但光听这些也没有用啊！”
思索了很久，于东也是无奈道：“你说的所有的东西，我只能总结出三个字‘类似人’，而这种方向，团队早就考虑过了。
“但现在的问题不是方向，是方法，我们没有找到任何的方法。
唯一的好消息是，我们以传统方式训练AI的成本也大大的降低了，效率却大大的提高了。”
于东说的这个倒是实情，不仅仅是华为、抖音、腾讯甚至OpenAI，训练AI的成本都降低了。
究其原因，也很简单，他们让小沙帮他们做数据清洗、标定和反馈。
数据清洗原本是一个非常复杂且繁琐的工作，也是训练AI非常关键的步骤，数据清洗的质量越高，AI训练的质量也就越高。
以往，这个工作都是由人工来实现的，也有用AI来做的，但是效果就会很差，往往会投喂一些垃圾数据，造成模型被污染，进而产生一些低级错误。
而现在有了小沙，这项工作可以更快速的进行，准确率甚至不比人工清洗差。
而更关键的一个问题，以往GPT类的模型，是RLHF，也就是基于人类反馈的强化学习。
怎么做的呢：就是先预训练一个语言模型，然后做微调。
微调怎么调呢：就是你问一个问题，语言模型给你回答，然后人工给这些回答进行排名，然后获得一个有质量排序的数据集，用这个数据集反过来再去微调相关的模型参数，一遍又一遍循环往复，然后答案就会越来越接近人想要的。
而现在，小沙代替了人工的这个步骤。
RLHF模型先前被认为不可能无限提高，其中最重要的一个原因就是，随着参数越来越多，数据量越来越大，人工去获取一个有质量排序的数据集也变得越来越不可能。
于是有人就认为，自我反馈模型，也就是让模型自我去评价去提升的模型才是未来，纵然它有时候显得很弱智。
但是现在，有了小沙，小沙替代【基于人类反馈的强化学习】里边的人类，变成了【基于小沙反馈的强化学习】，这一切就又变得可能了！
不仅解决了自我反馈容易弱智的问题，同时解决了人工反馈效率过低、成本过高的问题。
这就相当于将两个模型的优点直接结合了。
而且，超大规模超超大规模，也不用担心人工的问题了。
所以，各家的模型现在进步都非常大，原因就在于此。
想要变得跟小沙一样厉害，那当然不可能——基于小沙训练的AI想超过小沙那本身就是一个悖论。
但是，只要舍得堆积算力，无限的堆积算力，再加上用小沙代替人类进行反馈的强化学习，理论上最终能极限逼近小沙的水准。
当然，理论只是理论，现实中不存在无限算力，考虑实际情况，用这种方式结合超大算力训练一年，达到小沙的六七成水准应该是可能的。
第109章OpenAI最近有点儿跳，得限制一下！
华为这边默默的评估过，现在几乎所有的AI训练企业都在偷偷的这么干。
“需要跟郝成说一下这个情况吗？”
何钢问了一嘴。
“这他应该知道吧？”
裁员后我成了科技教父无防盗章节 绝尘烟客原创新书太子妃位被夺我转身嫁太子他爹 孽海海棠文无删减 和离之后 笼中雀by陆慕言苏溶月翠微居完整版 言淼宋遇宁笔趣阁免费阅读 主角叫陆凌瑶的小说 媚人小说主角陆慕言苏溶月 辰小序原创新书裁员后我成了科技教父 魏劭小乔折腰笔趣阁未删减版 孽海 太子妃位被夺我转身嫁太子他爹陆凌瑶免费阅读无错版 孽海by言淼宋遇宁翠微居完整版 和离之后海棠文无删减 裁员后我成了科技教父郝成免费阅读无错版 太子妃位被夺我转身嫁太子他爹无防盗章节 和离之后by陈令安袁固翠微居完整版 陆凌瑶太子妃位被夺我转身嫁太子他爹笔趣阁未删减版 陈令安袁固笔趣阁免费阅读 勤劳的小野猫小说主角言淼宋遇宁
封疆女臣
封疆大臣的位置是林染自己辛苦挣来的。孩子是林染自己生的。现在的一切地位权势都是她应得的。她不是那些花瓶，生死不由自己，手握实权的封疆大臣，就是有资格肆意妄为。如果您喜欢封疆女臣，别忘记分享给朋友...
斗罗：觉醒沙盒武魂的我只想种田
谢邀。我叫林枫，刚出生就跟着父母被人追杀，而我侥幸被魂兽所收养，如今离开星斗大森林，辣鸡系统激活后就提示需要更新玩失踪系统没更新完毕，没有修炼功法，我现在慌得一批。直到觉醒武魂时，我手里出现了一个草方块模样的武魂。素云涛这是个啥？林枫你问我？此时的林某人表面淡定，其实内心激动得想要跳起来给涛哥一个盖帽！本书关键词斗罗大陆我的世界苟。如果您喜欢斗罗觉醒沙盒武魂的我只想种田，别忘记分享给朋友...
李青的奇妙冒险
关于李青的奇妙冒险我，李青，有系统。系统是什么玩意？这明明就是替身攻击！...
带着无限火力狗头技能穿越仙侠
通宵玩下英雄联盟无限火力模式，居然也能穿越仙侠世界！？还带着英雄联盟沙漠死神技能？哈哈哈，居然还带着无限火力BUFF！？李道天仰天狂笑，这妥妥的主角模板没跑了，注定秒天秒地秒空气啊！我吐！蚂蚁不能叠Q也就算了，杀鸡屠狗居然也不能叠Q！？怒！不能叠Q玩什么狗头！？我要你这无限火力BUFF有何用！？这也就算了，居然还没有灵根不能修仙？穿都穿了，难道不是主角！？当李道天已经准备放弃期盼之时，发现了技能的真正打开方式。…PS简介无力，欢迎看官大老爷，入内品鉴指点，这是带着英雄联盟无限火力BUFF，还有狗头技能，穿越仙侠世界的故事…。如果您喜欢带着无限火力狗头技能穿越仙侠，别忘记分享给朋友...
极限变身
这是一个全民变身的世界，遭遇冤屈，被迫充当替罪羊的陈赫，在沦为敌对公司的奴隶保镖之后，凭借自己的霸王龙变身和特殊能力，一步步披荆斩棘，重新成为自由人，进而成为领主王者，并最终成功复仇，实现王者归来！如果您喜欢极限变身，别忘记分享给朋友...
星际理疗馆
有着一头栗棕色头发，打着一个耳钉，身材伟岸，一双带着清晨露水的桃花眼，鼻梁俊挺，唇如玫瑰花瓣，棱角分明，看起来很潮很优越的魏逸豪，却烦恼不已学的专业从热门变冷门！毕业后，工作更是难找！吃饭房租都成了头等大事儿一次偶然的机会，穿越到了次元星球！科技充斥生活中的各个领域，方便得不要不要的方便！但是，星球人的幸福指数却是很低很低很低想不到这里的工作更比二十一世纪难找！万般无奈之下，用自己的冷门专业知识，开了一家理疗馆！想不到，居然在这里玩得风生水起！不但买房买车买飞船！赚得盆满钵满！还积累了大量的感情处理实战技巧！被人尊称为感情智库更是收获了刁蛮美少女的芳心好花不常开！好景难常在！刚刚享受超强科技带来的福气没多久，次元星球接二连三遭遇外星球的各种各样的攻击！他义无反顾，投身到保护星球的风口浪尖！看一个文弱书生，怎么纵横捭阖，炼成英雄次元未来世界，有心人，在这里等你如果您喜欢星际理疗馆，别忘记分享给朋友...