710公海寰宇(中国)有限公司-一张贺年卡里，能有多少尖端AI技术？
作者 | 董子博
编纂 | 岑峰
夏历新春快要，新一届“贺年文学年夜赛”又要最先了。
一到此时，各路贺年祝愿就争奇斗艳，层见叠出。想要文义柔美、辞藻活泼，本就让不少人想破脑壳；假如再想配上一幅柔美的图片，原创且有新意，更是成为了每年的浩劫题。
往年“卷”患上不行的贺年动静，于今天只需输入简朴几句话，就能轻松弄定。而这暗地里，天然是AIGC技能的庞大赋能。
这张由智谱AI天生的拜年卡，不仅不花甚么功夫，还有包罗了一段年味统统的祝愿语，及一张精致的图片，假如有心，还有能附上一首拜年的诗词。一眼看上去平平无奇，但现实上，倒是尖端AIGC技能的集中表现。先说说每一年最使人头疼的祝愿语：于这张祝愿卡上，仅凭寥寥几句指导语，由清华年夜学KEG试验室及智谱AI研发的开放问答呆板人小呆（XDAI）就可以完成一段相称高质量的祝愿，甚至还有能实现压韵。但这还有其实不是XDAI最强盛的功效，短短一段祝愿语暗地里，小呆还有有着可以或许完成有逻辑、有内容的对于话实力。年夜范围预练习语言模子（PLM）于最近几年来的进展有目共睹，特别是ChatGPT横空出生避世，更是给PLM圈粉无数，吸引了年夜量存眷。但也有学者看到，于年夜模子下构建基在常识的对于话体系，实现常识资源的网络，并按照使命调优，对于在小我私家开发者来讲成本过高。这也就让这项技能于落地上门坎过高，盖住了一多量有兴致的开发者。XDAI的提出，就是针对于上面的环境，旨于闪开发职员无需微调，便可使用PLM，快速创立开放域对于话体系，并可以用Prompt（指导语）定制本身的特定域体系。这也是XDAI最强盛的能力，它不仅能借此完成颇具年味的文字天生，还有能经由过程设计差别的Prompt，告竣对于XDAI“人设”、甚至“性格”的调解，来设计一个愤慨版、抑郁版、暖心版等差别版本的“小呆”。说回拜年卡，假如你感觉“小呆”为你天生的文字不敷诗意，你可以呼叫“悟能”，让它来帮你写作一首诗。“悟能作诗”是智谱AI开发的，一个于PLM的基础上开发的AI作诗平台。于原先的PLM中，只管模子已经经可以或许天生不错的文字内容，但却往往缺少对于在问题主题的专注。于对于话中，这个弱点可能白璧微瑕；但于诗歌创作上，缺少主题却相称致命。在是，开发者想到，可使用Inverse Prompting的方式，来防止这个弱点——使用天生的文本去回复复兴给定的标题，于经由过程对于天生语句的打分，共同梁式搜刮，每一天生一个短句，就举行一次评分，并保留分数最高的内容。再利用这个要领，“悟能”可以或许进修本身天生的内容，对于本身的内容打分，并以此做微调，增强自身作诗的能力。于“悟能作诗”，雷峰网(公家号：雷峰网)以“新年”为要害词，并限制了“哀痛”的情绪，终极天生的成果以下：新年【悟道】 气势派头: 李白(唐)圣历初开岁 云山半老时
七轮才偃月 九陌乱填丝
曙角分龙节 寒尘敛隼旗
元宵几处玩 禁火夜弥迟
末了再说说，这张拜年卡暗地里，图片天生的AIGC产物——CogView。
CogView的算法框架分为VQ-VAE及Transformer两部门，对于图象及文本举行年夜范围天生式结合预练习，起首以VQ-VAE将图象压缩成Token，再将其输入Transformer举行天生练习；反其道而行之，也能够将Transformer输出的Token作为依据，天生图象。
于文字、诗歌、图片天生的范畴，AIGC都担当了主要的事情。而于小呆、悟能、CogView的暗地里，都有年夜范围语言练习模子GLM-130B的影子。
这个由清华年夜学计较机系KEG试验室，及智谱AI开发的开源双语年夜范围语言练习模子，于前些时间的基准测试上跨越了OpenAI的GPT-3及google的PALM，而且以开源的情势，作为开源年夜模子的中国气力，普惠泛博的利用者。
一张小小的拜年卡，暗地里是一个开源年夜模子的撑持，及三种AIGC的尖端技能。于将来，AIGC技能可能也会给一年一度的“贺年文学年夜赛”画上句点。
后续咱们会进一步对于GLM-130B举行专项的写作及报导，假如感兴致的话，可以加本文作者微信交流：william_dong。
更多内容，点击下方存眷：
未经「AI科技评论」授权，严禁以任何方式于网页、论坛、社区举行转载！
公家号转载请先于「AI科技评论」后台留言取患上授权，转载时需标注来历并插入本公家号手刺。
雷峰网
雷峰网版权文章，未经授权禁止转载。详情见转载须知。
-710公海寰宇(中国)有限公司)
