Sign In

Latest Articles

324 articles · Fresh posts aggregated from independent blogs across the directory.

LLil'LogLil'Log·Jan 2, 2021

Controllable Neural Text Generation

[Updated on 2021-02-01: Updated to version 2.0 with several work added and many typos fixed.] [Updated on 2021-05-26: Add P-tuning and Prompt Tuning in the “prompt design” section.] [Updated on 2021-09-19: Add “unlikelihood training”.]

lilianweng.github.ioRead article
壹壹拾肆壹拾肆·Nov 21, 2020

是时候维护一个属于自己的开源库了

使用 GitHub 很久,除了无脑 star、fork 大神们的仓库、输出一些学习代码以外,对于 GitHub 本身的贡献似乎寥寥。Arctic Code Vault Contributor 的勋章我受之有愧。如果你也有和我类似的想法,那么,是时候可以尝试一下维护一个自己的开源库了。 维护一个开源库,听起来很简单,但是真正要开始动手,似乎颇有些千头万绪,无…

kaaaaai.cnRead article
壹壹拾肆壹拾肆·Oct 26, 2020

推荐几个播客节目

因为最近有点用眼过度,所以在空闲时间想找一件尽量可以不用到眼睛又能涨知识的事情做。我先想到的其实是听书和听线上的付费课程。 听书不太习惯,原因是许多原本通过看书看到的书面语,从看到变为听到,在从声音转换成画面的这个过渡里,总会有因为追不上朗读者稳定而平均的朗读速度而造成的空白。有时思绪想在某些段落稍作停留,有时又因为对当前段落的后续发展有了预见性的推测,想…

kaaaaai.cnRead article
壹壹拾肆壹拾肆·Oct 2, 2020

业余剪辑自我修养

陆陆续续的剪了不少视频,在过程中也有一点收获,遂做个笔记,也做分享。 剪辑软件的选择 随着短视频和自媒体的兴起,市面上陆陆续续的涌现出很多面向不同用户群体的视频软件,有的偏向使用简易,有的偏向特色功能。抛开移动端的 App,在 PC 端上剪辑视频有以下一些主流选择: 视频编辑软件 最适合于 运动追踪 多相机 3D编辑 360° VR XAVC-S Adob…

kaaaaai.cnRead article
LLil'LogLil'Log·Aug 6, 2020

Neural Architecture Search

Although most popular and successful model architectures are designed by human experts, it doesn’t mean we have explored the entire network architecture space and settled down with the best option. We would have a better chance to find the optimal solution if…

lilianweng.github.ioRead article
How GPT3 Works - Visualizations and Animations
JJay AlammarJay Alammar·Jul 27, 2020

How GPT3 Works - Visualizations and Animations

Discussions: Hacker News (397 points, 97 comments), Reddit r/MachineLearning (247 points, 27 comments) Translations: German, Korean, Chinese (Simplified), Russian, Turkish The tech world is abuzz with GPT3 hype. Massive language models (like GPT3) are startin…

jalammar.github.ioRead article
壹壹拾肆壹拾肆·Jul 18, 2020

被光放弃的人

看科幻小说常常会感到一种作为人类的自卑感,对于宇宙来说,我们只是其中数以亿计星球中的一个,即使拥有灿烂的文化和恢弘的历史,也一粒尘埃反射出的微弱光芒。 而作为个体,虽然每个人都有自己引以为傲的事情,经历过的人和事、在事件中的感受,我们也因为这些而变得与众不同。然而目光宇宙,时间、空间,都能比量出我们的不值一提。甚至可能只是一场灾难,我们日常曾以为很深刻的痛…

kaaaaai.cnRead article
壹壹拾肆壹拾肆·Jul 16, 2020

OC - 多代理的实现

一、背景 迭代项目的时候碰到一个问题, 原因是负责的内容有一项是封装各大 AI 开放平台的 SDK 集成到一个 SDK 里,然后输出统一的接口,目的是为了可以在不同的 AI 中快速切换并使用。但由于之前输出给了兄弟公司使用,他们在一个音乐 SDK 中用语音 SDK 实现语音点歌的功能。然后当我的主应用同时使用两个 SDK 时,由于音乐 SDK 中实现了语音…

kaaaaai.cnRead article
LLil'LogLil'Log·Jun 7, 2020

Exploration Strategies in Deep Reinforcement Learning

[Updated on 2020-06-17: Add “exploration via disagreement” in the “Forward Dynamics” section. Exploitation versus exploration is a critical topic in Reinforcement Learning. We’d like the RL agent to find the best solution as fast as possible. However, in the…

lilianweng.github.ioRead article
LLil'LogLil'Log·Apr 7, 2020

The Transformer Family

[Updated on 2023-01-27: After almost three years, I did a big refactoring update of this post to incorporate a bunch of new Transformer models since 2020. The enhanced version of this post is here: The Transformer Family Version 2.0. Please refer to that post…

lilianweng.github.ioRead article
壹壹拾肆壹拾肆·Apr 4, 2020

上帝会掷几次骰子

看了一本图说量子物理学史的书,《上帝的骰子》,书名来自于爱因斯坦的一句话:上帝不会掷骰子。去年也有一本书很火叫《量子物理史話:上帝掷骰子嗎?》,不说大家为什么都一窝蜂的抓着骰子不放,从这些现象我们可以看出,量子的不确定性的迷人魅力让许多人趋之如骛。

kaaaaai.cnRead article
壹壹拾肆壹拾肆·Mar 22, 2020

社畜都爱 GTD

用了很久 GTD 工具,才知道它的全拼是 Getting Things done(把事情做好),而不是 Get to do(快去做)。虽然意思差不多,但是情绪上好像一个是在昂首挺胸向前迈进,另一个是无可奈何负重前行。看过关于很多关于时间管理的文章,每个作者侧重点和方向不同,都给我带来一定的收获。虽然在用心程度,耕耘深度都不如写文章的大佬们,但还是想写一下自…

kaaaaai.cnRead article
HHello World: Re-ActHello World: Re-Act·Mar 15, 2020

思否这个中文名的由来

在很长的一段时间思否社区一直只有 SegmentFault 这个英文品牌和 segmentfault.com 这个全拼域名,虽然这个单词对于程序员来说并不陌生,但是依然有很多人不知道怎么读,对于非程序员来说记住如何拼写就更加困难了。 短域名 sf.gg 当时为了让大家更快速地访问社区,我们在 2012 年底启用了 sf.gg 这个短域名,当然这个非主流后缀域名由于在中国无法备案,只能用来做跳转域名

gaoyang.devRead article
壹壹拾肆壹拾肆·Mar 14, 2020

Git - Submodule 使用简单教程

最近在项目中使用了 Git Submodule 的功能,好处是如果是自己开发的封装库,比较方便调试,push 时可以同时上传项目和库的修改,别人通过主仓库地址下载工程的时候速度也会快上一些。 Git Submodule 的使用可以通过终端命令来操作(Git Submoudle 使用完整教程),或者通过 Git 第三方可视化客户端直接操作。本文展示的是通过 …

kaaaaai.cnRead article

Page 16 of 18 · 324 articles