数据与存储 · 进阶
缓存(Cache)
把常用、取一次要花点时间的数据先复制一份放在近处,下次直接取。能明显变快,代价是这份副本可能已经过时。
TL;DR三十秒版本
- 把常用、取一次费点劲的数据先复制一份放到近处,下次直接拿。
- 它换来的是快,代价是这份副本可能已经过时。
- 它只是抄本,清空了顶多慢一下,不会丢真数据。
Overview详细说说
缓存是把取一次比较费劲、但马上还要再用的东西,先复制一份放在近处。好比做菜时把盐糖酱油摆在灶台边,随手就够得着,不必每样都回储藏室翻箱倒柜,一顿饭能省下不少来回。
它存在只为一个字:快。数据从远处取要花时间,从手边取几乎瞬间完成;代价是这份副本可能已经过时,所以缓存都有多久算旧的规矩,到点就作废重取,宁可稍慢也不能拿旧数据骗人。
你和 AI 工具打交道时天天在享用它。AI 的上下文缓存就是把刚才聊过的内容先存好,下次接着聊时不必从头再讲一遍,既省下重复的调用费用,回复也更快。
现实里的缓存还是分层的:离你最近的一层最快,也最小,只放最常用的那点东西;越往外越大也越慢。浏览器、手机、机房里各有一层,一次请求往往要穿过好几层,才轮到数据库出手。
关键区别是:缓存和数据库不是一回事。数据库是唯一靠谱的正本,缓存只是随时可以丢掉的抄本——正本丢了才叫灾难,缓存被清空顶多让你慢一下,重新取一遍就回来了。
所以判断一处该不该用缓存,先问两个问题:这东西是不是被反复读取、能不能容忍偶尔拿到旧版本。两个都是,加上去就很值;只要有一个不是,硬加反而添乱。
Myths常见误解
- ✕以为放在缓存里的就是最新数据 ✓它只是份抄本,可能已经过时,都有一条用多久就作废重取的规定
- ✕以为缓存被清空就等于数据丢了 ✓它是一个随时可以扔的副本,清掉顶多让你慢一下,重新取一遍就回来了
- ✕以为几乎所有数据都该加一层缓存 ✓得同时满足常被反复读、又能容忍偶尔拿到旧版本,两个缺一个就没必要
In practice你会在哪用到它
- 接着上次的话题继续聊,AI 不必把你之前说过的话再听一遍,回复明显快些
- 刷新同一个网页,第二次明显比第一次快,多半是近处存了一份
- 判断一个页面要不要加缓存时,先想它多久变一次、旧一点能不能忍
Summary记住这几点就够了
- 把常用的数据提前复制到手边来取用
- 用额外的空间和新鲜度换来更快的读取
- 它只是一份副本,被清空也不会丢数据
- AI 的上下文缓存能省下重复调用费用、加快回复
常见问题
缓存(Cache)是什么意思?
把常用、取一次费点劲的数据先复制一份放到近处,下次直接拿。它换来的是快,代价是这份副本可能已经过时。它只是抄本,清空了顶多慢一下,不会丢真数据。
缓存(Cache)一般用在什么地方?
接着上次的话题继续聊,AI 不必把你之前说过的话再听一遍,回复明显快些;刷新同一个网页,第二次明显比第一次快,多半是近处存了一份;判断一个页面要不要加缓存时,先想它多久变一次、旧一点能不能忍。
关于缓存(Cache),最容易搞错的是什么?
以为放在缓存里的就是最新数据,其实它只是份抄本,可能已经过时,都有一条用多久就作废重取的规定;以为缓存被清空就等于数据丢了,其实它是一个随时可以扔的副本,清掉顶多让你慢一下,重新取一遍就回来了。
缓存(Cache)要记住哪几点?
把常用的数据提前复制到手边来取用;用额外的空间和新鲜度换来更快的读取;它只是一份副本,被清空也不会丢数据;AI 的上下文缓存能省下重复调用费用、加快回复。
容易踩的坑 缓存里的东西可能已经过时,不能把它当成唯一的数据来源。
全站第 150 / 186 条 · 全部词条
接着读Related reading
日志(Log)
软件自己记下的运行流水,什么时候启动、谁访问了什么、哪里报错都按时间排好。程序出问题时,翻它往往是最快的线索。
Excel(电子表格软件)
微软出品的电子表格软件,一格一格放数字和文字,不写代码也能算账、画图、做统计。几乎每台办公电脑里都装着它。
数据库(Database)
专门存数据的仓库,按固定方式摆好,要什么精准取什么。能同时服务很多人,还得保证数据不丢、不出错。
数据可视化(Data Visualization)
把一行行枯燥的数字变成图,让趋势和异常一眼看出来。做报表、开会做汇报时,一张图顶得过一大片表格。
CSV(逗号分隔值)
最简单的表格文件,一行一条记录,用逗号把各项隔开。几乎所有软件都能打开它,交换数据时最常被拿来当中转。
PostgreSQL(开源数据库)
一款免费开源的数据库软件,功能强、稳定性好,常被简称 Postgres。不用买授权就能拿去做正经项目。