小贝壳爸爸

天桥扛把子


  • 首页

  • 分类

  • 关于

  • 归档

  • 标签

Percolator

发表于 2017-09-26 | 分类于 paper

引入原因

Google索引系统上百PB的数据量,每天更新量在数十亿。目前使用了bigtable进行存储,但是更新效率不高,MR基本用于全量更新。故开发了Percolator系统,用于增量数据的更新。

阅读全文 »

事务快照行为对比测试

发表于 2017-09-25 | 分类于 cockroachdb

snapshot vs RR

RR隔离级别属于正式规定的四种隔离级别中的一种,SS属于一种衍生的隔离级别。

两者均通过MVCC实现快照读,读不上锁,写上锁。

两者的区别是在出现冲突写的情况时:

  1. RR只会阻塞冲突写,待一方事务结束(commit或rollback),等待的事务继续执行。
  2. SS会阻塞冲突写,持有锁的事务COMMIT提交后,等待的事务必须回滚。

SS隔离级别更高。

阅读全文 »

HDFS故障恢复技术

发表于 2017-09-20 | 分类于 hdfs

什么是lease?

client write请求之前需要申请一个lease,类似于一个锁,此锁有超时时间,如果client需要持续更新的话,需要定期renew lease,达到长期占有写锁的期望。

如果client lease到期,但是没有正常close文件,那么master就会强制关闭client的连接,并对之前client操作的replica进行lease recovery.

阅读全文 »

MapReduce: Simplified Data Processing on Large Clusters

发表于 2017-09-18 | 分类于 mit-6.824

摘要

MapReduce是用于大规模数据的新的编程模型,map对KV数据进行处理,生成中间KV结果,reduce对中间结果按照KEY进行分组操作。

阅读全文 »

Bash Shell常用快捷键

发表于 2017-09-17 | 分类于 linux

移动光标

  • ctrl+b: 前移一个字符(backward)
  • ctrl+f: 后移一个字符(forward)
  • alt+b: 前移一个单词
  • alt+f: 后移一个单词
  • ctrl+a: 移到行首(a是首字母)
  • ctrl+e: 移到行尾(end)
  • ctrl+x: 行首到当前光标替换
阅读全文 »

查找MySQL Table Lock

发表于 2017-09-16 | 分类于 mysql , mysql运维

现场问题

客户使用Xtrabackup在进行备份,今天上班发现数据库完全不能使用了。通过processlist看到如下信息。

阅读全文 »

宜家体验日

发表于 2017-09-14 | 分类于 小贝壳

宜家开业快1个月了,据说开业的时候排队要3个小时才能进店。
今天专门请了一天假,带着老婆孩子来逛逛,几个月之后就要布置新家了,正好提前看看。

阅读全文 »

源码安装cockroachdb

发表于 2017-09-14 | 分类于 cockroachdb

安装

1
2
3
4
5
6
7
8
9
10
11
12
13
$ go get github.com/cockroachdb/cockroach
$ cd $GOPATH/src/github.com/cockroachdb/cockroach
$ make build
$ sudo make install
$ cockroach version
Build Tag: 341f413
Build Time: 2017/09/13 23:39:20
Distribution: CCL
Platform: darwin amd64
Go Version: go1.8.1
C Compiler: 4.2.1 Compatible Apple LLVM 8.1.0 (clang-802.0.42)
Build SHA-1: 341f4134c1e99e9e1a404d6984f15815120af5be
Build Type: development
阅读全文 »

Got error 122 from storage engine

发表于 2017-09-13 | 分类于 mysql , mysql运维

现场问题

客户重库SQL线程报错如下:

1
2
Last_Errno: 1030
Last_Error: Error 'Got error 122 from storage engine' on query .....
阅读全文 »

What’s Really New with NewSQL?

发表于 2017-09-13 | 分类于 cmu-15-721

摘要

NewSQL是真的优于传统的RDBMS,还是只是销售的噱头?

如果是真的优于传统的RDBMS,那么其科学依据是什么?

阅读全文 »
1…678
Louis

Louis

记录工作和生活点滴

75 日志
22 分类
108 标签
GitHub
© 2018 true
由 Hexo 强力驱动
|
主题 — NexT.Mist v5.1.3