淘宝淘宝网麦包包

阳振坤yangzhenkun@gmail.
com2011年10月14日淘宝网海量数据存储与管理关于淘宝你可能不知道的……存储与处理哪些数据如何存储怎么处理淘宝数据库有何特别之处OceanBase是什么Agenda关于淘宝2003年5月10日成立,办公地点杭州/北京,员工6000+人,工程师40%…3.
7亿注册用户平均每天20亿PV,6000万登录,800万笔交易平均每分钟卖出:4.
8万件商品,包括864件衣服,36部手机、880件化妆品、85本书…300万人就业淘宝年度交易额80.
2149.
96443999.
62083050010001500200025002003200420052006200720082009数据来自公开媒体亿元人民币淘宝网站流量数据来源:www.
alexa.
com关于淘宝你可能不知道的……存储与处理哪些数据如何存储怎么处理淘宝数据库有何特别之处OceanBase是什么Agenda淘宝数据(1):离线数据39PB+,每天新增50TB2000+台服务器Hadoop机群,每天40000+个MapReduce作业2010年淘宝上最畅销手机价格2010年什么年货最畅销什么地方人最钟爱大闸蟹淘宝数据(2):在线图片商品图片(效果图,描述图),交易快照,2700TB+…淘宝文件系统TFS实时响应,同城热备+异地灾备淘宝为什么要存储这些图片淘宝数据(3):结构化数据商品、用户、订单、评价……商品等的存储、修改及展示依赖于对应的结构化数据的存储、修改和查询数据库是可靠、高效地实现以上操作的最佳手段关于淘宝你可能不知道的……存储与处理哪些数据如何存储怎么处理淘宝数据库有何特别之处OceanBase是什么Agenda淘宝数据库特点访问量大:每天几亿~几百亿次访问数据量大:单表几亿~几百亿条记录"Oracle数据库+小型机+高端存储"已成为历史数量多:以千计的数据库服务器非常关键:几乎所有淘宝业务都依赖DBMS:分库与分表业务逻辑支持扩展性、容错及故障恢复缓解了数据量大与访问量大的挑战IOPSvs.
固态盘(SSD)分表后事务OceanBase数据库跨行跨表事务(ACID)千亿条记录,无需分库分表自劢容错和故障恢复淘宝研发,基于普通PC服务器容量与性能可随服务器数量而增加适合SSD(无随机磁盘写)设计思想数据总量大,但更新比例小增量数据:劢态B树,内存+SSD基准数据:静态B+树、分布式存储(磁盘或SSD)数据=基准数据+增量数据系统架构ClientChunkServer/MergeServerRootServer/UpdateServer(主)RootServer/UpdateServer(备)ChunkServer/MergeServer元数据增量数据数据融合基准数据基准数据更新新的基准数据=旧的基准数据+增量数据快照,ChunkServer(s)低优先级+低负载时段基准数据多副本不必要同步基准数据多副本必须一致写性能&扩展性UpdateServer:B树+Copy-on-write,10万TPS+100万QPS(内存)Groupcommit+带电池/电容RAID卡万兆网卡主备机+主备机群一主多备,主写备读内存+SSD容错&故障恢复单机群:3数据副本同城热备(实时日志同步):2+2数据副本远程灾备(准实时日志同步):2+2+2数据副本数据记录自校验(磁盘&网络)在线切换、在线升级(不停服务)数据丢失几率分析n台设备,年度故障率,则单机t小时内故障概率为=*t/(360*24)恰好0台故障:(1-)n恰好1台故障:n**(1-)n-1恰好2台故障:n*(n-1)/2!
*2*(1-)n-2恰好3台故障:n*(n-1)*(n-2)/3!
*3*(1-)n-3……数据丢失概率收藏夹线上运行状况1.
2亿次/天访问单表超过60亿条记录服务器数量:16*214*26*2半年前上线平均查询响应时间:~80ms源码开放淘蝌蚪:数十个开源项目/工具http://code.
taobao.
org/TFS:淘宝分布式文件系统TAIR:淘宝分布式CACHE服务OceanBase:淘宝海量数据库http://oceanbase.
taobao.
org/……关于淘宝你可能不知道的……存储与处理哪些数据如何存储怎么处理淘宝数据库有何特别之处OceanBase是什么AgendaThanks邮件:yangzhenkun@gmail.
com微博(淘正祥):http://weibo.
com/1070095910博客:http://blog.
sina.
com.
cn/kern0612Q&A