淘宝淘宝网麦包包
淘宝网麦包包 时间:2021-02-28 阅读:()
阳振坤yangzhenkun@gmail.
com2011年10月14日淘宝网海量数据存储与管理关于淘宝你可能不知道的……存储与处理哪些数据如何存储怎么处理淘宝数据库有何特别之处OceanBase是什么Agenda关于淘宝2003年5月10日成立,办公地点杭州/北京,员工6000+人,工程师40%…3.
7亿注册用户平均每天20亿PV,6000万登录,800万笔交易平均每分钟卖出:4.
8万件商品,包括864件衣服,36部手机、880件化妆品、85本书…300万人就业淘宝年度交易额80.
2149.
96443999.
62083050010001500200025002003200420052006200720082009数据来自公开媒体亿元人民币淘宝网站流量数据来源:www.
alexa.
com关于淘宝你可能不知道的……存储与处理哪些数据如何存储怎么处理淘宝数据库有何特别之处OceanBase是什么Agenda淘宝数据(1):离线数据39PB+,每天新增50TB2000+台服务器Hadoop机群,每天40000+个MapReduce作业2010年淘宝上最畅销手机价格2010年什么年货最畅销什么地方人最钟爱大闸蟹淘宝数据(2):在线图片商品图片(效果图,描述图),交易快照,2700TB+…淘宝文件系统TFS实时响应,同城热备+异地灾备淘宝为什么要存储这些图片淘宝数据(3):结构化数据商品、用户、订单、评价……商品等的存储、修改及展示依赖于对应的结构化数据的存储、修改和查询数据库是可靠、高效地实现以上操作的最佳手段关于淘宝你可能不知道的……存储与处理哪些数据如何存储怎么处理淘宝数据库有何特别之处OceanBase是什么Agenda淘宝数据库特点访问量大:每天几亿~几百亿次访问数据量大:单表几亿~几百亿条记录"Oracle数据库+小型机+高端存储"已成为历史数量多:以千计的数据库服务器非常关键:几乎所有淘宝业务都依赖DBMS:分库与分表业务逻辑支持扩展性、容错及故障恢复缓解了数据量大与访问量大的挑战IOPSvs.
固态盘(SSD)分表后事务OceanBase数据库跨行跨表事务(ACID)千亿条记录,无需分库分表自劢容错和故障恢复淘宝研发,基于普通PC服务器容量与性能可随服务器数量而增加适合SSD(无随机磁盘写)设计思想数据总量大,但更新比例小增量数据:劢态B树,内存+SSD基准数据:静态B+树、分布式存储(磁盘或SSD)数据=基准数据+增量数据系统架构ClientChunkServer/MergeServerRootServer/UpdateServer(主)RootServer/UpdateServer(备)ChunkServer/MergeServer元数据增量数据数据融合基准数据基准数据更新新的基准数据=旧的基准数据+增量数据快照,ChunkServer(s)低优先级+低负载时段基准数据多副本不必要同步基准数据多副本必须一致写性能&扩展性UpdateServer:B树+Copy-on-write,10万TPS+100万QPS(内存)Groupcommit+带电池/电容RAID卡万兆网卡主备机+主备机群一主多备,主写备读内存+SSD容错&故障恢复单机群:3数据副本同城热备(实时日志同步):2+2数据副本远程灾备(准实时日志同步):2+2+2数据副本数据记录自校验(磁盘&网络)在线切换、在线升级(不停服务)数据丢失几率分析n台设备,年度故障率,则单机t小时内故障概率为=*t/(360*24)恰好0台故障:(1-)n恰好1台故障:n**(1-)n-1恰好2台故障:n*(n-1)/2!
*2*(1-)n-2恰好3台故障:n*(n-1)*(n-2)/3!
*3*(1-)n-3……数据丢失概率收藏夹线上运行状况1.
2亿次/天访问单表超过60亿条记录服务器数量:16*214*26*2半年前上线平均查询响应时间:~80ms源码开放淘蝌蚪:数十个开源项目/工具http://code.
taobao.
org/TFS:淘宝分布式文件系统TAIR:淘宝分布式CACHE服务OceanBase:淘宝海量数据库http://oceanbase.
taobao.
org/……关于淘宝你可能不知道的……存储与处理哪些数据如何存储怎么处理淘宝数据库有何特别之处OceanBase是什么AgendaThanks邮件:yangzhenkun@gmail.
com微博(淘正祥):http://weibo.
com/1070095910博客:http://blog.
sina.
com.
cn/kern0612Q&A
com2011年10月14日淘宝网海量数据存储与管理关于淘宝你可能不知道的……存储与处理哪些数据如何存储怎么处理淘宝数据库有何特别之处OceanBase是什么Agenda关于淘宝2003年5月10日成立,办公地点杭州/北京,员工6000+人,工程师40%…3.
7亿注册用户平均每天20亿PV,6000万登录,800万笔交易平均每分钟卖出:4.
8万件商品,包括864件衣服,36部手机、880件化妆品、85本书…300万人就业淘宝年度交易额80.
2149.
96443999.
62083050010001500200025002003200420052006200720082009数据来自公开媒体亿元人民币淘宝网站流量数据来源:www.
alexa.
com关于淘宝你可能不知道的……存储与处理哪些数据如何存储怎么处理淘宝数据库有何特别之处OceanBase是什么Agenda淘宝数据(1):离线数据39PB+,每天新增50TB2000+台服务器Hadoop机群,每天40000+个MapReduce作业2010年淘宝上最畅销手机价格2010年什么年货最畅销什么地方人最钟爱大闸蟹淘宝数据(2):在线图片商品图片(效果图,描述图),交易快照,2700TB+…淘宝文件系统TFS实时响应,同城热备+异地灾备淘宝为什么要存储这些图片淘宝数据(3):结构化数据商品、用户、订单、评价……商品等的存储、修改及展示依赖于对应的结构化数据的存储、修改和查询数据库是可靠、高效地实现以上操作的最佳手段关于淘宝你可能不知道的……存储与处理哪些数据如何存储怎么处理淘宝数据库有何特别之处OceanBase是什么Agenda淘宝数据库特点访问量大:每天几亿~几百亿次访问数据量大:单表几亿~几百亿条记录"Oracle数据库+小型机+高端存储"已成为历史数量多:以千计的数据库服务器非常关键:几乎所有淘宝业务都依赖DBMS:分库与分表业务逻辑支持扩展性、容错及故障恢复缓解了数据量大与访问量大的挑战IOPSvs.
固态盘(SSD)分表后事务OceanBase数据库跨行跨表事务(ACID)千亿条记录,无需分库分表自劢容错和故障恢复淘宝研发,基于普通PC服务器容量与性能可随服务器数量而增加适合SSD(无随机磁盘写)设计思想数据总量大,但更新比例小增量数据:劢态B树,内存+SSD基准数据:静态B+树、分布式存储(磁盘或SSD)数据=基准数据+增量数据系统架构ClientChunkServer/MergeServerRootServer/UpdateServer(主)RootServer/UpdateServer(备)ChunkServer/MergeServer元数据增量数据数据融合基准数据基准数据更新新的基准数据=旧的基准数据+增量数据快照,ChunkServer(s)低优先级+低负载时段基准数据多副本不必要同步基准数据多副本必须一致写性能&扩展性UpdateServer:B树+Copy-on-write,10万TPS+100万QPS(内存)Groupcommit+带电池/电容RAID卡万兆网卡主备机+主备机群一主多备,主写备读内存+SSD容错&故障恢复单机群:3数据副本同城热备(实时日志同步):2+2数据副本远程灾备(准实时日志同步):2+2+2数据副本数据记录自校验(磁盘&网络)在线切换、在线升级(不停服务)数据丢失几率分析n台设备,年度故障率,则单机t小时内故障概率为=*t/(360*24)恰好0台故障:(1-)n恰好1台故障:n**(1-)n-1恰好2台故障:n*(n-1)/2!
*2*(1-)n-2恰好3台故障:n*(n-1)*(n-2)/3!
*3*(1-)n-3……数据丢失概率收藏夹线上运行状况1.
2亿次/天访问单表超过60亿条记录服务器数量:16*214*26*2半年前上线平均查询响应时间:~80ms源码开放淘蝌蚪:数十个开源项目/工具http://code.
taobao.
org/TFS:淘宝分布式文件系统TAIR:淘宝分布式CACHE服务OceanBase:淘宝海量数据库http://oceanbase.
taobao.
org/……关于淘宝你可能不知道的……存储与处理哪些数据如何存储怎么处理淘宝数据库有何特别之处OceanBase是什么AgendaThanks邮件:yangzhenkun@gmail.
com微博(淘正祥):http://weibo.
com/1070095910博客:http://blog.
sina.
com.
cn/kern0612Q&A
LOCVPS（29.6元/月）KVM架构 香港/美国机房全场8折
LOCVPS商家我们还是比较熟悉的老牌的国内服务商，包括他们还有其他的产品品牌。这不看到商家的信息，有新增KVM架构轻量/迷你套餐，提供的机房包括香港云地和美国洛杉矶，适用全场8折优惠，月付29.6元起。LOCVPS是一家成立于2011年的稳定老牌国人商家，主要从事XEN、KVM架构的国外VPS销售，主推洛杉矶MC、洛杉矶C3、香港邦联、香港沙田电信、香港大埔、日本东京、日本大阪、新加坡等数据中心...
远程登录VNC无法连接出现
今天有网友提到自己在Linux服务器中安装VNC桌面的时候安装都没有问题，但是在登录远程的时候居然有出现灰色界面，有三行代码提示"Accept clipboard from viewers,Send clipboard to viewers,Send primary selection to viewers"。即便我们重新登录也不行，这个到底如何解决呢？这里找几个可以解决的可能办法，我们多多尝试。...
iWebFusion：独立服务器月付57美元起/5个机房可选,10Gbps服务器月付149美元起
iWebFusion(iWFHosting)在部落分享过很多次了，这是成立于2001年的老牌国外主机商H4Y旗下站点，提供的产品包括虚拟主机、VPS和独立服务器租用等等，其中VPS主机基于KVM架构，数据中心可选美国洛杉矶、北卡、本德、蒙蒂塞洛等。商家独立服务器可选5个不同机房，最低每月57美元起，而大流量10Gbps带宽服务器也仅149美元起。首先我们分享几款常规服务器配置信息，以下机器可选择5...
淘宝网麦包包为你推荐
-
cornerradius怎么用代码写一个圆角矩形？邮箱怎么写邮箱地址怎么写windows优化大师怎么用windows优化大师怎么用啊？雅虎社区雅虎资讯在哪里提交如何建立一个网站如何建立一个网站开机滚动条开机滚动条要很长时间怎么解决？ejb开发什么是EJB？二层交换机集线器和二层交换机，三层交换机的区别网页打开很慢为什么我打开浏览器的时候，网页打开的很慢？小米手柄小米手柄怎么用？