淘宝淘宝网麦包包
淘宝网麦包包 时间:2021-02-28 阅读:()
阳振坤yangzhenkun@gmail.
com2011年10月14日淘宝网海量数据存储与管理关于淘宝你可能不知道的……存储与处理哪些数据如何存储怎么处理淘宝数据库有何特别之处OceanBase是什么Agenda关于淘宝2003年5月10日成立,办公地点杭州/北京,员工6000+人,工程师40%…3.
7亿注册用户平均每天20亿PV,6000万登录,800万笔交易平均每分钟卖出:4.
8万件商品,包括864件衣服,36部手机、880件化妆品、85本书…300万人就业淘宝年度交易额80.
2149.
96443999.
62083050010001500200025002003200420052006200720082009数据来自公开媒体亿元人民币淘宝网站流量数据来源:www.
alexa.
com关于淘宝你可能不知道的……存储与处理哪些数据如何存储怎么处理淘宝数据库有何特别之处OceanBase是什么Agenda淘宝数据(1):离线数据39PB+,每天新增50TB2000+台服务器Hadoop机群,每天40000+个MapReduce作业2010年淘宝上最畅销手机价格2010年什么年货最畅销什么地方人最钟爱大闸蟹淘宝数据(2):在线图片商品图片(效果图,描述图),交易快照,2700TB+…淘宝文件系统TFS实时响应,同城热备+异地灾备淘宝为什么要存储这些图片淘宝数据(3):结构化数据商品、用户、订单、评价……商品等的存储、修改及展示依赖于对应的结构化数据的存储、修改和查询数据库是可靠、高效地实现以上操作的最佳手段关于淘宝你可能不知道的……存储与处理哪些数据如何存储怎么处理淘宝数据库有何特别之处OceanBase是什么Agenda淘宝数据库特点访问量大:每天几亿~几百亿次访问数据量大:单表几亿~几百亿条记录"Oracle数据库+小型机+高端存储"已成为历史数量多:以千计的数据库服务器非常关键:几乎所有淘宝业务都依赖DBMS:分库与分表业务逻辑支持扩展性、容错及故障恢复缓解了数据量大与访问量大的挑战IOPSvs.
固态盘(SSD)分表后事务OceanBase数据库跨行跨表事务(ACID)千亿条记录,无需分库分表自劢容错和故障恢复淘宝研发,基于普通PC服务器容量与性能可随服务器数量而增加适合SSD(无随机磁盘写)设计思想数据总量大,但更新比例小增量数据:劢态B树,内存+SSD基准数据:静态B+树、分布式存储(磁盘或SSD)数据=基准数据+增量数据系统架构ClientChunkServer/MergeServerRootServer/UpdateServer(主)RootServer/UpdateServer(备)ChunkServer/MergeServer元数据增量数据数据融合基准数据基准数据更新新的基准数据=旧的基准数据+增量数据快照,ChunkServer(s)低优先级+低负载时段基准数据多副本不必要同步基准数据多副本必须一致写性能&扩展性UpdateServer:B树+Copy-on-write,10万TPS+100万QPS(内存)Groupcommit+带电池/电容RAID卡万兆网卡主备机+主备机群一主多备,主写备读内存+SSD容错&故障恢复单机群:3数据副本同城热备(实时日志同步):2+2数据副本远程灾备(准实时日志同步):2+2+2数据副本数据记录自校验(磁盘&网络)在线切换、在线升级(不停服务)数据丢失几率分析n台设备,年度故障率,则单机t小时内故障概率为=*t/(360*24)恰好0台故障:(1-)n恰好1台故障:n**(1-)n-1恰好2台故障:n*(n-1)/2!
*2*(1-)n-2恰好3台故障:n*(n-1)*(n-2)/3!
*3*(1-)n-3……数据丢失概率收藏夹线上运行状况1.
2亿次/天访问单表超过60亿条记录服务器数量:16*214*26*2半年前上线平均查询响应时间:~80ms源码开放淘蝌蚪:数十个开源项目/工具http://code.
taobao.
org/TFS:淘宝分布式文件系统TAIR:淘宝分布式CACHE服务OceanBase:淘宝海量数据库http://oceanbase.
taobao.
org/……关于淘宝你可能不知道的……存储与处理哪些数据如何存储怎么处理淘宝数据库有何特别之处OceanBase是什么AgendaThanks邮件:yangzhenkun@gmail.
com微博(淘正祥):http://weibo.
com/1070095910博客:http://blog.
sina.
com.
cn/kern0612Q&A
com2011年10月14日淘宝网海量数据存储与管理关于淘宝你可能不知道的……存储与处理哪些数据如何存储怎么处理淘宝数据库有何特别之处OceanBase是什么Agenda关于淘宝2003年5月10日成立,办公地点杭州/北京,员工6000+人,工程师40%…3.
7亿注册用户平均每天20亿PV,6000万登录,800万笔交易平均每分钟卖出:4.
8万件商品,包括864件衣服,36部手机、880件化妆品、85本书…300万人就业淘宝年度交易额80.
2149.
96443999.
62083050010001500200025002003200420052006200720082009数据来自公开媒体亿元人民币淘宝网站流量数据来源:www.
alexa.
com关于淘宝你可能不知道的……存储与处理哪些数据如何存储怎么处理淘宝数据库有何特别之处OceanBase是什么Agenda淘宝数据(1):离线数据39PB+,每天新增50TB2000+台服务器Hadoop机群,每天40000+个MapReduce作业2010年淘宝上最畅销手机价格2010年什么年货最畅销什么地方人最钟爱大闸蟹淘宝数据(2):在线图片商品图片(效果图,描述图),交易快照,2700TB+…淘宝文件系统TFS实时响应,同城热备+异地灾备淘宝为什么要存储这些图片淘宝数据(3):结构化数据商品、用户、订单、评价……商品等的存储、修改及展示依赖于对应的结构化数据的存储、修改和查询数据库是可靠、高效地实现以上操作的最佳手段关于淘宝你可能不知道的……存储与处理哪些数据如何存储怎么处理淘宝数据库有何特别之处OceanBase是什么Agenda淘宝数据库特点访问量大:每天几亿~几百亿次访问数据量大:单表几亿~几百亿条记录"Oracle数据库+小型机+高端存储"已成为历史数量多:以千计的数据库服务器非常关键:几乎所有淘宝业务都依赖DBMS:分库与分表业务逻辑支持扩展性、容错及故障恢复缓解了数据量大与访问量大的挑战IOPSvs.
固态盘(SSD)分表后事务OceanBase数据库跨行跨表事务(ACID)千亿条记录,无需分库分表自劢容错和故障恢复淘宝研发,基于普通PC服务器容量与性能可随服务器数量而增加适合SSD(无随机磁盘写)设计思想数据总量大,但更新比例小增量数据:劢态B树,内存+SSD基准数据:静态B+树、分布式存储(磁盘或SSD)数据=基准数据+增量数据系统架构ClientChunkServer/MergeServerRootServer/UpdateServer(主)RootServer/UpdateServer(备)ChunkServer/MergeServer元数据增量数据数据融合基准数据基准数据更新新的基准数据=旧的基准数据+增量数据快照,ChunkServer(s)低优先级+低负载时段基准数据多副本不必要同步基准数据多副本必须一致写性能&扩展性UpdateServer:B树+Copy-on-write,10万TPS+100万QPS(内存)Groupcommit+带电池/电容RAID卡万兆网卡主备机+主备机群一主多备,主写备读内存+SSD容错&故障恢复单机群:3数据副本同城热备(实时日志同步):2+2数据副本远程灾备(准实时日志同步):2+2+2数据副本数据记录自校验(磁盘&网络)在线切换、在线升级(不停服务)数据丢失几率分析n台设备,年度故障率,则单机t小时内故障概率为=*t/(360*24)恰好0台故障:(1-)n恰好1台故障:n**(1-)n-1恰好2台故障:n*(n-1)/2!
*2*(1-)n-2恰好3台故障:n*(n-1)*(n-2)/3!
*3*(1-)n-3……数据丢失概率收藏夹线上运行状况1.
2亿次/天访问单表超过60亿条记录服务器数量:16*214*26*2半年前上线平均查询响应时间:~80ms源码开放淘蝌蚪:数十个开源项目/工具http://code.
taobao.
org/TFS:淘宝分布式文件系统TAIR:淘宝分布式CACHE服务OceanBase:淘宝海量数据库http://oceanbase.
taobao.
org/……关于淘宝你可能不知道的……存储与处理哪些数据如何存储怎么处理淘宝数据库有何特别之处OceanBase是什么AgendaThanks邮件:yangzhenkun@gmail.
com微博(淘正祥):http://weibo.
com/1070095910博客:http://blog.
sina.
com.
cn/kern0612Q&A
bgpto：独立服务器夏季促销，日本机器6.5折、新加坡7.5折，20M带宽，低至$93/月
bgp.to对日本机房、新加坡机房的独立服务器在搞特价促销，日本独立服务器低至6.5折优惠，新加坡独立服务器低至7.5折优惠，所有优惠都是循环的，终身不涨价。服务器不限制流量，支持升级带宽，免费支持Linux和Windows server中文版（还包括Windows 10）. 特色：自动部署，无需人工干预，用户可以在后台自己重装系统、重启、关机等操作！官方网站：https://www.bgp.to...
Megalayer（159元 ）年付CN2优化带宽VPS
Megalayer 商家我们还算是比较熟悉的，商家主要业务方向是CN2优化带宽、国际BGP和全向带宽的独立服务器和站群服务器，且后来也有增加云服务器（VPS主机）业务。这次中秋节促销活动期间，有发布促销活动，这次活动力度认为还是比较大的，有提供香港、美国、菲律宾的年付VPS主机，CN2优化方案线路的低至年付159元。这次活动截止到10月30日，如果我们有需要的话可以选择。第一、特价限量年付VPS主...
爱用云互联租用服务器租美国、日本、美国、日本、购买2天内不满意可以退换，IP可免费更换！
爱用云互联怎么样？爱用云是一家成立于2018年的老牌商家旗下的服务器销售品牌，是正规持证IDC/ISP/IRCS商家，主要销售国内、中国香港、国外服务器产品，线路有腾讯云国外线路、自营香港CN2线路等，都是中国大陆直连线路，非常适合免备案建站业务需求和各种负载较高的项目，同时国内服务器也有多个BGP以及高防节点。专注为个人开发者用户,中小型,大型企业用户提供一站式核心网络云端服务部署,促使用户云端...
淘宝网麦包包为你推荐
-
天府热线劲舞团 四川 天府热线 在哪改密码？选择大区怎么没天府？怎么在qq空间里添加背景音乐怎样在qq空间里免费添加背景音乐?1433端口如何打开SQL1433端口照片转手绘怎么把图片P成手绘arm开发板ARM开发板和树莓派有什么区别xv播放器下载求手机可以看xv格式的视频播放器免费免费建站可以不用钱免费做一个网站吗iphone6上市时间苹果6什么时候在中国大陆上市srv记录如何验证是否为域控制器创建了 SRV DNS 记录去鼠标加速度请问什么是去鼠标加速？