Intel英特尔SSD固态盘 Acronis 安克诺斯 浪潮服务器商城 腾保数据
首页 > 技术园地 > 文件系统 > 正文

TFS(淘宝文件系统)介绍篇

2011-07-25 16:29来源:中国存储网
导读:TFS淘宝文件系统,淘宝内部使用的分布式文件系统,TFS主要解决海量小文件的分布式存储,2007 TFS1.0发布,2008 TFS1.3发布。
什么是TFS?
TFS,Taobao File System,淘宝文件系统,淘宝内部使用的分布式文件系统,主要针对海量小文件的随机读写访问性能做了特殊优化,承载着淘宝主站所有图片、商品描述等数据的存储。
TFS有什么特点
完全扁平化的数据组织结构,抛弃了传统文件系统的目录结构。
在块设备基础上建立自有的文件系统,减少EXT3等文件系统数据碎片带来的性能损耗
单进程管理单块磁盘的方式,摒除RAID5机制
带有HA机制的中央控制节点,在安全稳定和性能复杂度之间取得平衡。
尽量缩减元数据大小,将元数据全部加载入内存,提升访问速度。
跨机架和IDC的负载均衡和冗余安全策略。
完全平滑扩容
TFS在淘宝的应用规模
  • 数百台PCServer
  • PB级数据量
  • 百亿数据级别
TFS的性能参数
TFS在淘宝的部署环境中前端有两层缓冲,到达TFS系统的请求非常离散,所以TFS内部是没有任何数据的内存缓冲的,包括传统文件系统的内存缓冲也不存在。我们主要的性能参数不是IO吞吐量,而是单台PCServer提供随机读写IOPS。由于大家硬件型号不同,当然也是因为一些技术保密的原因,我们很难给出一个参考值来说明性能。但基本上我们可以达到单块磁盘随机IOPS理论最大值的60%左右,整机的输出随盘数增加而线性增加。 
TFS的逻辑架构图
TFS(淘宝文件系统)介绍篇
  • TFS尚未对最终用户提供传统文件系统API,需要通过TFSClient进行接口访问,现有JAVA、JNI、C、PHP的客户端
  • TFS的NameServer作为中心控制节点,监控所有数据节点的运行状况,负责读写调度的负载均衡,同时管理一级元数据用来帮助客户端定位需要访问的数据节点
  • TFS的DataServer作为数据节点,负责数据实际发生的负载均衡和数据冗余,同时管理二级元数据帮助客户端获取真实的业务数据。 
TFS发展历史
TFS1.0简介
2007年6月,淘宝自主开发的分布式的文件系统, TFS(Taobao File System)1.0上线运行,主要解决海量小文件的分布式存储
集群规模:200台PC Server(146G*6 SAS 15K Raid5) 
文件数量: 亿级别
系统部署存储容量: 140 TB
实际使用存储容量: 50 TB
单台支持随机IOPS200+,流量3MBps
TFS1.0的特性
•集群由一对Name Server和多台Data Server构成 
•Data Server运行在挂很多硬盘的Linux主机上
•以block文件的形式存放数据文件(一般64M一个block)
•文件名内置元数据信息,用户自己保存TFS文件名与实际文件的对照关系–使得元数据量特别小
•如T2auNFXXBaXXXXXXXX_!!140680281.jpg,名字中含有逻辑的block_no和object_no等 
•block存多份保证数据安全
•利用ext3文件系统存放数据文件
•磁盘raid5做数据冗余
TFS1.3简介
2009年6月,TFS(TaobaoFile System)1.3上线运行
集群规模440台PC Server (300G*12 SAS 15K RPM) + 30台PC Server (600G*12 SAS 15K RPM) 
文件数量:百亿级别
系统部署存储容量:1800 TB
当前实际存储容量:995TB
单台Data Server支持随机IOPS900+,流量15MB+
目前Name Server运行的物理内存是217MB(服务器使用千兆网卡)
2010下半年开始部署PC Server (1T SATA * 12) 
TFS1.3的特性
所有的元数据全部都内存化
清理磁盘空洞
容量和负载的均衡策略
平滑的扩容
数据安全性的冗余保证
几秒内完成Name Server故障自动切换
容灾策略
性能大幅提升
关键词 :
TFS
相关阅读
编辑推荐
头条阅读
栏目热点

Copyright @ 2006-2015 ChinaStor.COM 版权所有 京ICP备14047533号

中国存储网

存储第一站,存储门户,存储在线交流平台