Alluxio 最新版 v2.3.0

Alluxio最新版是一款專業(yè)的虛擬分布式存儲(chǔ)系統(tǒng)，Alluxio最新版架起了計(jì)算框架和存儲(chǔ)系統(tǒng)之間的橋梁，從而能夠使計(jì)算應(yīng)用能夠通過(guò)一個(gè)通用接口連接到眾多的存儲(chǔ)系統(tǒng)，Alluxio最新版支持將內(nèi)存數(shù)據(jù)持久化到底層存儲(chǔ)系統(tǒng)。軟件可以通過(guò)掛載功能實(shí)現(xiàn)不同存儲(chǔ)系統(tǒng)之間的高效數(shù)據(jù)管理。

軟件介紹

      Alluxio最新版是一款專業(yè)的虛擬分布式存儲(chǔ)系統(tǒng)，它架起了計(jì)算框架和存儲(chǔ)系統(tǒng)之間的橋梁，使計(jì)算應(yīng)用能夠通過(guò)一個(gè)通用接口連接到眾多的存儲(chǔ)系統(tǒng)，Alluxio項(xiàng)目起源于加州大學(xué)伯克利分校AMPLab的一個(gè)名為Tachyon的研究項(xiàng)目，該項(xiàng)目是伯克利數(shù)據(jù)分析棧(BDAS)的數(shù)據(jù)層。

      Alluxio(虛擬分布式存儲(chǔ)系統(tǒng))的主要功能是為計(jì)算框架和存儲(chǔ)系統(tǒng)之間搭建一個(gè)橋梁，通過(guò)一個(gè)通用接口即可連接到多個(gè)儲(chǔ)存系統(tǒng)之中。系統(tǒng)混合多云遠(yuǎn)程數(shù)據(jù)的高級(jí)分析和AI，使數(shù)據(jù)本地化，無(wú)論是HDFS還是S3部署在本地還是云端，都可以通過(guò)多種方式訪問(wèn)文件和對(duì)象。

軟件特色

      1、靈活的文件API：Alluxio的本地API類似于java.io.File類，提供了 InputStream和OutputStream的接口和對(duì)內(nèi)存映射I/O的高效支持。我們推薦使用這套API以獲得Alluxio的完整功能以及最佳性能。

      2、兼容Hadoop HDFS的文件系統(tǒng)接口:基于這套接口Hadoop MapReduce和Spark可以使用Alluxio代替HDFS。

      3、可插拔的底層存儲(chǔ)：Alluxio支持將內(nèi)存數(shù)據(jù)持久化到底層存儲(chǔ)系統(tǒng)。Alluxio提供了通用接口以簡(jiǎn)化對(duì)接不同的底層存儲(chǔ)系統(tǒng)。目前Alluxio支持Microsoft Azure Blob Store，Amazon S3，Google Cloud Storage，OpenStack Swift，GlusterFS， HDFS，MaprFS，Ceph，NFS，Alibaba OSS，Minio以及單節(jié)點(diǎn)本地文件系統(tǒng)，后續(xù)也會(huì)支持更多其他存儲(chǔ)系統(tǒng)。

      4、Alluxio層級(jí)存儲(chǔ)：Alluxio可以管理內(nèi)存和本地存儲(chǔ)如SSD和HDD，以加速數(shù)據(jù)訪問(wèn)。如果需要更細(xì)粒度的控制，分層存儲(chǔ)功能可以用于自動(dòng)化管理不同層之間的數(shù)據(jù)，確保熱數(shù)據(jù)在更快的存儲(chǔ)層上。自定義策略可以方便地應(yīng)用到Alluxio，而且pin(釘住)的概念允許用戶顯式地控制數(shù)據(jù)的存放位置。

      5、統(tǒng)一命名空間：Alluxio可以通過(guò)掛載功能實(shí)現(xiàn)不同存儲(chǔ)系統(tǒng)之間的高效數(shù)據(jù)管理。并且，透明命名機(jī)制在持久化存儲(chǔ)對(duì)象到底層存儲(chǔ)系統(tǒng)時(shí)可以保留存儲(chǔ)對(duì)象的文件名和目錄層次結(jié)構(gòu)。

      6、Web UI：用戶可以通過(guò)Web UI瀏覽文件系統(tǒng)。在調(diào)試模式下，管理員還可以查看每一個(gè)文件的詳細(xì)信息，包括存放位置，檢查點(diǎn)路徑等。

      7、命令行：用戶也可以通過(guò)./bin/alluxio fs與Alluxio交互，例如：實(shí)現(xiàn)將數(shù)據(jù)從文件系統(tǒng)拷入拷出。

相關(guān)文章