雲伺服器磁碟io性能提升

❶ 如何提高Linux伺服器磁碟io性能

您好，很高興為您解答。

在現有文件系統下進行優化：
linux內核和各個文件系統採用了幾個優化方案來提升磁碟訪問速度。但這些優化方案需要在我們的伺服器設計中進行配合才能得到充分發揮。
文件系統緩存
linux內核會將大部分空閑內存交給虛擬文件系統，來作為文件緩存，叫做page cache。在內存不足時，這部分內存會採用lru演算法進行淘汰。通過free命令查看內存，顯示為cached的部分就是文件緩存了。

如何針對性優化：
lru並不是一個優秀淘汰演算法，lru最大的優勢是普適性好，在各種使用場景下都能起到一定的效果。如果能找到當前使用場景下，文件被訪問的統計特徵，針 對性的寫一個淘汰演算法，可以大幅提升文件緩存的命中率。對於http正向代理來說，一個好的淘汰演算法可以用1GB內存達到lru演算法100GB內存的緩存 效果。如果不打算寫一個新的淘汰演算法，一般不需要在應用層再搭一個文件cache程序來做緩存。

最小分配：
當文件擴大，需要分配磁碟空間時，大部分文件系統不會僅僅只分配當前需要的磁碟空間，而是會多分配一些磁碟空間。這樣下次文件擴大時就可以使用已經分配好的空間，而不會頻繁的去分配新空間。
例如ext3下，每次分配磁碟空間時，最小是分配8KB。
最小分配的副作用是會浪費一些磁碟空間（分配了但是又沒有使用）

如何針對性優化：
我們在reiserfs下將最小分配空間從8KB改大到128K後提升了30%的磁碟io性能。如果當前使用場景下小文件很多，把預分配改大就會浪費很多 磁碟空間，所以這個數值要根據當前使用場景來設定。似乎要直接改源代碼才能生效，不太記得了，09年的時候改的，有興趣的同學自己google吧。

io訪問調度：
在同時有多個io訪問時，linux內核可以對這些io訪問按LBA進行合並和排序，這樣磁頭在移動時，可以「順便」讀出移動過程中的數據。
SATA等磁碟甚至在磁碟中內置了io排序來進一步提升性能，一般需要在主板中進行配置才能啟動磁碟內置io排序。linux的io排序是根據LBA進行的，但LBA是一個一維線性地址，無法完全反應出二維的圓形磁碟，所以磁碟的內置io排序能達到更好的效果。

如何針對性優化：
io訪問調度能大幅提升io性能，前提是應用層同時發起了足夠的io訪問供linux去調度。
怎樣才能從應用層同時向內核發起多個io訪問呢？
方案一是用aio_read非同步發起多個文件讀寫請求。
方案二是使用磁碟線程池同時發起多個文件讀寫請求。
對我們的http正向代理來說，採用16個線程讀寫磁碟可以將性能提升到2.5倍左右。具體開多少個線程/進程，可以根據具體使用場景來決定。

小提示：
將文件句柄設置為非阻塞時，進程還是會睡眠等待磁碟io，非阻塞對於文件讀寫是不生效的。在正常情況下，讀文件只會引入十幾毫秒睡眠，所以不太明顯；而在磁碟io極大時，讀文件會引起十秒以上的進程睡眠。

預讀取：
linux內核可以預測我們「將來的讀請求」並提前將數據讀取出來。通過預讀取可以減少讀io的次數，並且減小讀請求的延時。

如何針對性優化：
預讀取的預測准確率是有限的，與其依賴預讀取，不如我們直接開一個較大的緩沖區，一次性將文件讀出來再慢慢處理；盡量不要開一個較小的緩沖區，循環讀文件/處理文件。
雖然說「預讀取」和「延遲分配」能起到類似的作用，但是我們自己擴大讀寫緩沖區效果要更好。

延遲分配：
當文件擴大，需要分配磁碟空間時，可以不立即進行分配，而是暫存在內存中，將多次分配磁碟空間的請求聚合在一起後，再進行一次性分配。
延遲分配的目的也是減少分配次數，從而減少文件不連續。

延遲分配的副作用有幾個：
1、如果應用程序每次寫數據後都通過fsync等介面進行強制刷新，延遲分配將不起作用
2、延遲分配有可能間歇性引入一個較大的磁碟IO延時（因為要一次性向磁碟寫入較多數據）
只有少數新文件系統支持這個特性

如何針對性優化：
如果不是對安全性（是否允許丟失）要求極高的數據，可以直接在應用程序里緩存起來，積累到一定大小再寫入，效果比文件系統的延遲分配更好。如果對安全性要求極高，建議經常用fsync強制刷新。

在線磁碟碎片整理：
Ext4提供了一款碎片整理工具，叫e4defrag，主要包含三個功能：
1、讓每個文件連續存儲
2、盡量讓每個目錄下的文件連續存儲
3、通過整理空閑磁碟空間，讓接下來的分配更不容易產生碎片

如何針對性優化：
「讓每個目錄下的文件連續存儲」是一個極有價值的功能。
傳統的做法是通過拼接圖片來將這10張圖片合並到一張大圖中，再由前端將大圖切成10張小圖。
有了e4defrag後，可以將需連續訪問的文件放在同一個文件夾下，再定期使用e4defrag進行磁碟整理。

實現自己的文件系統：
在大部分伺服器上，不需要支持「修改文件」這個功能。一旦文件創建好，就不能再做修改操作，只支持讀取和刪除。在這個前提下，我們可以消滅所有文件碎片，把磁碟io效率提升到理論極限。

有一個公式可以衡量磁碟io的效率：
磁碟利用率 = 傳輸時間/（平均尋道時間+傳輸時間）

如若滿意，請點擊回答右側【採納答案】，如若還有問題，請點擊【追問】

~ O(∩_∩)O~

❷ 阿里雲的磁碟 IO 速度實在是難以忍受，想換個服務商，請問哪家好

嗯，和你一樣有同感。
不過，機械硬碟的速度本來就快不到哪去，再加上磁碟本身讀寫就頻繁，於是IO就是非常低的。
我曾經測試過國內主流雲平台的磁碟IO速度（都是同一檔機器）感覺都差不多，阿里雲IO 20MB/S 騰訊雲25.6MB/S 網路雲 20.77MB/S
如果你實在無法忍受就多花點錢買國外服務商的吧，標配都是SSD的。

❸ 雲主機IO性能不好，會影響什麼

IO性能不好，會讓你打開網站速度慢，還有你在伺服器操作或執行一個命令響應半天，比如你執行reboot重啟，但是機子一直沒斷開，就是沒重啟好

❹ 如何測試雲主機的磁碟IO性能

磁碟I/0的性能你可以下載軟體測試。

最主要的問題就是看應用，如果你僅僅是跑幾個企業站，那放心吧，夠你用的。

如果你非常消耗I/0，那你也不用測試了，直接上實體伺服器自己組集群吧。

I/0是目前所有的主機服務商都會面臨的問題。

❺ 騰訊雲伺服器IO性能測試報告

測試方法：
1、 dd bs=64k count=4k if=/dev/zero of=test
沒有加任何參數，dd默認的方式不包括「同步(sync)」命令。也就是說，dd命令完成前並沒有讓系統真正把文件寫到磁碟上。所以以上命令只是單純地把這128MB的數據讀到內存緩沖當中（寫緩存[write cache]）。所以你得到的將是一個超級快的速度。因為其實dd給你的只是讀取速度，直到dd完成後系統才開始真正往磁碟上寫數據，但這個速度你是看不到了。所以如果這個速度很快，沒有什麼作用。

2、dd bs=64k count=4k if=/dev/zero of=test oflag=dsync
加入這個參數後，dd在執行時每次都會進行同步寫入操作。也就是說，這條命令每次讀取64k後就要先把這64k寫入磁碟，然後再讀取下面這64k，一共重復128次。這可能是最慢的一種方式了，因為基本上沒有用到寫緩存(write cache)。這種方法是最嚴格的，可以模擬資料庫的插入操作，所以很慢，也是用來測試vps硬碟性能標準的一條標桿，一般來說測試結果，如果超過10M，對正常建站就無影響。超過50M，就是非常給力狀態。

騰訊雲
[root@VM_37_104_centos ~]# time dd if=/dev/zero of=test.dbf bs=8k count=300000
300000+0 records in
300000+0 records out
2457600000 bytes (2.5 GB) copied, 9.98703 s, 246 MB/s
real 0m10.027s
user 0m0.071s
sys 0m4.413s
[root@VM_37_104_centos ~]# time dd if=/dev/zero of=test bs=64k count=16k oflag=dsync
16384+0 records in
16384+0 records out
1073741824 bytes (1.1 GB) copied, 20.3013 s, 52.9 MB/s
real 0m20.308s
user 0m0.014s
sys 0m2.724s

天互數據 為你解答，希望能幫到你

❻ 如何讓linux伺服器磁碟io性能翻倍

如何讓CentOS伺服器磁碟io性能翻倍
這一期我們來看一下有哪些辦法可以減少linux下的文件碎片。主要是針對磁碟長期滿負荷運轉的使用場景（例如http代理伺服器）；另外有一個小技巧，針對互聯網圖片伺服器，可以將io性能提升數倍。如果為伺服器訂制一個專用文件系統，可以完全解決文件碎片的問題，將磁碟io的性能發揮至極限。對於我們的代理伺服器，相當於把io性能提升到3-5倍。

在現有文件系統下進行優化linux內核和各個文件系統採用了幾個優化方案來提升磁碟訪問速度。但這些優化方案需要在我們的伺服器設計中進行配合才能得到充分發揮。

文件系統緩存linux內核會將大部分空閑內存交給虛擬文件系統，來作為文件緩存，叫做page cache。在內存不足時，這部分內存會採用lru演算法進行淘汰。通過free命令查看內存，顯示為cached的部分就是文件緩存了。

如果能找到當前使用場景下，文件被訪問的統計特徵，針對性的寫一個淘汰演算法，可以大幅提升文件緩存的命中率。對於http正向代理來說，一個好的淘汰演算法可以用1GB內存達到lru演算法100GB內存的緩存效果。如果不打算寫一個新的淘汰演算法，一般不需要在應用層再搭一個文件cache程序來做緩存。

❼ 如何讓CentOS伺服器磁碟io性能翻倍

如何讓CentOS伺服器磁碟io性能翻倍

這一期我們來看一下有哪些辦法可以減少linux下的文件碎片。主要是針對磁碟長期滿負荷運轉的使用場景（例如http代理伺服器）；另外有一個小技巧，針對互聯網圖片伺服器，可以將io性能提升數倍。如果為伺服器訂制一個專用文件系統，可以完全解決文件碎片的問題，將磁碟io的性能發揮至極限。對於我們的代理伺服器，相當於把io性能提升到3-5倍。

在現有文件系統下進行優化linux內核和各個文件系統採用了幾個優化方案來提升磁碟訪問速度。但這些優化方案需要在我們的伺服器設計中進行配合才能得到充分發揮。

文件系統緩存linux內核會將大部分空閑內存交給虛擬文件系統，來作為文件緩存，叫做page cache。在內存不足時，這部分內存會採用lru演算法進行淘汰。通過free命令查看內存，顯示為cached的部分就是文件緩存了。

如果能找到當前使用場景下，文件被訪問的統計特徵，針對性的寫一個淘汰演算法，可以大幅提升文件緩存的命中率。對於http正向代理來說，一個好的淘汰演算法可以用1GB內存達到lru演算法100GB內存的緩存效果。如果不打算寫一個新的淘汰演算法，一般不需要在應用層再搭一個文件cache程序來做緩存。

最小分配

最小分配的副作用是會浪費一些磁碟空間（分配了但是又沒有使用）

如果當前使用場景下小文件很多，把預分配改大就會浪費很多磁碟空間，所以這個數值要根據當前使用場景來設定。似乎要直接改源代碼才能生效，不太記得了，09年的時候改的，有興趣的同學自己google吧。

io訪問調度

如何針對性優化：io訪問調度能大幅提升io性能，前提是應用層同時發起了足夠的io訪問供linux去調度。怎樣才能從應用層同時向內核發起多個io訪問呢？方案一是用aio_read非同步發起多個文件讀寫請求。

小提示：將文件句柄設置為非阻塞時，進程還是會睡眠等待磁碟io，非阻塞對於文件讀寫是不生效的。在正常情況下，讀文件只會引入十幾毫秒睡眠，所以不太明顯；而在磁碟io極大時，讀文件會引起十秒以上的進程睡眠。詳見內核源代碼do_generic_file_read會調用lock_page_killable進入睡眠，但是不會判斷句柄的非阻塞標志。

預讀取linux內核可以預測我們「將來的讀請求」並提前將數據讀取出來。通過預讀取可以減少讀io的次數，並且減小讀請求的延時。

當文件擴大，需要分配磁碟空間時，可以不立即進行分配，而是暫存在內存中，將多次分配磁碟空間的請求聚合在一起後，再進行一次性分配。

延遲分配的副作用有幾個：1 如果應用程序每次寫數據後都通過fsync等介面進行強制刷新，延遲分配將不起作用2 延遲分配有可能間歇性引入一個較大的磁碟IO延時（因為要一次性向磁碟寫入較多數據）

如何針對性優化：

「讓每個目錄下的文件連續存儲」是一個極有價值的功能。假設一個網頁上有10張圖片，這10張圖片雖然存在10個文件中，但其實是幾乎同時被用戶訪問的。如果能讓這10張圖片存儲在連續的磁碟空間中，就能把io性能提升10倍（一次尋道就可以讀10個文件了）傳統的做法是通過拼接圖片來將這10張圖片合並到一張大圖中，再由前端將大圖切成10張小圖。有了e4defrag後，可以將需連續訪問的文件放在同一個文件夾下，再定期使用e4defrag進行磁碟整理。

實現自己的文件系統我們曾經寫過一款專用文件系統，針對代理伺服器，將磁碟io性能提升到3-5倍。在大部分伺服器上，不需要支持「修改文件」這個功能。一旦文件創建好，就不能再做修改操作，只支持讀取和刪除。在這個前提下，我們可以消滅所有文件碎片，把磁碟io效率提升到理論極限。

大於16MB的文件，伺服器創建文件時告訴文件系統分配16MB磁碟空間。後續每次擴大文件大小時，要麼是16MB，要麼就是文件終結。不允許在文件未終結的情況下分配非16MB的空間。讀寫文件時，每次讀寫16MB或者直到文件末尾。

在我們的文件系統中，小文件完全無碎片，一次尋道就能搞定一個文件，達到了理論上最佳的性能。大文件每次磁頭定位讀寫16MB，性能沒有達到100%，但已經相當好了。有一個公式可以衡量磁碟io的效率：磁碟利用率 = 傳輸時間/（平均尋道時間+傳輸時間）對我們當時採用的磁碟來說（1T 7200轉sata)，16MB連續讀寫已經可以達到98%以上的磁碟利用率。

❽ 關於linux伺服器上磁碟io性能問題

hdparm沒有考慮到緩存和物理讀的區分，讀取緩沖區的當然速度快