首頁 > 新聞 > 知識(shí)賦能

PHP查詢MySQL大量數(shù)據(jù)的內(nèi)存占用分析

2011-10-22 6153
分享至:

PHP查詢MySQL大量數(shù)據(jù)的內(nèi)存占用分析

      這篇文章主要是從原理, 手冊(cè)和源碼分析在PHP中查詢MySQL返回大量結(jié)果時(shí), 內(nèi)存占用的問題, 同時(shí)對(duì)使用MySQL C API也有涉及.

  昨天, 有同事在PHP討論群里提到, 他做的一個(gè)項(xiàng)目由于MySQL查詢返回的結(jié)果太多(達(dá)10萬條), 從而導(dǎo)致PHP內(nèi)存不夠用. 所以, 他問, 在執(zhí)行下面的代碼遍歷返回的MySQL結(jié)果之前, 數(shù)據(jù)是否已經(jīng)在內(nèi)存中了? -

  1. while ($row = mysql_fetch_assoc($result)) { 
  2.     // ... 

  當(dāng)然, 這種問題有許多優(yōu)化的方法. 不過, 就這個(gè)問題來講, 我首先想到, MySQL是經(jīng)典的C/S(Client/Server, 客戶端/服務(wù)器)模型, 在遍歷結(jié)果集之前, 底層的實(shí)現(xiàn)可能已經(jīng)把所有的數(shù)據(jù)通過網(wǎng)絡(luò)(假設(shè)使用TCP/IP)讀到了Client的緩沖區(qū), 也有另一種可能, 就是數(shù)據(jù)還在Server端的發(fā)送緩沖區(qū)里, 并沒有傳給Client.

  在查看PHP和MySQL的源碼之前, 我注意到PHP手冊(cè)里有兩個(gè)功能相近的函數(shù):

  1. mysql_query() 
  2.  
  3. mysql_unbuffered_query() 

  兩個(gè)函數(shù)的字面意思和說明證實(shí)了我的想法, 前一個(gè)函數(shù)執(zhí)行時(shí), 會(huì)把所有的結(jié)果集從Server端讀到Client端的緩沖區(qū)中, 而后一個(gè)則沒有, 這就是”unbuffered(未緩沖)”的意思.

  那就是說, 如果用mysql_unbuffered_query()執(zhí)行了一條返回大量結(jié)果集的SQL語句, 在遍歷結(jié)果之前, PHP的內(nèi)存是沒有被結(jié)果集占用的. 而用mysql_query()來執(zhí)行同樣的語句的話, 函數(shù)返回時(shí), PHP的內(nèi)存占用便會(huì)急劇增加, 立即耗光內(nèi)存.

  如果閱讀PHP的相關(guān)代碼, 可以看到這兩個(gè)函數(shù)的實(shí)現(xiàn)上的異同:

  1. /* {{{ proto resource mysql_query(string query [, int link_identifier]) 
  2.    Sends an SQL query to MySQL */ 
  3. PHP_FUNCTION(mysql_query) 
  4.     php_mysql_do_query(INTERNAL_FUNCTION_PARAM_PASSTHRU, MYSQL_STORE_RESULT); 
  5. /* }}} */ 
  6.  
  7. /* {{{ proto resource mysql_unbuffered_query(string query [, int link_identifier]) 
  8.    Sends an SQL query to MySQL, without fetching and buffering the result rows */ 
  9. PHP_FUNCTION(mysql_unbuffered_query) 
  10.     php_mysql_do_query(INTERNAL_FUNCTION_PARAM_PASSTHRU, MYSQL_USE_RESULT); 
  11. /* }}} */ 

  兩個(gè)函數(shù)都調(diào)用了php_mysql_do_query(), 只差了第2個(gè)參數(shù)的不同, MYSQL_STORE_RESULT和MYSQL_USE_RESULT. 再看php_mysql_do_query()的實(shí)現(xiàn):

  1. if(use_store == MYSQL_USE_RESULT) { 
  2.     mysql_result=mysql_use_result(&mysql->conn); 
  3. else { 
  4.     mysql_result=mysql_store_result(&mysql->conn); 

  mysql_use_result()和mysql_store_result()是MySQL的C API函數(shù), 這兩個(gè)C API函數(shù)的區(qū)別就是后者把結(jié)果集從MySQL Server端全部讀取到了Client端, 前者只是讀取了結(jié)果集的元信息.

  回到PHP, 使用mysql_unbuffered_query(), 可以避免內(nèi)存的立即占用. 如果在遍歷的過程不對(duì)結(jié)果進(jìn)行”PHP緩存”(如放到某數(shù)組中), 則整個(gè)執(zhí)行過程雖然操作了十萬條或者百萬條或者更多的數(shù)據(jù), 但PHP占用的內(nèi)存始終是非常小的.

標(biāo)簽:北京網(wǎng)站制作 高端網(wǎng)站建設(shè)

來源聲明:

本文章系尚品中國編輯原創(chuàng)或采編整理,如需轉(zhuǎn)載請(qǐng)注明來自尚品中國。以上內(nèi)容部分(包含圖片、文字)來源于網(wǎng)絡(luò),如有侵權(quán),請(qǐng)及時(shí)與本站聯(lián)系(010-60259772)。

立即預(yù)約專屬顧問 開啟數(shù)字化轉(zhuǎn)型之旅!

10年+資深項(xiàng)目經(jīng)理1V1服務(wù) | 行業(yè)定制化方案 | 精準(zhǔn)報(bào)價(jià)體系
獲取策劃方案
立即預(yù)約專屬顧問 開啟數(shù)字化轉(zhuǎn)型之旅!

咨詢我們,獲得專業(yè)的服務(wù)和報(bào)價(jià)

聯(lián)系我們,免費(fèi)獲取項(xiàng)目方案及報(bào)價(jià),或只是聊一聊您的項(xiàng)目? 在收到您的需求留言后我們將由專業(yè)人員于24小時(shí)內(nèi)與您取得聯(lián)系,請(qǐng)您保持電話暢通!

  • 科研院所解決方案
  • 外貿(mào)出海解決方案
  • 協(xié)會(huì)學(xué)會(huì)解決方案
  • 集團(tuán)上市公司解決方案
  • 生物醫(yī)藥解決方案
  • 制造業(yè)解決方案
  • 高校教育解決方案
  • 信創(chuàng)網(wǎng)站改造解決方案
更多服務(wù)咨詢,請(qǐng)聯(lián)系尚品

010-60259772

您的姓名 *
您的電話 *
您的郵箱
公司名稱 *