成人在线亚洲_国产日韩视频一区二区三区_久久久国产精品_99国内精品久久久久久久

您的位置:首頁技術文章
文章詳情頁

在django項目中導出數據到excel文件并實現下載的功能

瀏覽:130日期:2022-07-06 16:05:46

依賴模塊

xlwt下載:pip install xlwt

后臺模塊

view.py

# 導出Excel文件def export_excel(request): city = request.POST.get(’city’) print(city) list_obj=place.objects.filter(city=city) # 設置HTTPResponse的類型 response = HttpResponse(content_type=’application/vnd.ms-excel’) response[’Content-Disposition’] = ’attachment;filename=’+city+’.xls’ '''導出excel表''' if list_obj: # 創建工作簿 ws = xlwt.Workbook(encoding=’utf-8’) # 添加第一頁數據表 w = ws.add_sheet(’sheet1’) # 新建sheet(sheet的名稱為'sheet1') # 寫入表頭 w.write(0, 0, u’地名’) w.write(0, 1, u’次數’) w.write(0, 2, u’經度’) w.write(0, 3, u’緯度’) # 寫入數據 excel_row = 1 for obj in list_obj: name = obj.place sum = obj.sum lng = obj.lng lat = obj.lat # 寫入每一行對應的數據 w.write(excel_row, 0, name) w.write(excel_row, 1, sum) w.write(excel_row, 2, lng) w.write(excel_row, 3, lat) excel_row += 1 # 寫出到IO output = BytesIO() ws.save(output) # 重新定位到開始 output.seek(0) response.write(output.getvalue()) return response

前端模塊

<button type='button' >導出excel</button>

$('#export_excel').click(function () { var csrf=$(’input[name='csrfmiddlewaretoken']’).val(); const req = new XMLHttpRequest(); req.open(’POST’, ’/export_excel/’, true); req.responseType = ’blob’; req.setRequestHeader(’Content-Type’, ’application/x-www-form-urlencoded’); //設置請求頭 req.send(’city=’+$(’#city’).val()+'&&csrfmiddlewaretoken='+csrf); //輸入參數 req.onload = function() { const data = req.response; const a = document.createElement(’a’); const blob = new Blob([data]); const blobUrl = window.URL.createObjectURL(blob); download(blobUrl) ; }; });

function download(blobUrl) { var city = $('input[name=’city’]').val(); const a = document.createElement(’a’); a.style.display = ’none’; a.download = ’<文件命名>’; a.href = blobUrl; a.click(); document.body.removeChild(a);}

補充知識:Python Django實現MySQL百萬、千萬級的數據量下載:解決memoryerror、nginx time out

前文

在用Django寫項目的時候時常需要提供文件下載的功能,而Django也是貼心提供了幾種方法:FileResponse、StreamingHttpResponse、HttpResponse,其中FileResponse和StreamingHttpResponse都是使用迭代器迭代生成數據的方法,所以適合傳輸文件比較大的情況;而HttpResponse則是直接取得數據返回給用戶,所以容易造成memoryerror和nginx time out(一次性取得數據和返回的數據過多,導致nginx超時或者內存不足),關于這三者,DJango的官網也是寫的非常清楚,連接如下:https://docs.djangoproject.com/en/1.11/ref/request-response/

那正常我們使用的是FileResponse和StreamingHttpResponse,因為它們流式傳輸(迭代器)的特點,可以使得數據一條條的返回給客戶端,文件隨時中斷和復傳,并且保持文件的一致性。

FileResponse和StreamingHttpResponse

FileResponse顧名思義,就是打開文件然后進行傳輸,并且可以指定一次能夠傳輸的數據chunk。所以適用場景:從服務端返回大文件。缺點是無法實時獲取數據庫的內容并傳輸給客戶端。舉例如下:

def download(request): file=open(’path/demo.py’,’rb’) response =FileResponse(file) response[’Content-Type’]=’application/octet-stream’ response[’Content-Disposition’]=’attachment;filename='demo.py'’ return response

從上可以發現,文件打開后作為參數傳入FileResponse,隨后指定傳輸頭即可,但是很明顯用這個來傳輸數據庫就不太方便了,所以這邊推介用StreamingHttpResponse的方式來傳輸。

這里就用PyMysql來取得數據,然后指定為csv的格式返回,具體代碼如下:

# 通過pymysql取得數據import pymysqlfield_types = { 1: ’tinyint’, 2: ’smallint’, 3: ’int’} #用于后面的字段名匹配,這里省略了大多數conn = pymysql.connect(host=’127.0.0.1’,port=3306,database=’demo’,user=’root’,password=’root’)cursor = conn.cursor(cursor=pymysql.cursors.DictCursor)cursor.execute(sql)#獲取所有數據data = cursor.fetchall()cols = {}#獲取所有字段for i,row in enumerate(self.cursor.description): if row[0] in cols: cols[str(i)+row[0]] = field_types.get(row[1], str(row[1])) #這里的field_type是類型和數字的匹配 cols[row[0]] = field_types.get(row[1], str(row[1]))cursor.close()conn.close()#通過StreamingHttpResponse指定返回格式為csvresponse = StreamingHttpResponse(get_result_fromat(data, cols))response[’Content-Type’] = ’application/octet-stream’response[’Content-Disposition’] = ’attachment;filename='{0}'’.format(out_file_name)return response#循環所有數據,然后加到字段上返回,注意的是要用迭代器來控制def get_result_fromat(data, cols): tmp_str = '' # 返回文件的每一列列名 for col in cols: tmp_str += ’'%s',’ % (col) yield tmp_str.strip(',') + 'n' for row in data: tmp_str = '' for col in cols: tmp_str += ’'%s',’ % (str(row[col])) yield tmp_str.strip(’,’) + 'n'

整個代碼如上,大致分為三部分:從mysql取數據,格式化成我們想要的格式:excel、csv、txt等等,這邊指定的是csv,如果對其他格式也有興趣的可以留言,最后就是用StreamingHttpResponse指定返回的格式返回。

實現百萬級數據量下載

上面的代碼下載可以支持幾萬行甚至十幾萬行的數據,但是如果超過20萬行以上的數據,那就比較困難了,我這邊的剩余內存大概是1G的樣子,當超過15萬行數據(大概)的時候,就報memoryerror了,問題就是因為fetchall,雖然我們StreamingHttpResponse是一條條的返回,但是我們的數據時一次性批量的取得!

如何解決?以下是我的解決方法和思路:

用fetchone來代替fetchall,迭代生成fetchone

發現還是memoryerror,因為execute是一次性執行,后來發現可以用流式游標來代替原來的普通游標,即SSDictCursor代替DictCursor

于是整個代碼需要修改的地方如下:

cursor = conn.cursor(cursor=pymysql.cursors.DictCursor) ===>cursor = conn.cursor(cursor=pymysql.cursors.SSDictCursor)

data = cursor.fetchall() ===>row = cursor.fetchone()

def get_result_fromat(data, cols): tmp_str = '' # 返回文件的每一列列名 for col in cols: tmp_str += ’'%s',’ % (col) yield tmp_str.strip(',') + 'n' for row in data: tmp_str = '' for col in cols: tmp_str += ’'%s',’ % (str(row[col])) yield tmp_str.strip(’,’) + 'n' =====> def get_result_fromat(data, cols): tmp_str = '' for col in cols: tmp_str += ’'%s',’ % (col) yield tmp_str.strip(',') + 'n' while True: tmp_str = '' for col in cols: tmp_str += ’'%s',’ % (str(row[col])) yield tmp_str.strip(’,’) + 'n' row = db.cursor.fetchone() if row is None: break

可以看到就是通過while True來實現不斷地取數據下載,有效避免一次性從MySQL取出內存不足報錯,又或者取得過久導致nginx超時!

總結

關于下載就分享到這了,還是比較簡單的,謝謝觀看~希望能給大家一個參考,也希望大家多多支持好吧啦網。

標簽: excel
相關文章:
成人在线亚洲_国产日韩视频一区二区三区_久久久国产精品_99国内精品久久久久久久
好吊日精品视频| 亚洲午夜三级在线| 午夜久久久久久久久久一区二区| 国产精品igao视频网网址不卡日韩| 日韩美女视频在线| 麻豆91在线观看| 91高清视频在线| 日韩电影在线观看电影| 亚洲欧美日韩精品在线| 亚洲午夜在线视频| 国产亚洲精品久久飘花| 亚洲综合激情网| 国产精品女主播一区二区三区| 成人欧美一区二区三区小说 | 国产乱色国产精品免费视频| 一本高清dvd不卡在线观看| 天天色综合成人网| 一本到不卡精品视频在线观看| 日本亚洲免费观看| 欧美性猛交xxxxxxxx| 久久99九九99精品| 欧美男生操女生| 国产露脸91国语对白| 日韩一区二区在线观看| 成人免费福利片| 国产亚洲欧美日韩在线一区| 狠狠入ady亚洲精品| 亚洲人成网站在线| 销魂美女一区二区三区视频在线| 偷拍自拍另类欧美| 欧美影视一区在线| 国产麻豆精品视频| 欧美成人一级视频| 国产一区二区中文| 一区二区高清视频在线观看| 久久午夜精品| 激情五月婷婷综合| 666欧美在线视频| 成人18视频在线播放| 中文字幕不卡的av| 国产精品久久久久久模特| 首页欧美精品中文字幕| 国产精品一区视频网站| 奇米精品一区二区三区四区| 欧美日韩国产高清一区| 成人激情动漫在线观看| 中文字幕不卡在线播放| 亚洲欧美日韩在线观看a三区| 久久成人久久鬼色| 久久综合色婷婷| 亚洲国产精品一区制服丝袜 | 欧美国产精品一区二区三区| 亚洲人久久久| 日韩国产精品久久久| 欧美肥大bbwbbw高潮| 91婷婷韩国欧美一区二区| 亚洲色图视频网| 巨乳诱惑日韩免费av| 国产成人精品免费看| 国产日韩欧美a| 99精品视频免费观看| 蜜臀a∨国产成人精品| 精品av综合导航| 亚洲精品无人区| 美女网站视频久久| 精品国产免费视频| 99pao成人国产永久免费视频| 美女视频黄久久| 国产日韩欧美在线一区| 免费精品视频| 成人一级片网址| 中文字幕日韩欧美一区二区三区| 亚洲影视在线| 岛国一区二区在线观看| 亚洲精品少妇30p| 欧美日本精品一区二区三区| 午夜电影亚洲| 日本一不卡视频| 国产婷婷一区二区| 日本乱人伦aⅴ精品| 97久久超碰精品国产| 亚洲成人综合在线| 26uuu欧美| 亚洲一区二区三区精品视频| 成人免费的视频| 舔着乳尖日韩一区| 久久免费看少妇高潮| 久久久久久久久久久一区| 91免费国产在线| 一区二区三区中文字幕| 日韩片之四级片| 亚洲欧美日韩在线观看a三区| 不卡的av在线播放| 日韩av一二三| 国产精品午夜在线| 6080午夜不卡| 国产精品视区| 91麻豆免费看片| 韩国一区二区在线观看| 亚洲日本在线天堂| 欧美成人欧美edvon| 91福利区一区二区三区| 亚洲天堂偷拍| 高清shemale亚洲人妖| 午夜精品视频在线观看| 国产日产精品1区| 欧美日韩国产精品自在自线| 99精品国产在热久久| 风流少妇一区二区| 午夜久久久久久久久久一区二区| 久久综合九色综合欧美98| 日本韩国精品一区二区在线观看| 好吊色欧美一区二区三区视频| 国产高清久久久久| 亚洲大尺度视频在线观看| 欧美极品少妇xxxxⅹ高跟鞋| 91精品国产综合久久婷婷香蕉 | 亚洲欧美日韩在线不卡| 日韩你懂的在线观看| 久久99伊人| 极品少妇一区二区三区| 成人免费看的视频| 久久97超碰色| 午夜一区二区三区视频| 成人欧美一区二区三区视频网页| 精品少妇一区二区三区日产乱码| 色婷婷激情综合| 一本久道久久综合婷婷鲸鱼| 女同一区二区| 国内国产精品久久| 日本中文一区二区三区| 亚洲午夜三级在线| 中文字幕一区二区三区在线播放| 精品噜噜噜噜久久久久久久久试看 | 一区二区91| 国模大胆一区二区三区| voyeur盗摄精品| 国产成人免费在线视频| 狠狠狠色丁香婷婷综合激情| 日日骚欧美日韩| 亚洲最新在线观看| 中文字幕在线不卡| 欧美激情一区不卡| 久久久影院官网| 亚洲精品一区二区三区99| 制服丝袜亚洲精品中文字幕| 欧洲国产伦久久久久久久| 亚洲欧美日韩综合国产aⅴ| 亚洲国产高清一区| 国内久久视频| 欧美日韩一区二区视频在线 | 蜜桃av一区二区三区电影| 亚洲精品乱码久久久久| 国产精品久久久久国产精品日日| 久久婷婷国产综合精品青草 | 老鸭窝一区二区久久精品| 日韩福利电影在线| 五月天欧美精品| 五月婷婷综合网| 午夜精品一区二区三区免费视频| 亚洲制服丝袜在线| 亚洲午夜视频在线观看| 亚洲高清免费一级二级三级| 亚洲午夜日本在线观看| 亚洲国产欧美在线人成| 亚洲午夜精品在线| 亚洲综合一区二区三区| 亚洲最大成人综合| 亚洲综合一二三区| 亚洲一级片在线观看| 亚洲一区二区在线观看视频| 亚洲综合久久av| 亚洲地区一二三色| 五月天久久比比资源色| 免费在线观看一区二区三区| 日韩激情一二三区| 久久超碰97中文字幕| 精彩视频一区二区三区| 国产成人a级片| 99久久精品国产精品久久| 欧美午夜不卡| 91久久亚洲| 久久精品99| 欧美绝品在线观看成人午夜影视| 欧美一区欧美二区| 精品欧美一区二区在线观看 | 99成人免费视频| 久久av一区| 欧美午夜精品久久久| 制服丝袜在线91| 精品国产乱码久久久久久1区2区 | 精品盗摄一区二区三区| 国产视频一区在线观看| 国产精品家庭影院| 亚洲一区在线观看网站| 日本成人中文字幕| 顶级嫩模精品视频在线看| 91在线码无精品| 亚洲精品自在在线观看| 一本色道久久综合亚洲91|