使用华为云OBS下载测序文件
1. 前言
华为的obsutil简介:https://support.huaweicloud.com/utiltg-obs/obs_11_0001.html
华为的OBS Browser+简介:https://support.huaweicloud.com/browsertg-obs/obs_03_1000.html
希望组的OBS Browser+教程:https://www.grandomics.com/obs_browser_read_me/
希望组的obsutil教程:https://www.grandomics.com/obsutil-download-link/
这次使用希望组公司提供的测序服务,通过华为的云盘传输数据。这一点就要点赞,总算不用自费开百度网盘的会员了。
之前对于华为云盘的数据,我是用mac安装的OBS Browser+(图形化工具)下载后,再传到(服务器分析数据/硬盘备份)的。这次决定在linux中直接使用obsutil下载到服务器去。
2. 安装obsutil
# 确认自己是arm64还是amd64
uname -a # 确认是amd64
# 下载对应版本软件
cd ~/software
wget https://obs-community.obs.cn-north-1.myhuaweicloud.com/obsutil/current/obsutil_linux_amd64.tar.gz
tar -zxvf obsutil_linux_amd64.tar.gz
3. 下载数据
# 下载数据
~/software/obsutil_linux_amd64_5.4.11/obsutil share-cp https://xxxxx1 /mnt/caigui/74_xxxxx2/1_rawdata -ac=xxxxx3 -r -f -u -vlength -vmd5
# 参数说明
# https://xxxxx1 替换为邮件内提供的Authorization Code
# /mnt/caigui/74_xxxxx2/1_rawdata 替换为要保存到的本地目录
# -ac=xxxxx3 替换为邮件内提供的Access Code
# -r:批量下载
# -f:强制下载,不进行逐个询问
# -u:增量下载
# -vlength:下载完成后,验证本地文件大小是否与桶中对象的大小一致
# -vmd5:下载完成后,验证本地文件的MD5值是否与桶中对象的MD5值一致
# 挂起到后台下载
nohup ~/software/obsutil_linux_amd64_5.4.11/obsutil share-cp https://xxxxx1 /mnt/caigui/74_xxxxx2/1_rawdata -ac=xxxxx3 -r -f -u -vlength -vmd5 &
4. BIG BUG
obsutil下载到一大半的时候总是中断,折腾了一会恢复下载还是没弄成。
转用OBS Browser+下载后,没有遇到中断的问题。
使用OBS Browser+下载完后,做了次md5检验,有一个文件的md5没有对上。重新下载这个文件后,md5检验通过。
5. 总结
还是用OBS Browser+下载吧,下载完记得做md5检验,未通过的文件再重新下载一次试试。