multipart.go 9.7 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291
  1. package oss
  2. import (
  3. "bytes"
  4. "encoding/xml"
  5. "io"
  6. "net/http"
  7. "os"
  8. "sort"
  9. "strconv"
  10. )
  11. //
  12. // InitiateMultipartUpload 初始化分片上传任务。
  13. //
  14. // objectKey Object名称。
  15. // options 上传时可以指定Object的属性,可选属性有CacheControl、ContentDisposition、ContentEncoding、Expires、
  16. // ServerSideEncryption、Meta,具体含义请参考
  17. // https://help.aliyun.com/document_detail/oss/api-reference/multipart-upload/InitiateMultipartUpload.html
  18. //
  19. // InitiateMultipartUploadResult 初始化后操作成功的返回值,用于后面的UploadPartFromFile、UploadPartCopy等操作。error为nil时有效。
  20. // error 操作成功error为nil,非nil为错误信息。
  21. //
  22. func (bucket Bucket) InitiateMultipartUpload(objectKey string, options ...Option) (InitiateMultipartUploadResult, error) {
  23. var imur InitiateMultipartUploadResult
  24. opts := addContentType(options, objectKey)
  25. params := map[string]interface{}{}
  26. params["uploads"] = nil
  27. resp, err := bucket.do("POST", objectKey, params, opts, nil, nil)
  28. if err != nil {
  29. return imur, err
  30. }
  31. defer resp.Body.Close()
  32. err = xmlUnmarshal(resp.Body, &imur)
  33. return imur, err
  34. }
  35. //
  36. // UploadPart 上传分片。
  37. //
  38. // 初始化一个Multipart Upload之后,可以根据指定的Object名和Upload ID来分片(Part)上传数据。
  39. // 每一个上传的Part都有一个标识它的号码(part number,范围是1~10000)。对于同一个Upload ID,
  40. // 该号码不但唯一标识这一片数据,也标识了这片数据在整个文件内的相对位置。如果您用同一个part号码,上传了新的数据,
  41. // 那么OSS上已有的这个号码的Part数据将被覆盖。除了最后一片Part以外,其他的part最小为100KB;
  42. // 最后一片Part没有大小限制。
  43. //
  44. // imur InitiateMultipartUpload成功后的返回值。
  45. // reader io.Reader 需要分片上传的reader。
  46. // size 本次上传片Part的大小。
  47. // partNumber 本次上传片(Part)的编号,范围是1~10000。如果超出范围,OSS将返回InvalidArgument错误。
  48. //
  49. // UploadPart 上传成功的返回值,两个成员PartNumber、ETag。PartNumber片编号,即传入参数partNumber;
  50. // ETag及上传数据的MD5。error为nil时有效。
  51. // error 操作成功error为nil,非nil为错误信息。
  52. //
  53. func (bucket Bucket) UploadPart(imur InitiateMultipartUploadResult, reader io.Reader,
  54. partSize int64, partNumber int, options ...Option) (UploadPart, error) {
  55. request := &UploadPartRequest{
  56. InitResult: &imur,
  57. Reader: reader,
  58. PartSize: partSize,
  59. PartNumber: partNumber,
  60. }
  61. result, err := bucket.DoUploadPart(request, options)
  62. return result.Part, err
  63. }
  64. //
  65. // UploadPartFromFile 上传分片。
  66. //
  67. // imur InitiateMultipartUpload成功后的返回值。
  68. // filePath 需要分片上传的本地文件。
  69. // startPosition 本次上传文件片的起始位置。
  70. // partSize 本次上传文件片的大小。
  71. // partNumber 本次上传文件片的编号,范围是1~10000。
  72. //
  73. // UploadPart 上传成功的返回值,两个成员PartNumber、ETag。PartNumber片编号,传入参数partNumber;
  74. // ETag上传数据的MD5。error为nil时有效。
  75. // error 操作成功error为nil,非nil为错误信息。
  76. //
  77. func (bucket Bucket) UploadPartFromFile(imur InitiateMultipartUploadResult, filePath string,
  78. startPosition, partSize int64, partNumber int, options ...Option) (UploadPart, error) {
  79. var part = UploadPart{}
  80. fd, err := os.Open(filePath)
  81. if err != nil {
  82. return part, err
  83. }
  84. defer fd.Close()
  85. fd.Seek(startPosition, os.SEEK_SET)
  86. request := &UploadPartRequest{
  87. InitResult: &imur,
  88. Reader: fd,
  89. PartSize: partSize,
  90. PartNumber: partNumber,
  91. }
  92. result, err := bucket.DoUploadPart(request, options)
  93. return result.Part, err
  94. }
  95. //
  96. // DoUploadPart 上传分片。
  97. //
  98. // request 上传分片请求。
  99. //
  100. // UploadPartResult 上传分片请求返回值。
  101. // error 操作无错误为nil,非nil为错误信息。
  102. //
  103. func (bucket Bucket) DoUploadPart(request *UploadPartRequest, options []Option) (*UploadPartResult, error) {
  104. listener := getProgressListener(options)
  105. opts := []Option{ContentLength(request.PartSize)}
  106. params := map[string]interface{}{}
  107. params["partNumber"] = strconv.Itoa(request.PartNumber)
  108. params["uploadId"] = request.InitResult.UploadID
  109. resp, err := bucket.do("PUT", request.InitResult.Key, params, opts,
  110. &io.LimitedReader{R: request.Reader, N: request.PartSize}, listener)
  111. if err != nil {
  112. return &UploadPartResult{}, err
  113. }
  114. defer resp.Body.Close()
  115. part := UploadPart{
  116. ETag: resp.Headers.Get(HTTPHeaderEtag),
  117. PartNumber: request.PartNumber,
  118. }
  119. if bucket.getConfig().IsEnableCRC {
  120. err = checkCRC(resp, "DoUploadPart")
  121. if err != nil {
  122. return &UploadPartResult{part}, err
  123. }
  124. }
  125. return &UploadPartResult{part}, nil
  126. }
  127. //
  128. // UploadPartCopy 拷贝分片。
  129. //
  130. // imur InitiateMultipartUpload成功后的返回值。
  131. // copySrc 源Object名称。
  132. // startPosition 本次拷贝片(Part)在源Object的起始位置。
  133. // partSize 本次拷贝片的大小。
  134. // partNumber 本次拷贝片的编号,范围是1~10000。如果超出范围,OSS将返回InvalidArgument错误。
  135. // options copy时源Object的限制条件,满足限制条件时copy,不满足时返回错误。可选条件有CopySourceIfMatch、
  136. // CopySourceIfNoneMatch、CopySourceIfModifiedSince CopySourceIfUnmodifiedSince,具体含义请参看
  137. // https://help.aliyun.com/document_detail/oss/api-reference/multipart-upload/UploadPartCopy.html
  138. //
  139. // UploadPart 上传成功的返回值,两个成员PartNumber、ETag。PartNumber片(Part)编号,即传入参数partNumber;
  140. // ETag及上传数据的MD5。error为nil时有效。
  141. // error 操作成功error为nil,非nil为错误信息。
  142. //
  143. func (bucket Bucket) UploadPartCopy(imur InitiateMultipartUploadResult, srcBucketName, srcObjectKey string,
  144. startPosition, partSize int64, partNumber int, options ...Option) (UploadPart, error) {
  145. var out UploadPartCopyResult
  146. var part UploadPart
  147. opts := []Option{CopySource(srcBucketName, srcObjectKey),
  148. CopySourceRange(startPosition, partSize)}
  149. opts = append(opts, options...)
  150. params := map[string]interface{}{}
  151. params["partNumber"] = strconv.Itoa(partNumber)
  152. params["uploadId"] = imur.UploadID
  153. resp, err := bucket.do("PUT", imur.Key, params, opts, nil, nil)
  154. if err != nil {
  155. return part, err
  156. }
  157. defer resp.Body.Close()
  158. err = xmlUnmarshal(resp.Body, &out)
  159. if err != nil {
  160. return part, err
  161. }
  162. part.ETag = out.ETag
  163. part.PartNumber = partNumber
  164. return part, nil
  165. }
  166. //
  167. // CompleteMultipartUpload 提交分片上传任务。
  168. //
  169. // imur InitiateMultipartUpload的返回值。
  170. // parts UploadPart/UploadPartFromFile/UploadPartCopy返回值组成的数组。
  171. //
  172. // CompleteMultipartUploadResponse 操作成功后的返回值。error为nil时有效。
  173. // error 操作成功error为nil,非nil为错误信息。
  174. //
  175. func (bucket Bucket) CompleteMultipartUpload(imur InitiateMultipartUploadResult,
  176. parts []UploadPart) (CompleteMultipartUploadResult, error) {
  177. var out CompleteMultipartUploadResult
  178. sort.Sort(uploadParts(parts))
  179. cxml := completeMultipartUploadXML{}
  180. cxml.Part = parts
  181. bs, err := xml.Marshal(cxml)
  182. if err != nil {
  183. return out, err
  184. }
  185. buffer := new(bytes.Buffer)
  186. buffer.Write(bs)
  187. params := map[string]interface{}{}
  188. params["uploadId"] = imur.UploadID
  189. resp, err := bucket.do("POST", imur.Key, params, nil, buffer, nil)
  190. if err != nil {
  191. return out, err
  192. }
  193. defer resp.Body.Close()
  194. err = xmlUnmarshal(resp.Body, &out)
  195. return out, err
  196. }
  197. //
  198. // AbortMultipartUpload 取消分片上传任务。
  199. //
  200. // imur InitiateMultipartUpload的返回值。
  201. //
  202. // error 操作成功error为nil,非nil为错误信息。
  203. //
  204. func (bucket Bucket) AbortMultipartUpload(imur InitiateMultipartUploadResult) error {
  205. params := map[string]interface{}{}
  206. params["uploadId"] = imur.UploadID
  207. resp, err := bucket.do("DELETE", imur.Key, params, nil, nil, nil)
  208. if err != nil {
  209. return err
  210. }
  211. defer resp.Body.Close()
  212. return checkRespCode(resp.StatusCode, []int{http.StatusNoContent})
  213. }
  214. //
  215. // ListUploadedParts 列出指定上传任务已经上传的分片。
  216. //
  217. // imur InitiateMultipartUpload的返回值。
  218. //
  219. // ListUploadedPartsResponse 操作成功后的返回值,成员UploadedParts已经上传/拷贝的片。error为nil时该返回值有效。
  220. // error 操作成功error为nil,非nil为错误信息。
  221. //
  222. func (bucket Bucket) ListUploadedParts(imur InitiateMultipartUploadResult) (ListUploadedPartsResult, error) {
  223. var out ListUploadedPartsResult
  224. params := map[string]interface{}{}
  225. params["uploadId"] = imur.UploadID
  226. resp, err := bucket.do("GET", imur.Key, params, nil, nil, nil)
  227. if err != nil {
  228. return out, err
  229. }
  230. defer resp.Body.Close()
  231. err = xmlUnmarshal(resp.Body, &out)
  232. return out, err
  233. }
  234. //
  235. // ListMultipartUploads 列出所有未上传完整的multipart任务列表。
  236. //
  237. // options ListObject的筛选行为。Prefix返回object的前缀,KeyMarker返回object的起始位置,MaxUploads最大数目默认1000,
  238. // Delimiter用于对Object名字进行分组的字符,所有名字包含指定的前缀且第一次出现delimiter字符之间的object。
  239. //
  240. // ListMultipartUploadResponse 操作成功后的返回值,error为nil时该返回值有效。
  241. // error 操作成功error为nil,非nil为错误信息。
  242. //
  243. func (bucket Bucket) ListMultipartUploads(options ...Option) (ListMultipartUploadResult, error) {
  244. var out ListMultipartUploadResult
  245. options = append(options, EncodingType("url"))
  246. params, err := getRawParams(options)
  247. if err != nil {
  248. return out, err
  249. }
  250. params["uploads"] = nil
  251. resp, err := bucket.do("GET", "", params, nil, nil, nil)
  252. if err != nil {
  253. return out, err
  254. }
  255. defer resp.Body.Close()
  256. err = xmlUnmarshal(resp.Body, &out)
  257. if err != nil {
  258. return out, err
  259. }
  260. err = decodeListMultipartUploadResult(&out)
  261. return out, err
  262. }