multipart.go 9.6 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284
  1. package oss
  2. import (
  3. "bytes"
  4. "encoding/xml"
  5. "io"
  6. "net/http"
  7. "os"
  8. "sort"
  9. "strconv"
  10. )
  11. //
  12. // InitiateMultipartUpload 初始化分片上传任务。
  13. //
  14. // objectKey Object名称。
  15. // options 上传时可以指定Object的属性,可选属性有CacheControl、ContentDisposition、ContentEncoding、Expires、
  16. // ServerSideEncryption、Meta,具体含义请参考
  17. // https://help.aliyun.com/document_detail/oss/api-reference/multipart-upload/InitiateMultipartUpload.html
  18. //
  19. // InitiateMultipartUploadResult 初始化后操作成功的返回值,用于后面的UploadPartFromFile、UploadPartCopy等操作。error为nil时有效。
  20. // error 操作成功error为nil,非nil为错误信息。
  21. //
  22. func (bucket Bucket) InitiateMultipartUpload(objectKey string, options ...Option) (InitiateMultipartUploadResult, error) {
  23. var imur InitiateMultipartUploadResult
  24. opts := addContentType(options, objectKey)
  25. resp, err := bucket.do("POST", objectKey, "uploads", "uploads", opts, nil, nil)
  26. if err != nil {
  27. return imur, err
  28. }
  29. defer resp.Body.Close()
  30. err = xmlUnmarshal(resp.Body, &imur)
  31. return imur, err
  32. }
  33. //
  34. // UploadPart 上传分片。
  35. //
  36. // 初始化一个Multipart Upload之后,可以根据指定的Object名和Upload ID来分片(Part)上传数据。
  37. // 每一个上传的Part都有一个标识它的号码(part number,范围是1~10000)。对于同一个Upload ID,
  38. // 该号码不但唯一标识这一片数据,也标识了这片数据在整个文件内的相对位置。如果您用同一个part号码,上传了新的数据,
  39. // 那么OSS上已有的这个号码的Part数据将被覆盖。除了最后一片Part以外,其他的part最小为100KB;
  40. // 最后一片Part没有大小限制。
  41. //
  42. // imur InitiateMultipartUpload成功后的返回值。
  43. // reader io.Reader 需要分片上传的reader。
  44. // size 本次上传片Part的大小。
  45. // partNumber 本次上传片(Part)的编号,范围是1~10000。如果超出范围,OSS将返回InvalidArgument错误。
  46. //
  47. // UploadPart 上传成功的返回值,两个成员PartNumber、ETag。PartNumber片编号,即传入参数partNumber;
  48. // ETag及上传数据的MD5。error为nil时有效。
  49. // error 操作成功error为nil,非nil为错误信息。
  50. //
  51. func (bucket Bucket) UploadPart(imur InitiateMultipartUploadResult, reader io.Reader,
  52. partSize int64, partNumber int, options ...Option) (UploadPart, error) {
  53. request := &UploadPartRequest{
  54. InitResult: &imur,
  55. Reader: reader,
  56. PartSize: partSize,
  57. PartNumber: partNumber,
  58. }
  59. result, err := bucket.DoUploadPart(request, options)
  60. return result.Part, err
  61. }
  62. //
  63. // UploadPartFromFile 上传分片。
  64. //
  65. // imur InitiateMultipartUpload成功后的返回值。
  66. // filePath 需要分片上传的本地文件。
  67. // startPosition 本次上传文件片的起始位置。
  68. // partSize 本次上传文件片的大小。
  69. // partNumber 本次上传文件片的编号,范围是1~10000。
  70. //
  71. // UploadPart 上传成功的返回值,两个成员PartNumber、ETag。PartNumber片编号,传入参数partNumber;
  72. // ETag上传数据的MD5。error为nil时有效。
  73. // error 操作成功error为nil,非nil为错误信息。
  74. //
  75. func (bucket Bucket) UploadPartFromFile(imur InitiateMultipartUploadResult, filePath string,
  76. startPosition, partSize int64, partNumber int, options ...Option) (UploadPart, error) {
  77. var part = UploadPart{}
  78. fd, err := os.Open(filePath)
  79. if err != nil {
  80. return part, err
  81. }
  82. defer fd.Close()
  83. fd.Seek(startPosition, os.SEEK_SET)
  84. request := &UploadPartRequest{
  85. InitResult: &imur,
  86. Reader: fd,
  87. PartSize: partSize,
  88. PartNumber: partNumber,
  89. }
  90. result, err := bucket.DoUploadPart(request, options)
  91. return result.Part, err
  92. }
  93. //
  94. // DoUploadPart 上传分片。
  95. //
  96. // request 上传分片请求。
  97. //
  98. // UploadPartResult 上传分片请求返回值。
  99. // error 操作无错误为nil,非nil为错误信息。
  100. //
  101. func (bucket Bucket) DoUploadPart(request *UploadPartRequest, options []Option) (*UploadPartResult, error) {
  102. if request.Listener == nil {
  103. request.Listener = getProgressListener(options)
  104. }
  105. params := "partNumber=" + strconv.Itoa(request.PartNumber) + "&uploadId=" + request.InitResult.UploadID
  106. opts := []Option{ContentLength(request.PartSize)}
  107. resp, err := bucket.do("PUT", request.InitResult.Key, params, params, opts,
  108. &io.LimitedReader{R: request.Reader, N: request.PartSize}, request.Listener)
  109. if err != nil {
  110. return &UploadPartResult{}, err
  111. }
  112. defer resp.Body.Close()
  113. part := UploadPart{
  114. ETag: resp.Headers.Get(HTTPHeaderEtag),
  115. PartNumber: request.PartNumber,
  116. }
  117. if bucket.getConfig().IsEnableCRC {
  118. err = checkCRC(resp, "DoUploadPart")
  119. if err != nil {
  120. return &UploadPartResult{part}, err
  121. }
  122. }
  123. return &UploadPartResult{part}, nil
  124. }
  125. //
  126. // UploadPartCopy 拷贝分片。
  127. //
  128. // imur InitiateMultipartUpload成功后的返回值。
  129. // copySrc 源Object名称。
  130. // startPosition 本次拷贝片(Part)在源Object的起始位置。
  131. // partSize 本次拷贝片的大小。
  132. // partNumber 本次拷贝片的编号,范围是1~10000。如果超出范围,OSS将返回InvalidArgument错误。
  133. // options copy时源Object的限制条件,满足限制条件时copy,不满足时返回错误。可选条件有CopySourceIfMatch、
  134. // CopySourceIfNoneMatch、CopySourceIfModifiedSince CopySourceIfUnmodifiedSince,具体含义请参看
  135. // https://help.aliyun.com/document_detail/oss/api-reference/multipart-upload/UploadPartCopy.html
  136. //
  137. // UploadPart 上传成功的返回值,两个成员PartNumber、ETag。PartNumber片(Part)编号,即传入参数partNumber;
  138. // ETag及上传数据的MD5。error为nil时有效。
  139. // error 操作成功error为nil,非nil为错误信息。
  140. //
  141. func (bucket Bucket) UploadPartCopy(imur InitiateMultipartUploadResult, srcBucketName, srcObjectKey string,
  142. startPosition, partSize int64, partNumber int, options ...Option) (UploadPart, error) {
  143. var out UploadPartCopyResult
  144. var part UploadPart
  145. opts := []Option{CopySource(srcBucketName, srcObjectKey),
  146. CopySourceRange(startPosition, partSize)}
  147. opts = append(opts, options...)
  148. params := "partNumber=" + strconv.Itoa(partNumber) + "&uploadId=" + imur.UploadID
  149. resp, err := bucket.do("PUT", imur.Key, params, params, opts, nil, nil)
  150. if err != nil {
  151. return part, err
  152. }
  153. defer resp.Body.Close()
  154. err = xmlUnmarshal(resp.Body, &out)
  155. if err != nil {
  156. return part, err
  157. }
  158. part.ETag = out.ETag
  159. part.PartNumber = partNumber
  160. return part, nil
  161. }
  162. //
  163. // CompleteMultipartUpload 提交分片上传任务。
  164. //
  165. // imur InitiateMultipartUpload的返回值。
  166. // parts UploadPart/UploadPartFromFile/UploadPartCopy返回值组成的数组。
  167. //
  168. // CompleteMultipartUploadResponse 操作成功后的返回值。error为nil时有效。
  169. // error 操作成功error为nil,非nil为错误信息。
  170. //
  171. func (bucket Bucket) CompleteMultipartUpload(imur InitiateMultipartUploadResult,
  172. parts []UploadPart) (CompleteMultipartUploadResult, error) {
  173. var out CompleteMultipartUploadResult
  174. sort.Sort(uploadParts(parts))
  175. cxml := completeMultipartUploadXML{}
  176. cxml.Part = parts
  177. bs, err := xml.Marshal(cxml)
  178. if err != nil {
  179. return out, err
  180. }
  181. buffer := new(bytes.Buffer)
  182. buffer.Write(bs)
  183. params := "uploadId=" + imur.UploadID
  184. resp, err := bucket.do("POST", imur.Key, params, params, nil, buffer, nil)
  185. if err != nil {
  186. return out, err
  187. }
  188. defer resp.Body.Close()
  189. err = xmlUnmarshal(resp.Body, &out)
  190. return out, err
  191. }
  192. //
  193. // AbortMultipartUpload 取消分片上传任务。
  194. //
  195. // imur InitiateMultipartUpload的返回值。
  196. //
  197. // error 操作成功error为nil,非nil为错误信息。
  198. //
  199. func (bucket Bucket) AbortMultipartUpload(imur InitiateMultipartUploadResult) error {
  200. params := "uploadId=" + imur.UploadID
  201. resp, err := bucket.do("DELETE", imur.Key, params, params, nil, nil, nil)
  202. if err != nil {
  203. return err
  204. }
  205. defer resp.Body.Close()
  206. return checkRespCode(resp.StatusCode, []int{http.StatusNoContent})
  207. }
  208. //
  209. // ListUploadedParts 列出指定上传任务已经上传的分片。
  210. //
  211. // imur InitiateMultipartUpload的返回值。
  212. //
  213. // ListUploadedPartsResponse 操作成功后的返回值,成员UploadedParts已经上传/拷贝的片。error为nil时该返回值有效。
  214. // error 操作成功error为nil,非nil为错误信息。
  215. //
  216. func (bucket Bucket) ListUploadedParts(imur InitiateMultipartUploadResult) (ListUploadedPartsResult, error) {
  217. var out ListUploadedPartsResult
  218. params := "uploadId=" + imur.UploadID
  219. resp, err := bucket.do("GET", imur.Key, params, params, nil, nil, nil)
  220. if err != nil {
  221. return out, err
  222. }
  223. defer resp.Body.Close()
  224. err = xmlUnmarshal(resp.Body, &out)
  225. return out, err
  226. }
  227. //
  228. // ListMultipartUploads 列出所有未上传完整的multipart任务列表。
  229. //
  230. // options ListObject的筛选行为。Prefix返回object的前缀,KeyMarker返回object的起始位置,MaxUploads最大数目默认1000,
  231. // Delimiter用于对Object名字进行分组的字符,所有名字包含指定的前缀且第一次出现delimiter字符之间的object。
  232. //
  233. // ListMultipartUploadResponse 操作成功后的返回值,error为nil时该返回值有效。
  234. // error 操作成功error为nil,非nil为错误信息。
  235. //
  236. func (bucket Bucket) ListMultipartUploads(options ...Option) (ListMultipartUploadResult, error) {
  237. var out ListMultipartUploadResult
  238. options = append(options, EncodingType("url"))
  239. params, err := handleParams(options)
  240. if err != nil {
  241. return out, err
  242. }
  243. resp, err := bucket.do("GET", "", "uploads&"+params, "uploads", nil, nil, nil)
  244. if err != nil {
  245. return out, err
  246. }
  247. defer resp.Body.Close()
  248. err = xmlUnmarshal(resp.Body, &out)
  249. if err != nil {
  250. return out, err
  251. }
  252. err = decodeListMultipartUploadResult(&out)
  253. return out, err
  254. }