multipart.go 9.8 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292
  1. package oss
  2. import (
  3. "bytes"
  4. "encoding/xml"
  5. "io"
  6. "net/http"
  7. "net/url"
  8. "os"
  9. "sort"
  10. "strconv"
  11. )
  12. //
  13. // InitiateMultipartUpload 初始化分片上传任务。
  14. //
  15. // objectKey Object名称。
  16. // options 上传时可以指定Object的属性,可选属性有CacheControl、ContentDisposition、ContentEncoding、Expires、
  17. // ServerSideEncryption、Meta,具体含义请参考
  18. // https://help.aliyun.com/document_detail/oss/api-reference/multipart-upload/InitiateMultipartUpload.html
  19. //
  20. // InitiateMultipartUploadResult 初始化后操作成功的返回值,用于后面的UploadPartFromFile、UploadPartCopy等操作。error为nil时有效。
  21. // error 操作成功error为nil,非nil为错误信息。
  22. //
  23. func (bucket Bucket) InitiateMultipartUpload(objectKey string, options ...Option) (InitiateMultipartUploadResult, error) {
  24. var imur InitiateMultipartUploadResult
  25. opts := addContentType(options, objectKey)
  26. params := map[string]interface{}{}
  27. params["uploads"] = nil
  28. resp, err := bucket.do("POST", objectKey, params, opts, nil, nil)
  29. if err != nil {
  30. return imur, err
  31. }
  32. defer resp.Body.Close()
  33. err = xmlUnmarshal(resp.Body, &imur)
  34. return imur, err
  35. }
  36. //
  37. // UploadPart 上传分片。
  38. //
  39. // 初始化一个Multipart Upload之后,可以根据指定的Object名和Upload ID来分片(Part)上传数据。
  40. // 每一个上传的Part都有一个标识它的号码(part number,范围是1~10000)。对于同一个Upload ID,
  41. // 该号码不但唯一标识这一片数据,也标识了这片数据在整个文件内的相对位置。如果您用同一个part号码,上传了新的数据,
  42. // 那么OSS上已有的这个号码的Part数据将被覆盖。除了最后一片Part以外,其他的part最小为100KB;
  43. // 最后一片Part没有大小限制。
  44. //
  45. // imur InitiateMultipartUpload成功后的返回值。
  46. // reader io.Reader 需要分片上传的reader。
  47. // size 本次上传片Part的大小。
  48. // partNumber 本次上传片(Part)的编号,范围是1~10000。如果超出范围,OSS将返回InvalidArgument错误。
  49. //
  50. // UploadPart 上传成功的返回值,两个成员PartNumber、ETag。PartNumber片编号,即传入参数partNumber;
  51. // ETag及上传数据的MD5。error为nil时有效。
  52. // error 操作成功error为nil,非nil为错误信息。
  53. //
  54. func (bucket Bucket) UploadPart(imur InitiateMultipartUploadResult, reader io.Reader,
  55. partSize int64, partNumber int, options ...Option) (UploadPart, error) {
  56. request := &UploadPartRequest{
  57. InitResult: &imur,
  58. Reader: reader,
  59. PartSize: partSize,
  60. PartNumber: partNumber,
  61. }
  62. result, err := bucket.DoUploadPart(request, options)
  63. return result.Part, err
  64. }
  65. //
  66. // UploadPartFromFile 上传分片。
  67. //
  68. // imur InitiateMultipartUpload成功后的返回值。
  69. // filePath 需要分片上传的本地文件。
  70. // startPosition 本次上传文件片的起始位置。
  71. // partSize 本次上传文件片的大小。
  72. // partNumber 本次上传文件片的编号,范围是1~10000。
  73. //
  74. // UploadPart 上传成功的返回值,两个成员PartNumber、ETag。PartNumber片编号,传入参数partNumber;
  75. // ETag上传数据的MD5。error为nil时有效。
  76. // error 操作成功error为nil,非nil为错误信息。
  77. //
  78. func (bucket Bucket) UploadPartFromFile(imur InitiateMultipartUploadResult, filePath string,
  79. startPosition, partSize int64, partNumber int, options ...Option) (UploadPart, error) {
  80. var part = UploadPart{}
  81. fd, err := os.Open(filePath)
  82. if err != nil {
  83. return part, err
  84. }
  85. defer fd.Close()
  86. fd.Seek(startPosition, os.SEEK_SET)
  87. request := &UploadPartRequest{
  88. InitResult: &imur,
  89. Reader: fd,
  90. PartSize: partSize,
  91. PartNumber: partNumber,
  92. }
  93. result, err := bucket.DoUploadPart(request, options)
  94. return result.Part, err
  95. }
  96. //
  97. // DoUploadPart 上传分片。
  98. //
  99. // request 上传分片请求。
  100. //
  101. // UploadPartResult 上传分片请求返回值。
  102. // error 操作无错误为nil,非nil为错误信息。
  103. //
  104. func (bucket Bucket) DoUploadPart(request *UploadPartRequest, options []Option) (*UploadPartResult, error) {
  105. listener := getProgressListener(options)
  106. opts := []Option{ContentLength(request.PartSize)}
  107. params := map[string]interface{}{}
  108. params["partNumber"] = strconv.Itoa(request.PartNumber)
  109. params["uploadId"] = request.InitResult.UploadID
  110. resp, err := bucket.do("PUT", request.InitResult.Key, params, opts,
  111. &io.LimitedReader{R: request.Reader, N: request.PartSize}, listener)
  112. if err != nil {
  113. return &UploadPartResult{}, err
  114. }
  115. defer resp.Body.Close()
  116. part := UploadPart{
  117. ETag: resp.Headers.Get(HTTPHeaderEtag),
  118. PartNumber: request.PartNumber,
  119. }
  120. if bucket.getConfig().IsEnableCRC {
  121. err = checkCRC(resp, "DoUploadPart")
  122. if err != nil {
  123. return &UploadPartResult{part}, err
  124. }
  125. }
  126. return &UploadPartResult{part}, nil
  127. }
  128. //
  129. // UploadPartCopy 拷贝分片。
  130. //
  131. // imur InitiateMultipartUpload成功后的返回值。
  132. // copySrc 源Object名称。
  133. // startPosition 本次拷贝片(Part)在源Object的起始位置。
  134. // partSize 本次拷贝片的大小。
  135. // partNumber 本次拷贝片的编号,范围是1~10000。如果超出范围,OSS将返回InvalidArgument错误。
  136. // options copy时源Object的限制条件,满足限制条件时copy,不满足时返回错误。可选条件有CopySourceIfMatch、
  137. // CopySourceIfNoneMatch、CopySourceIfModifiedSince CopySourceIfUnmodifiedSince,具体含义请参看
  138. // https://help.aliyun.com/document_detail/oss/api-reference/multipart-upload/UploadPartCopy.html
  139. //
  140. // UploadPart 上传成功的返回值,两个成员PartNumber、ETag。PartNumber片(Part)编号,即传入参数partNumber;
  141. // ETag及上传数据的MD5。error为nil时有效。
  142. // error 操作成功error为nil,非nil为错误信息。
  143. //
  144. func (bucket Bucket) UploadPartCopy(imur InitiateMultipartUploadResult, srcBucketName, srcObjectKey string,
  145. startPosition, partSize int64, partNumber int, options ...Option) (UploadPart, error) {
  146. var out UploadPartCopyResult
  147. var part UploadPart
  148. opts := []Option{CopySource(srcBucketName, url.QueryEscape(srcObjectKey)),
  149. CopySourceRange(startPosition, partSize)}
  150. opts = append(opts, options...)
  151. params := map[string]interface{}{}
  152. params["partNumber"] = strconv.Itoa(partNumber)
  153. params["uploadId"] = imur.UploadID
  154. resp, err := bucket.do("PUT", imur.Key, params, opts, nil, nil)
  155. if err != nil {
  156. return part, err
  157. }
  158. defer resp.Body.Close()
  159. err = xmlUnmarshal(resp.Body, &out)
  160. if err != nil {
  161. return part, err
  162. }
  163. part.ETag = out.ETag
  164. part.PartNumber = partNumber
  165. return part, nil
  166. }
  167. //
  168. // CompleteMultipartUpload 提交分片上传任务。
  169. //
  170. // imur InitiateMultipartUpload的返回值。
  171. // parts UploadPart/UploadPartFromFile/UploadPartCopy返回值组成的数组。
  172. //
  173. // CompleteMultipartUploadResponse 操作成功后的返回值。error为nil时有效。
  174. // error 操作成功error为nil,非nil为错误信息。
  175. //
  176. func (bucket Bucket) CompleteMultipartUpload(imur InitiateMultipartUploadResult,
  177. parts []UploadPart) (CompleteMultipartUploadResult, error) {
  178. var out CompleteMultipartUploadResult
  179. sort.Sort(uploadParts(parts))
  180. cxml := completeMultipartUploadXML{}
  181. cxml.Part = parts
  182. bs, err := xml.Marshal(cxml)
  183. if err != nil {
  184. return out, err
  185. }
  186. buffer := new(bytes.Buffer)
  187. buffer.Write(bs)
  188. params := map[string]interface{}{}
  189. params["uploadId"] = imur.UploadID
  190. resp, err := bucket.do("POST", imur.Key, params, nil, buffer, nil)
  191. if err != nil {
  192. return out, err
  193. }
  194. defer resp.Body.Close()
  195. err = xmlUnmarshal(resp.Body, &out)
  196. return out, err
  197. }
  198. //
  199. // AbortMultipartUpload 取消分片上传任务。
  200. //
  201. // imur InitiateMultipartUpload的返回值。
  202. //
  203. // error 操作成功error为nil,非nil为错误信息。
  204. //
  205. func (bucket Bucket) AbortMultipartUpload(imur InitiateMultipartUploadResult) error {
  206. params := map[string]interface{}{}
  207. params["uploadId"] = imur.UploadID
  208. resp, err := bucket.do("DELETE", imur.Key, params, nil, nil, nil)
  209. if err != nil {
  210. return err
  211. }
  212. defer resp.Body.Close()
  213. return checkRespCode(resp.StatusCode, []int{http.StatusNoContent})
  214. }
  215. //
  216. // ListUploadedParts 列出指定上传任务已经上传的分片。
  217. //
  218. // imur InitiateMultipartUpload的返回值。
  219. //
  220. // ListUploadedPartsResponse 操作成功后的返回值,成员UploadedParts已经上传/拷贝的片。error为nil时该返回值有效。
  221. // error 操作成功error为nil,非nil为错误信息。
  222. //
  223. func (bucket Bucket) ListUploadedParts(imur InitiateMultipartUploadResult) (ListUploadedPartsResult, error) {
  224. var out ListUploadedPartsResult
  225. params := map[string]interface{}{}
  226. params["uploadId"] = imur.UploadID
  227. resp, err := bucket.do("GET", imur.Key, params, nil, nil, nil)
  228. if err != nil {
  229. return out, err
  230. }
  231. defer resp.Body.Close()
  232. err = xmlUnmarshal(resp.Body, &out)
  233. return out, err
  234. }
  235. //
  236. // ListMultipartUploads 列出所有未上传完整的multipart任务列表。
  237. //
  238. // options ListObject的筛选行为。Prefix返回object的前缀,KeyMarker返回object的起始位置,MaxUploads最大数目默认1000,
  239. // Delimiter用于对Object名字进行分组的字符,所有名字包含指定的前缀且第一次出现delimiter字符之间的object。
  240. //
  241. // ListMultipartUploadResponse 操作成功后的返回值,error为nil时该返回值有效。
  242. // error 操作成功error为nil,非nil为错误信息。
  243. //
  244. func (bucket Bucket) ListMultipartUploads(options ...Option) (ListMultipartUploadResult, error) {
  245. var out ListMultipartUploadResult
  246. options = append(options, EncodingType("url"))
  247. params, err := getRawParams(options)
  248. if err != nil {
  249. return out, err
  250. }
  251. params["uploads"] = nil
  252. resp, err := bucket.do("GET", "", params, nil, nil, nil)
  253. if err != nil {
  254. return out, err
  255. }
  256. defer resp.Body.Close()
  257. err = xmlUnmarshal(resp.Body, &out)
  258. if err != nil {
  259. return out, err
  260. }
  261. err = decodeListMultipartUploadResult(&out)
  262. return out, err
  263. }