multipart.go 9.5 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281
  1. package oss
  2. import (
  3. "bytes"
  4. "encoding/xml"
  5. "io"
  6. "net/http"
  7. "os"
  8. "sort"
  9. "strconv"
  10. )
  11. //
  12. // InitiateMultipartUpload 初始化分片上传任务。
  13. //
  14. // objectKey Object名称。
  15. // options 上传时可以指定Object的属性,可选属性有CacheControl、ContentDisposition、ContentEncoding、Expires、
  16. // ServerSideEncryption、Meta,具体含义请参考
  17. // https://help.aliyun.com/document_detail/oss/api-reference/multipart-upload/InitiateMultipartUpload.html
  18. //
  19. // InitiateMultipartUploadResult 初始化后操作成功的返回值,用于后面的UploadPartFromFile、UploadPartCopy等操作。error为nil时有效。
  20. // error 操作成功error为nil,非nil为错误信息。
  21. //
  22. func (bucket Bucket) InitiateMultipartUpload(objectKey string, options ...Option) (InitiateMultipartUploadResult, error) {
  23. var imur InitiateMultipartUploadResult
  24. opts := addContentType(options, objectKey)
  25. resp, err := bucket.do("POST", objectKey, "uploads", "uploads", opts, nil, nil)
  26. if err != nil {
  27. return imur, err
  28. }
  29. defer resp.Body.Close()
  30. err = xmlUnmarshal(resp.Body, &imur)
  31. return imur, err
  32. }
  33. //
  34. // UploadPart 上传分片。
  35. //
  36. // 初始化一个Multipart Upload之后,可以根据指定的Object名和Upload ID来分片(Part)上传数据。
  37. // 每一个上传的Part都有一个标识它的号码(part number,范围是1~10000)。对于同一个Upload ID,
  38. // 该号码不但唯一标识这一片数据,也标识了这片数据在整个文件内的相对位置。如果您用同一个part号码,上传了新的数据,
  39. // 那么OSS上已有的这个号码的Part数据将被覆盖。除了最后一片Part以外,其他的part最小为100KB;
  40. // 最后一片Part没有大小限制。
  41. //
  42. // imur InitiateMultipartUpload成功后的返回值。
  43. // reader io.Reader 需要分片上传的reader。
  44. // size 本次上传片Part的大小。
  45. // partNumber 本次上传片(Part)的编号,范围是1~10000。如果超出范围,OSS将返回InvalidArgument错误。
  46. //
  47. // UploadPart 上传成功的返回值,两个成员PartNumber、ETag。PartNumber片编号,即传入参数partNumber;
  48. // ETag及上传数据的MD5。error为nil时有效。
  49. // error 操作成功error为nil,非nil为错误信息。
  50. //
  51. func (bucket Bucket) UploadPart(imur InitiateMultipartUploadResult, reader io.Reader,
  52. partSize int64, partNumber int, options ...Option) (UploadPart, error) {
  53. request := &UploadPartRequest{
  54. InitResult: &imur,
  55. Reader: reader,
  56. PartSize: partSize,
  57. PartNumber: partNumber,
  58. }
  59. result, err := bucket.DoUploadPart(request, options)
  60. return result.Part, err
  61. }
  62. //
  63. // UploadPartFromFile 上传分片。
  64. //
  65. // imur InitiateMultipartUpload成功后的返回值。
  66. // filePath 需要分片上传的本地文件。
  67. // startPosition 本次上传文件片的起始位置。
  68. // partSize 本次上传文件片的大小。
  69. // partNumber 本次上传文件片的编号,范围是1~10000。
  70. //
  71. // UploadPart 上传成功的返回值,两个成员PartNumber、ETag。PartNumber片编号,传入参数partNumber;
  72. // ETag上传数据的MD5。error为nil时有效。
  73. // error 操作成功error为nil,非nil为错误信息。
  74. //
  75. func (bucket Bucket) UploadPartFromFile(imur InitiateMultipartUploadResult, filePath string,
  76. startPosition, partSize int64, partNumber int, options ...Option) (UploadPart, error) {
  77. var part = UploadPart{}
  78. fd, err := os.Open(filePath)
  79. if err != nil {
  80. return part, err
  81. }
  82. defer fd.Close()
  83. fd.Seek(startPosition, os.SEEK_SET)
  84. request := &UploadPartRequest{
  85. InitResult: &imur,
  86. Reader: fd,
  87. PartSize: partSize,
  88. PartNumber: partNumber,
  89. }
  90. result, err := bucket.DoUploadPart(request, options)
  91. return result.Part, err
  92. }
  93. //
  94. // DoUploadPart 上传分片。
  95. //
  96. // request 上传分片请求。
  97. //
  98. // UploadPartResult 上传分片请求返回值。
  99. // error 操作无错误为nil,非nil为错误信息。
  100. //
  101. func (bucket Bucket) DoUploadPart(request *UploadPartRequest, options []Option) (*UploadPartResult, error) {
  102. listener := getProgressListener(options)
  103. params := "partNumber=" + strconv.Itoa(request.PartNumber) + "&uploadId=" + request.InitResult.UploadID
  104. opts := []Option{ContentLength(request.PartSize)}
  105. resp, err := bucket.do("PUT", request.InitResult.Key, params, params, opts,
  106. &io.LimitedReader{R: request.Reader, N: request.PartSize}, listener)
  107. if err != nil {
  108. return &UploadPartResult{}, err
  109. }
  110. defer resp.Body.Close()
  111. part := UploadPart{
  112. ETag: resp.Headers.Get(HTTPHeaderEtag),
  113. PartNumber: request.PartNumber,
  114. }
  115. if bucket.getConfig().IsEnableCRC {
  116. err = checkCRC(resp, "DoUploadPart")
  117. if err != nil {
  118. return &UploadPartResult{part}, err
  119. }
  120. }
  121. return &UploadPartResult{part}, nil
  122. }
  123. //
  124. // UploadPartCopy 拷贝分片。
  125. //
  126. // imur InitiateMultipartUpload成功后的返回值。
  127. // copySrc 源Object名称。
  128. // startPosition 本次拷贝片(Part)在源Object的起始位置。
  129. // partSize 本次拷贝片的大小。
  130. // partNumber 本次拷贝片的编号,范围是1~10000。如果超出范围,OSS将返回InvalidArgument错误。
  131. // options copy时源Object的限制条件,满足限制条件时copy,不满足时返回错误。可选条件有CopySourceIfMatch、
  132. // CopySourceIfNoneMatch、CopySourceIfModifiedSince CopySourceIfUnmodifiedSince,具体含义请参看
  133. // https://help.aliyun.com/document_detail/oss/api-reference/multipart-upload/UploadPartCopy.html
  134. //
  135. // UploadPart 上传成功的返回值,两个成员PartNumber、ETag。PartNumber片(Part)编号,即传入参数partNumber;
  136. // ETag及上传数据的MD5。error为nil时有效。
  137. // error 操作成功error为nil,非nil为错误信息。
  138. //
  139. func (bucket Bucket) UploadPartCopy(imur InitiateMultipartUploadResult, srcBucketName, srcObjectKey string,
  140. startPosition, partSize int64, partNumber int, options ...Option) (UploadPart, error) {
  141. var out UploadPartCopyResult
  142. var part UploadPart
  143. opts := []Option{CopySource(srcBucketName, srcObjectKey),
  144. CopySourceRange(startPosition, partSize)}
  145. opts = append(opts, options...)
  146. params := "partNumber=" + strconv.Itoa(partNumber) + "&uploadId=" + imur.UploadID
  147. resp, err := bucket.do("PUT", imur.Key, params, params, opts, nil, nil)
  148. if err != nil {
  149. return part, err
  150. }
  151. defer resp.Body.Close()
  152. err = xmlUnmarshal(resp.Body, &out)
  153. if err != nil {
  154. return part, err
  155. }
  156. part.ETag = out.ETag
  157. part.PartNumber = partNumber
  158. return part, nil
  159. }
  160. //
  161. // CompleteMultipartUpload 提交分片上传任务。
  162. //
  163. // imur InitiateMultipartUpload的返回值。
  164. // parts UploadPart/UploadPartFromFile/UploadPartCopy返回值组成的数组。
  165. //
  166. // CompleteMultipartUploadResponse 操作成功后的返回值。error为nil时有效。
  167. // error 操作成功error为nil,非nil为错误信息。
  168. //
  169. func (bucket Bucket) CompleteMultipartUpload(imur InitiateMultipartUploadResult,
  170. parts []UploadPart) (CompleteMultipartUploadResult, error) {
  171. var out CompleteMultipartUploadResult
  172. sort.Sort(uploadParts(parts))
  173. cxml := completeMultipartUploadXML{}
  174. cxml.Part = parts
  175. bs, err := xml.Marshal(cxml)
  176. if err != nil {
  177. return out, err
  178. }
  179. buffer := new(bytes.Buffer)
  180. buffer.Write(bs)
  181. params := "uploadId=" + imur.UploadID
  182. resp, err := bucket.do("POST", imur.Key, params, params, nil, buffer, nil)
  183. if err != nil {
  184. return out, err
  185. }
  186. defer resp.Body.Close()
  187. err = xmlUnmarshal(resp.Body, &out)
  188. return out, err
  189. }
  190. //
  191. // AbortMultipartUpload 取消分片上传任务。
  192. //
  193. // imur InitiateMultipartUpload的返回值。
  194. //
  195. // error 操作成功error为nil,非nil为错误信息。
  196. //
  197. func (bucket Bucket) AbortMultipartUpload(imur InitiateMultipartUploadResult) error {
  198. params := "uploadId=" + imur.UploadID
  199. resp, err := bucket.do("DELETE", imur.Key, params, params, nil, nil, nil)
  200. if err != nil {
  201. return err
  202. }
  203. defer resp.Body.Close()
  204. return checkRespCode(resp.StatusCode, []int{http.StatusNoContent})
  205. }
  206. //
  207. // ListUploadedParts 列出指定上传任务已经上传的分片。
  208. //
  209. // imur InitiateMultipartUpload的返回值。
  210. //
  211. // ListUploadedPartsResponse 操作成功后的返回值,成员UploadedParts已经上传/拷贝的片。error为nil时该返回值有效。
  212. // error 操作成功error为nil,非nil为错误信息。
  213. //
  214. func (bucket Bucket) ListUploadedParts(imur InitiateMultipartUploadResult) (ListUploadedPartsResult, error) {
  215. var out ListUploadedPartsResult
  216. params := "uploadId=" + imur.UploadID
  217. resp, err := bucket.do("GET", imur.Key, params, params, nil, nil, nil)
  218. if err != nil {
  219. return out, err
  220. }
  221. defer resp.Body.Close()
  222. err = xmlUnmarshal(resp.Body, &out)
  223. return out, err
  224. }
  225. //
  226. // ListMultipartUploads 列出所有未上传完整的multipart任务列表。
  227. //
  228. // options ListObject的筛选行为。Prefix返回object的前缀,KeyMarker返回object的起始位置,MaxUploads最大数目默认1000,
  229. // Delimiter用于对Object名字进行分组的字符,所有名字包含指定的前缀且第一次出现delimiter字符之间的object。
  230. //
  231. // ListMultipartUploadResponse 操作成功后的返回值,error为nil时该返回值有效。
  232. // error 操作成功error为nil,非nil为错误信息。
  233. //
  234. func (bucket Bucket) ListMultipartUploads(options ...Option) (ListMultipartUploadResult, error) {
  235. var out ListMultipartUploadResult
  236. options = append(options, EncodingType("url"))
  237. params, err := handleParams(options)
  238. if err != nil {
  239. return out, err
  240. }
  241. resp, err := bucket.do("GET", "", "uploads&"+params, "uploads", nil, nil, nil)
  242. if err != nil {
  243. return out, err
  244. }
  245. defer resp.Body.Close()
  246. err = xmlUnmarshal(resp.Body, &out)
  247. if err != nil {
  248. return out, err
  249. }
  250. err = decodeListMultipartUploadResult(&out)
  251. return out, err
  252. }