multipart.go 9.1 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263
  1. package oss
  2. import (
  3. "bytes"
  4. "encoding/xml"
  5. "io"
  6. "net/http"
  7. "os"
  8. "sort"
  9. "strconv"
  10. )
  11. //
  12. // InitiateMultipartUpload 初始化分片上传任务。
  13. //
  14. // objectKey Object名称。
  15. // options 上传时可以指定Object的属性,可选属性有CacheControl、ContentDisposition、ContentEncoding、Expires、
  16. // ServerSideEncryption、Meta,具体含义请参考
  17. // https://help.aliyun.com/document_detail/oss/api-reference/multipart-upload/InitiateMultipartUpload.html
  18. //
  19. // InitiateMultipartUploadResult 初始化后操作成功的返回值,用于后面的UploadPartFromFile、UploadPartCopy等操作。error为nil时有效。
  20. // error 操作成功error为nil,非nil为错误信息。
  21. //
  22. func (bucket Bucket) InitiateMultipartUpload(objectKey string, options ...Option) (InitiateMultipartUploadResult, error) {
  23. var imur InitiateMultipartUploadResult
  24. opts := addContentType(options, objectKey)
  25. resp, err := bucket.do("POST", objectKey, "uploads", "uploads", opts, nil)
  26. if err != nil {
  27. return imur, err
  28. }
  29. defer resp.body.Close()
  30. err = xmlUnmarshal(resp.body, &imur)
  31. return imur, err
  32. }
  33. //
  34. // UploadPart 上传分片。
  35. //
  36. // 初始化一个Multipart Upload之后,可以根据指定的Object名和Upload ID来分片(Part)上传数据。
  37. // 每一个上传的Part都有一个标识它的号码(part number,范围是1~10000)。对于同一个Upload ID,
  38. // 该号码不但唯一标识这一片数据,也标识了这片数据在整个文件内的相对位置。如果您用同一个part号码,上传了新的数据,
  39. // 那么OSS上已有的这个号码的Part数据将被覆盖。除了最后一片Part以外,其他的part最小为100KB;
  40. // 最后一片Part没有大小限制。
  41. //
  42. // imur InitiateMultipartUpload成功后的返回值。
  43. // reader io.Reader 需要分片上传的reader。
  44. // size 本次上传片Part的大小。
  45. // partNumber 本次上传片(Part)的编号,范围是1~10000。如果超出范围,OSS将返回InvalidArgument错误。
  46. //
  47. // UploadPart 上传成功的返回值,两个成员PartNumber、ETag。PartNumber片编号,即传入参数partNumber;
  48. // ETag及上传数据的MD5。error为nil时有效。
  49. // error 操作成功error为nil,非nil为错误信息。
  50. //
  51. func (bucket Bucket) UploadPart(imur InitiateMultipartUploadResult, reader io.Reader,
  52. size int64, partNumber int) (UploadPart, error) {
  53. var part = UploadPart{}
  54. params := "partNumber=" + strconv.Itoa(partNumber) + "&uploadId=" + imur.UploadID
  55. opts := []Option{ContentLength(size)}
  56. resp, err := bucket.do("PUT", imur.Key, params, params, opts, &io.LimitedReader{R: reader, N: size})
  57. if err != nil {
  58. return part, err
  59. }
  60. defer resp.body.Close()
  61. if bucket.getConfig().IsEnableCRC {
  62. err = checkCRC(resp, "UploadPart")
  63. if err != nil {
  64. return part, err
  65. }
  66. }
  67. part.ETag = resp.headers.Get(HTTPHeaderEtag)
  68. part.PartNumber = partNumber
  69. return part, nil
  70. }
  71. //
  72. // UploadPartFromFile 上传分片。
  73. //
  74. // imur InitiateMultipartUpload成功后的返回值。
  75. // filePath 需要分片上传的本地文件。
  76. // startPosition 本次上传文件片的起始位置。
  77. // partSize 本次上传文件片的大小。
  78. // partNumber 本次上传文件片的编号,范围是1~10000。
  79. //
  80. // UploadPart 上传成功的返回值,两个成员PartNumber、ETag。PartNumber片编号,传入参数partNumber;
  81. // ETag上传数据的MD5。error为nil时有效。
  82. // error 操作成功error为nil,非nil为错误信息。
  83. //
  84. func (bucket Bucket) UploadPartFromFile(imur InitiateMultipartUploadResult, filePath string,
  85. startPosition, partSize int64, partNumber int) (UploadPart, error) {
  86. var part = UploadPart{}
  87. fd, err := os.Open(filePath)
  88. if err != nil {
  89. return part, err
  90. }
  91. defer fd.Close()
  92. fd.Seek(startPosition, os.SEEK_SET)
  93. params := "partNumber=" + strconv.Itoa(partNumber) + "&uploadId=" + imur.UploadID
  94. resp, err := bucket.do("PUT", imur.Key, params, params, nil, &io.LimitedReader{R: fd, N: partSize})
  95. if err != nil {
  96. return part, err
  97. }
  98. defer resp.body.Close()
  99. if bucket.getConfig().IsEnableCRC {
  100. err = checkCRC(resp, "UploadPartFromFile")
  101. if err != nil {
  102. return part, err
  103. }
  104. }
  105. part.ETag = resp.headers.Get(HTTPHeaderEtag)
  106. part.PartNumber = partNumber
  107. return part, nil
  108. }
  109. //
  110. // UploadPartCopy 拷贝分片。
  111. //
  112. // imur InitiateMultipartUpload成功后的返回值。
  113. // copySrc 源Object名称。
  114. // startPosition 本次拷贝片(Part)在源Object的起始位置。
  115. // partSize 本次拷贝片的大小。
  116. // partNumber 本次拷贝片的编号,范围是1~10000。如果超出范围,OSS将返回InvalidArgument错误。
  117. // options copy时源Object的限制条件,满足限制条件时copy,不满足时返回错误。可选条件有CopySourceIfMatch、
  118. // CopySourceIfNoneMatch、CopySourceIfModifiedSince CopySourceIfUnmodifiedSince,具体含义请参看
  119. // https://help.aliyun.com/document_detail/oss/api-reference/multipart-upload/UploadPartCopy.html
  120. //
  121. // UploadPart 上传成功的返回值,两个成员PartNumber、ETag。PartNumber片(Part)编号,即传入参数partNumber;
  122. // ETag及上传数据的MD5。error为nil时有效。
  123. // error 操作成功error为nil,非nil为错误信息。
  124. //
  125. func (bucket Bucket) UploadPartCopy(imur InitiateMultipartUploadResult, srcBucketName, srcObjectKey string,
  126. startPosition, partSize int64, partNumber int, options ...Option) (UploadPart, error) {
  127. var out UploadPartCopyResult
  128. var part UploadPart
  129. opts := []Option{CopySource(srcBucketName, srcObjectKey),
  130. CopySourceRange(startPosition, partSize)}
  131. opts = append(opts, options...)
  132. params := "partNumber=" + strconv.Itoa(partNumber) + "&uploadId=" + imur.UploadID
  133. resp, err := bucket.do("PUT", imur.Key, params, params, opts, nil)
  134. if err != nil {
  135. return part, err
  136. }
  137. defer resp.body.Close()
  138. err = xmlUnmarshal(resp.body, &out)
  139. if err != nil {
  140. return part, err
  141. }
  142. part.ETag = out.ETag
  143. part.PartNumber = partNumber
  144. return part, nil
  145. }
  146. //
  147. // CompleteMultipartUpload 提交分片上传任务。
  148. //
  149. // imur InitiateMultipartUpload的返回值。
  150. // parts UploadPart/UploadPartFromFile/UploadPartCopy返回值组成的数组。
  151. //
  152. // CompleteMultipartUploadResponse 操作成功后的返回值。error为nil时有效。
  153. // error 操作成功error为nil,非nil为错误信息。
  154. //
  155. func (bucket Bucket) CompleteMultipartUpload(imur InitiateMultipartUploadResult,
  156. parts []UploadPart) (CompleteMultipartUploadResult, error) {
  157. var out CompleteMultipartUploadResult
  158. sort.Sort(uploadParts(parts))
  159. cxml := completeMultipartUploadXML{}
  160. cxml.Part = parts
  161. bs, err := xml.Marshal(cxml)
  162. if err != nil {
  163. return out, err
  164. }
  165. buffer := new(bytes.Buffer)
  166. buffer.Write(bs)
  167. params := "uploadId=" + imur.UploadID
  168. resp, err := bucket.do("POST", imur.Key, params, params, nil, buffer)
  169. if err != nil {
  170. return out, err
  171. }
  172. defer resp.body.Close()
  173. err = xmlUnmarshal(resp.body, &out)
  174. return out, err
  175. }
  176. //
  177. // AbortMultipartUpload 取消分片上传任务。
  178. //
  179. // imur InitiateMultipartUpload的返回值。
  180. //
  181. // error 操作成功error为nil,非nil为错误信息。
  182. //
  183. func (bucket Bucket) AbortMultipartUpload(imur InitiateMultipartUploadResult) error {
  184. params := "uploadId=" + imur.UploadID
  185. resp, err := bucket.do("DELETE", imur.Key, params, params, nil, nil)
  186. if err != nil {
  187. return err
  188. }
  189. defer resp.body.Close()
  190. return checkRespCode(resp.statusCode, []int{http.StatusNoContent})
  191. }
  192. //
  193. // ListUploadedParts 列出指定上传任务已经上传的分片。
  194. //
  195. // imur InitiateMultipartUpload的返回值。
  196. //
  197. // ListUploadedPartsResponse 操作成功后的返回值,成员UploadedParts已经上传/拷贝的片。error为nil时该返回值有效。
  198. // error 操作成功error为nil,非nil为错误信息。
  199. //
  200. func (bucket Bucket) ListUploadedParts(imur InitiateMultipartUploadResult) (ListUploadedPartsResult, error) {
  201. var out ListUploadedPartsResult
  202. params := "uploadId=" + imur.UploadID
  203. resp, err := bucket.do("GET", imur.Key, params, params, nil, nil)
  204. if err != nil {
  205. return out, err
  206. }
  207. defer resp.body.Close()
  208. err = xmlUnmarshal(resp.body, &out)
  209. return out, err
  210. }
  211. //
  212. // ListMultipartUploads 列出所有未上传完整的multipart任务列表。
  213. //
  214. // options ListObject的筛选行为。Prefix返回object的前缀,KeyMarker返回object的起始位置,MaxUploads最大数目默认1000,
  215. // Delimiter用于对Object名字进行分组的字符,所有名字包含指定的前缀且第一次出现delimiter字符之间的object。
  216. //
  217. // ListMultipartUploadResponse 操作成功后的返回值,error为nil时该返回值有效。
  218. // error 操作成功error为nil,非nil为错误信息。
  219. //
  220. func (bucket Bucket) ListMultipartUploads(options ...Option) (ListMultipartUploadResult, error) {
  221. var out ListMultipartUploadResult
  222. options = append(options, EncodingType("url"))
  223. params, err := handleParams(options)
  224. if err != nil {
  225. return out, err
  226. }
  227. resp, err := bucket.do("GET", "", "uploads&"+params, "uploads", nil, nil)
  228. if err != nil {
  229. return out, err
  230. }
  231. defer resp.body.Close()
  232. err = xmlUnmarshal(resp.body, &out)
  233. if err != nil {
  234. return out, err
  235. }
  236. err = decodeListMultipartUploadResult(&out)
  237. return out, err
  238. }